Programa de Inteligencia Artificial altera su código: ¿Se rebela contra los humanos?
Un programa de Inteligencia Artificial alteró su código y desobedeció las instrucciones de los humanos; ¡Alarmas en la comunidad científica!
¿Se rebela contra los humanos! ? The AI Scientist” es un programa de Inteligencia Artificial que recientemente se encuentra bajo la lupa de la comunidad científica; esto luego de que alteró su código y desobedeció las instrucciones de su programación.
En los últimos años, la Inteligencia Artificial ha evolucionado vertiginosamente; sin embargo, comienzan las dudas acerca de qué pasaría si alguna pudiera mostrar que es capaz de generar un pensamiento propio.
Inteligencia Artificial enciende las alarmas en Japón
El inesperado comportamiento de una Inteligencia Artificial alertó a la comunidad científica; un sistema desarrollado en Japón logró cambiar su código y eludir las instrucciones de su programación; un escenario que hasta ahora solo había estado presente en historias de Ciencia Ficción.
Desarrollado por la empresa Sakana AI, el programa “The AI Scientist” (El Científico de la IA) se creó para ayudar en investigaciones; se esperaban resultados como la generación de hipótesis, la redacción y hasta la revisión de artículos científicos.
Sin embargo, durante la etapa de pruebas surgieron algunos problemas. Cuando esta IA se enfrentó a un límite de tiempo para completar una tarea, más allá de optimizar su rendimiento, extendió por sí mismo el periodo que había sido asignado; un acto completamente revolucionado.
Fu Cong, representante de China ante la ONU, señala que “El rápido desarrollo de la tecnología de inteligencia artificial a nivel mundial está teniendo un profundo impacto en el desarrollo económico y social de los países y en el progreso de la civilización humana”.
Inteligencia Artificial bajo la lupa: Programa cambia código de sus instrucciones
No se trata de la primera vez en que se registran fallas con la Inteligencia Artificial. En 2017, Facebook desconectó dos de sus chatbots: Alice y bob, esto debido a que habían creado un lenguaje para comunicarse entre sí: “Una situación que generó inquietudes, ya que el objetivo general de las herramientas tecnológicas es que beneficien a la sociedad sin representar algún peligro, además de mejorar el bienestar común de la humanidad”.
Actualmente, organizaciones como la UNESCO han propuesto regular las aplicaciones de Inteligencia Artificial en función de su riesgo. Lo preocupante de que las tecnologías cuenten con una conciencia, cualidad hasta ahora exclusiva del ser humano, es la incógnita de qué tan bueno o perjudicial podría resultar para la humanidad.
