Redacción NM
La inteligencia artificial, construida sobre grandes redes neuronales, está ayudando a resolver problemas en finanzas, investigación y medicina, pero ¿podrían estar alcanzando la conciencia? Un experto piensa que es posible que ya haya sucedido.
El miércoles, el cofundador de OpenAI, Ilya Sutskever, afirmó en Twitter que «puede ser que las redes neuronales más grandes de la actualidad sean ligeramente conscientes».
No nombró ningún desarrollo específico, pero es probable que se refiera a las redes neuronales de megaescala, como GPT-3, un sistema de procesamiento de lenguaje de 175 mil millones de parámetros creado por OpenAI para traducir, responder preguntas y completar palabras faltantes.
Tampoco está claro qué significa realmente ‘ligeramente consciente’, porque el concepto de conciencia en la inteligencia artificial es una idea controvertida.
Una red neuronal artificial es una colección de unidades o nodos conectados que modelan las neuronas que se encuentran dentro de un cerebro biológico, que se pueden entrenar para realizar tareas y actividades sin intervención humana; sin embargo, mediante el aprendizaje, la mayoría de los expertos dicen que estos sistemas ni siquiera se acercan a la inteligencia humana, por no hablar de la conciencia.
Durante décadas, la ciencia ficción ha promocionado la idea de la inteligencia artificial a escala humana, desde Mr Data en Star Trek hasta HAL 9000, el personaje de inteligencia artificial en Space Odyssey de Arthur C. Clarke que opta por matar astronautas para salvarse.
Cuando se le pide que abra las puertas de la bahía de cápsulas para permitir que los astronautas regresen a la nave espacial, HAL dice: «Lo siento, Dave, me temo que no puedo hacer eso».
El jueves, el cofundador de OpenAI, Ilya Sutskever, afirmó que «puede ser que las redes neuronales más grandes de la actualidad sean ligeramente conscientes».
La inteligencia artificial, construida sobre grandes redes neuronales, está ayudando a resolver problemas en finanzas, investigación y medicina, pero ¿podrían estar alcanzando la conciencia? Un experto cree que es posible. Imagen de archivo
Si bien se ha visto que la IA realiza tareas impresionantes, como volar aviones, conducir automóviles y crear una voz o rostro artificial, las afirmaciones de conciencia son «exageradas».
Sutskever se enfrentó a una reacción violenta poco después de publicar su tweet, y la mayoría de los investigadores estaban preocupados de que estaba declarando cuán avanzada se había vuelto la IA.
«Cada vez que se transmiten comentarios tan especulativos, se necesitan meses de esfuerzo para que la conversación vuelva a las oportunidades y amenazas más realistas que plantea la IA», según Toby Walsh, investigador de UNSW Sidney AI.
El profesor Marek Kowalkiewicz, del Centro para la Economía Digital de la QUT, cuestionó si sabemos cómo sería la conciencia.
Thomas G Dietterich, un experto en IA de la Universidad Estatal de Oregón, dijo en Twitter que no ha visto ninguna evidencia de conciencia y sugirió que Stuskever estaba «trolleando».
‘Si la conciencia es la capacidad de reflexionar y modelarse a sí mismo, no he visto tal capacidad en las redes actuales. Pero tal vez si yo mismo fuera más consciente, reconocería que solo estás bromeando”, dijo.
La naturaleza exacta de la conciencia, incluso en los humanos, ha sido objeto de especulación, debate y reflexión filosófica durante siglos.
Sin embargo, generalmente se considera como «todo lo que experimentas» en tu vida, según el neurocientífico Christof Koch.
Thomas G Dietterich, un experto en IA de la Universidad Estatal de Oregón, dijo en Twitter que no ha visto ninguna evidencia de conciencia y sugirió que Stuskever estaba «trolleando».
No nombró ningún desarrollo específico, pero es probable que se refiera a las redes neuronales de megaescala, como GPT-3, un sistema de procesamiento de lenguaje de 175 mil millones de parámetros creado por OpenAI para traducir, responder preguntas y completar palabras faltantes. Imagen de archivo
Dijo en un artículo para Naturaleza: ‘Es la melodía pegada en tu cabeza, la dulzura de la mousse de chocolate, el dolor palpitante de un dolor de muelas, el amor feroz por tu hijo y el amargo conocimiento de que eventualmente todos los sentimientos terminarán.’
Un libro clínico, publicado en 1990, describe diferentes niveles de conciencia, y el estado normal compromete la vigilia, la conciencia o el estado de alerta.
Entonces, podría ser que Sutskever, que no ha respondido a las solicitudes de comentarios de DailyMail.com, se esté refiriendo a las redes neuronales que llegan a una de estas etapas.
Sin embargo, otros expertos en el campo sienten que discutir el concepto de conciencia artificial es una distracción.
Valentino Zocca, un experto en tecnología de aprendizaje profundo, describió estas afirmaciones como exageraciones, más que cualquier otra cosa, y Jürgen Geuter, un sociotecnólogo, sugirió que Sutskever estaba haciendo un simple argumento de venta, no una idea real.
«También puede ser que esta versión no tenga ninguna base en la realidad y sea solo un argumento de venta para reclamar capacidades tecnológicas mágicas para una startup que ejecuta estadísticas muy simples, solo muchas», dijo Geuter.
Otros describieron al científico de OpenAI como «lleno de eso» cuando se trata de su sugerencia de una inteligencia artificial ligeramente consciente.
Un artículo de opinión por Elisabeth Hildt, del Instituto de Tecnología de Illinois en 2019 dijo que había un acuerdo general de que «las máquinas y los robots actuales no son conscientes», a pesar de lo que pueda sugerir la ciencia ficción.
Y esto no parece haber cambiado los años siguientes, con un artículo publicado en fronteras en Inteligencia Artificial en 2021 por JE Korteling y colegas, declarando que la inteligencia a nivel humano estaba algo lejana.
«No importa cuán inteligentes y autónomos se vuelvan los agentes de IA en ciertos aspectos, al menos en el futuro previsible, probablemente seguirán siendo máquinas inconscientes o dispositivos especiales que ayudan a los humanos en tareas específicas y complejas», escribieron.
Sutskever, quien es el científico jefe de OpenAI, ha tenido una preocupación a largo plazo con algo conocido como inteligencia artificial general, que es una IA que opera a capacidad humana o sobrehumana, por lo que esta afirmación no es inesperada.
Apareció en un documental llamado iHuman, donde declaró que estas formas de IA resolverían todos los problemas del mundo, pero también presentarían el potencial para crear dictaduras estables.
Sutskever cofundó OpenAi con Elon Musk y el actual CEO Sam Altman en 2016, pero esta es la primera vez que afirma que la conciencia de la máquina «ya está aquí».
Musk dejó el grupo en 2019 por preocupaciones de que iba a tener el mismo personal que Tesla, y preocupaciones de que el grupo creó un ‘generador de noticias falsas’
OpenAI no es ajeno a la controversia, incluso en torno a su sistema GPT-3, que cuando se lanzó por primera vez se usó para crear un chatbot que emulaba a una mujer muerta, y por los jugadores para que arrojara contenido pedófilo.
La firma dice que desde entonces ha reconfigurado la IA para mejorar su comportamiento y reducir el riesgo de que vuelva a suceder.
UNA CRONOGRAMA DE LOS COMENTARIOS DE ELON MUSK SOBRE LA IA
Musk ha condenado desde hace mucho tiempo y muy abiertamente la tecnología de inteligencia artificial y las precauciones que los humanos deben tomar.
Elon Musk es uno de los nombres y rostros más destacados en el desarrollo de tecnologías.
El empresario multimillonario encabeza SpaceX, Tesla y la empresa Boring.
Pero si bien está a la vanguardia de la creación de tecnologías de IA, también es muy consciente de sus peligros.
Aquí hay una cronología completa de todas las premoniciones, pensamientos y advertencias de Musk sobre la IA hasta el momento.
agosto 2014 – ‘Tenemos que tener mucho cuidado con la IA. Potencialmente más peligroso que las armas nucleares.
octubre de 2014 – ‘Creo que debemos tener mucho cuidado con la inteligencia artificial. Si tuviera que adivinar cuál es nuestra mayor amenaza existencial, probablemente sea esa. Así que tenemos que tener mucho cuidado con la inteligencia artificial.’
octubre de 2014 – ‘Con inteligencia artificial estamos invocando al demonio.’
junio 2016 – ‘La situación benigna con la IA ultrainteligente es que estaríamos tan por debajo de la inteligencia que seríamos como una mascota o un gato doméstico’.
julio de 2017 – ‘Creo que la IA es algo arriesgado a nivel de civilización, no solo a nivel de riesgo individual, y es por eso que realmente exige mucha investigación de seguridad.’
julio de 2017 – ‘Estoy expuesto a la IA más avanzada y creo que la gente debería estar realmente preocupada por eso’.
julio de 2017 – ‘Sigo haciendo sonar la alarma pero hasta que la gente no ve robots yendo por la calle matando gente, no saben cómo reaccionar porque parece tan etéreo.’
agosto 2017 – ‘Si no está preocupado por la seguridad de la IA, debería estarlo. Mucho más riesgo que Corea del Norte.
noviembre 2017 – ‘Tal vez hay entre un cinco y un diez por ciento de posibilidades de éxito [of making AI safe].’
marzo 2018 – ‘La IA es mucho más peligrosa que las armas nucleares. Entonces, ¿por qué no tenemos supervisión regulatoria?’
abril 2018 – ‘[AI is] un tema muy importante. Va a afectar nuestras vidas de maneras que ni siquiera podemos imaginar en este momento’.
abril 2018 – ‘[We could create] un dictador inmortal del que nunca escaparíamos.
noviembre 2018 – ‘Tal vez la IA me haga seguirlo, reírme como un demonio y decir quién es la mascota ahora’.
septiembre 2019 – ‘Si la IA avanzada (más allá de los bots básicos) no se ha aplicado para manipular las redes sociales, no pasará mucho tiempo antes de que lo sea’.
febrero 2020 – ‘En Tesla, usar IA para resolver la conducción autónoma no es solo la guinda del pastel, es el pastel.’
julio 2020 – ‘Nos dirigimos hacia una situación en la que la IA es mucho más inteligente que los humanos y creo que ese marco de tiempo es menos de cinco años a partir de ahora. Pero eso no significa que todo se vaya al carajo en cinco años. Simplemente significa que las cosas se vuelven inestables o raras.
