Redacción NM
La inteligencia artificial podría usarse indebidamente para diseñar armas biológicas, advierten los científicos después de que su IA produjera 40,000 medicamentos potencialmente tóxicos en solo seis horas.
La inteligencia artificial podría usarse indebidamente para diseñar armas químicas y biológicas altamente tóxicas, advierten los científicos.
Los algoritmos informáticos son una fuerza para el bien, identificando nuevas formas de antibióticos y medicamentos para combatir la infección por covid.
Pero cuatro investigadores involucrados en el descubrimiento de fármacos basados en IA ahora han descubierto que la tecnología podría manipularse fácilmente para buscar agentes nerviosos tóxicos.
El Instituto Federal Suizo para la Protección Nuclear, Biológica y Química les pidió a los cuatro que investigaran si la IA podría ser utilizada por aquellos con motivos ocultos, y su IA produjo 40,000 drogas potencialmente tóxicas en seis horas.
Han destacado sus preocupaciones en la revista Nature Machine Intelligence.
Cuatro investigadores involucrados en el descubrimiento de fármacos basados en IA ahora han descubierto que la tecnología podría manipularse fácilmente para buscar agentes nerviosos tóxicos.
Fabio Urbina, autor principal del artículo, le dijo a la revista de tecnología en línea The Verge que el ejercicio les hizo darse cuenta de que «todo lo que tenemos que hacer es girar el interruptor y decir: «en lugar de alejarnos de la toxicidad, ¿qué pasa si vamos hacia la toxicidad?». ‘
Su IA comenzó a ‘producir todos estos [toxic] moléculas, muchas de las cuales parecen agentes de guerra química’.
Algunas de las moléculas eran «más tóxicas que VX», un agente nervioso desarrollado por el Laboratorio de Ciencia y Tecnología de Defensa del Reino Unido en la década de 1950, que mata por parálisis muscular.
El Sr. Urbina, de Collaboration Pharmaceuticals en Carolina del Norte, EE. UU., dijo: ‘La preocupación era lo fácil que era. Muchas de las cosas que usamos están disponibles de forma gratuita. Puede descargar un conjunto de datos de toxicidad desde cualquier lugar.
