Redacción NM
Las operaciones militares modernas, ya sean de combate, médicas o de socorro en casos de desastre, requieren que se tomen decisiones complejas muy rápidamente, y la IA podría usarse para tomarlas.
La Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) lanzó un nuevo programa destinado a introducir la inteligencia artificial en el proceso de toma de decisiones.
Esto se debe a que, en una situación de emergencia del mundo real, eso podría requerir elecciones instantáneas entre quién recibe ayuda y quién no, la respuesta no siempre es clara y las personas no están de acuerdo sobre el curso de acción correcto: la IA tomará una decisión rápida.
La última iniciativa de DARPA, llamada ‘In the Moment’, involucrará una nueva tecnología que podría tomar decisiones difíciles en situaciones estresantes, utilizando análisis de datos en vivo, como la condición de los pacientes en un evento con víctimas masivas y la disponibilidad de medicamentos.
Se produce cuando el ejército de EE. UU. se apoya cada vez más en la tecnología para reducir el error humano, y DARPA argumenta que eliminar el sesgo humano de la toma de decisiones «salvará vidas».
La nueva IA tardará dos años en entrenarse, luego otros 18 meses en prepararse, antes de que sea probable que se use en un escenario del mundo real, según DARPA.
«La IA es excelente para contar cosas», dijo Sally A. Applin, experta en la interacción de la IA y la ética. El Correo de Washingtony agregó ‘Creo que podría sentar un precedente por el cual la decisión por la vida de alguien se pone en manos de una máquina’.
Las operaciones militares modernas, ya sean de combate, médicas o de socorro en casos de desastre, requieren que se tomen decisiones complejas muy rápidamente, y la IA podría usarse para tomarlas. Imagen de archivo
Según DARPA, la tecnología es solo una parte del problema cuando se trata de cambiar a la toma de decisiones de IA, el resto está en generar confianza humana.
«A medida que los sistemas de IA se vuelven más avanzados en el trabajo en equipo con humanos, es vital generar una confianza humana adecuada en las habilidades de la IA para tomar decisiones acertadas», explicó un portavoz de la organización de investigación militar.
«Capturar las características clave que subyacen a la toma de decisiones por parte de expertos humanos en entornos dinámicos y representar computacionalmente esos datos en los tomadores de decisiones algorítmicas puede ser un elemento esencial para garantizar que los algoritmos tomen decisiones confiables en circunstancias difíciles».
DARPA anunció el programa In the Moment (ITM) a principios de este mes, con la primera tarea de trabajar con tomadores de decisiones humanos confiables, para explorar las mejores opciones a tomar cuando no hay una respuesta correcta acordada obvia.
La Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) lanzó un nuevo programa destinado a introducir la inteligencia artificial en el proceso de toma de decisiones. Imagen de archivo
«ITM es diferente de los enfoques típicos de desarrollo de IA que requieren un acuerdo humano sobre los resultados correctos», dijo Matt Turek, gerente de programa de ITM.
«La falta de una respuesta correcta en escenarios difíciles nos impide utilizar técnicas de evaluación de IA convencionales, que implícitamente requieren el acuerdo humano para crear datos reales».
Por ejemplo, los algoritmos utilizados por los automóviles autónomos pueden basarse en la verdad sobre el terreno para las respuestas de conducción correctas e incorrectas, en función de las señales de tráfico y las normas de circulación.
Cuando las reglas no cambian, los valores de riesgo codificados se pueden usar para entrenar la IA, pero esto no funcionará para el Departamento de Defensa (DoD).
«Cocinar valores de riesgo de talla única no funcionará desde la perspectiva del Departamento de Defensa porque las situaciones de combate evolucionan rápidamente y la intención del comandante cambia de un escenario a otro», dijo Turek.
‘El Departamento de Defensa necesita enfoques rigurosos, cuantificables y escalables para evaluar y construir sistemas algorítmicos para la toma de decisiones difíciles donde la verdad objetiva del terreno no está disponible.
‘Las decisiones difíciles son aquellas en las que los tomadores de decisiones de confianza no están de acuerdo, no existe una respuesta correcta y la incertidumbre, la presión del tiempo y los valores en conflicto crean importantes desafíos en la toma de decisiones.’
Para resolver el problema, DARPA se está inspirando en el campo del análisis de imágenes médicas.
En esta área, se han desarrollado técnicas para evaluar sistemas incluso cuando los expertos pueden estar en desacuerdo.
«Sobre la base de la información sobre imágenes médicas, ITM desarrollará un marco cuantitativo para evaluar la toma de decisiones mediante algoritmos en dominios muy difíciles», dijo Turek.
“Crearemos escenarios de toma de decisiones desafiantes y realistas que provocarán respuestas de humanos de confianza para capturar una distribución de los atributos clave de los tomadores de decisiones.
«Luego, someteremos un algoritmo de toma de decisiones a los mismos escenarios desafiantes y mapearemos sus respuestas en la distribución de referencia para compararlo con los tomadores de decisiones humanos de confianza».
El programa tiene cuatro áreas técnicas, que cubren diferentes aspectos de la investigación.
El primero busca la creación de la caracterización de los tomadores de decisiones, que tiene como objetivo identificar los atributos clave de los humanos encargados de tomar decisiones en el campo.
El segundo será crear una puntuación entre una decisión humana y un algoritmo, con el objetivo de crear decisiones de algoritmos en las que los humanos puedan confiar.
El tercero será crear un programa, basado en estos puntajes, que pueda ser evaluado, y el cuarto será crear políticas y prácticas para su uso.
Pasarán tres años y medio antes de que se alcance la etapa final, según DARPA, con los primeros dos años dedicados a construir una IA básica y probarla en diferentes escenarios.
La segunda mitad, que cubre los últimos 18 meses, implicará expandir las capacidades de la IA y probarla en eventos más complejos con múltiples víctimas.
La OTAN también está trabajando para crear asistentes de IA que puedan ayudar en la toma de decisiones, en este caso un asistente de clasificación en colaboración con la Universidad Johns Hopkins.
El coronel Sohrab Dalal, jefe de la rama médica del Comando Supremo Aliado de Transformación de la OTAN, le dijo al Washington Post que al triage le vendría bien una actualización.
Este es el proceso en el que los médicos visitan a los soldados para evaluar la urgencia de la atención y no ha cambiado mucho en los últimos 200 años.
Su equipo utilizará los datos de lesiones de NATA, junto con los sistemas de puntuación de víctimas, las predicciones y la información sobre la condición de un paciente para elegir quién debe recibir atención primero.
«Es un muy buen uso de la inteligencia artificial», dijo Dalal, un médico capacitado. ‘La conclusión es que tratará mejor a los pacientes [and] salva vidas.’
CÓMO APRENDEN LAS INTELIGENCIAS ARTIFICIALES UTILIZANDO LAS REDES NEURONALES
Los sistemas de IA se basan en redes neuronales artificiales (ANN), que intentan simular la forma en que funciona el cerebro para aprender.
Las ANN se pueden entrenar para reconocer patrones en la información, incluidos el habla, los datos de texto o las imágenes visuales, y son la base de una gran cantidad de desarrollos en IA en los últimos años.
La IA convencional utiliza la entrada para «enseñar» un algoritmo sobre un tema en particular alimentándolo con cantidades masivas de información.
Los sistemas de IA se basan en redes neuronales artificiales (ANN), que intentan simular la forma en que funciona el cerebro para aprender. Las ANN se pueden entrenar para reconocer patrones en la información, incluidos el habla, los datos de texto o las imágenes visuales.
Las aplicaciones prácticas incluyen los servicios de traducción de idiomas de Google, el software de reconocimiento facial de Facebook y los filtros en vivo de alteración de imágenes de Snapchat.
El proceso de ingreso de estos datos puede llevar mucho tiempo y está limitado a un tipo de conocimiento.
Una nueva generación de ANN llamada Adversarial Neural Networks enfrenta el ingenio de dos bots de IA, lo que les permite aprender unos de otros.
Este enfoque está diseñado para acelerar el proceso de aprendizaje, así como para refinar el resultado creado por los sistemas de IA.
