Redacción NM
Enjambres de drones asesinos con IA pueden parecer la trama de un thriller distópico de ciencia ficción.
Pero en una aterradora visión del futuro, un científico ha demostrado lo fácil que ya es construir un «dron asesino» que pueda cazar y matar personas.
En tan solo unas horas, Luis Wenus, ingeniero y empresario, convirtió un dron de 115 dólares (£89,99) en la base de un arma mortal.
Utilizando el reconocimiento facial de IA, el dron fue programado para reconocer individuos y correr hacia ellos a toda velocidad.
Aunque Wenus dice que construyó el dron «para un juego», también dice que quería crear conciencia sobre la facilidad con la que podría usarse en un ataque terrorista mortal.
Los drones asesinos fueron la inspiración para la película de terror de ciencia ficción de 2019 The Drone, pero pueden estar más cerca de la realidad de lo que pensábamos e incluso más fáciles de hacer de lo que pensábamos.
En un vídeo publicado en X, anteriormente Twitter, Wenus y su colega ingeniero demostraron cómo se puede programar un dron comercial para perseguir objetivos.
En la publicación, Wenus escribe: «Pensé que sería divertido construir un dron que te persiguiera como un juego».
Sin embargo, el aterrador vídeo muestra rápidamente lo peligrosa que podría ser realmente esta tecnología.
El dron utiliza un ‘modelo de detección de objetos’ de IA para reconocer rostros utilizando su cámara integrada.
Una vez que ve una cara, el dron está programado para intentar mantenerla en el centro de su visión y volar directamente hacia adelante, persiguiendo a su objetivo.
En un modo, el dron cargará directamente hacia cualquier cosa que reconozca como una cara.
En este modo, el vídeo muestra cómo el dron comienza a «atacar» a otras personas en el parque y solo se detiene cuando Wenus lo atrapa.
Luis Wenus, ingeniero y emprendedor, mostró cómo convirtió un dron disponible comercialmente en un ‘dron asesino’ diseñado para cazar objetivos en apenas unas horas
El dron también tiene una segunda configuración que Wenus describe como un «dron de asesinato».
Wenus escribió: «También pude agregarle reconocimiento facial y solo hacer que atacara a alguien que sabía quién era; podía identificar fácilmente a la persona desde una distancia de 10 metros».
El vídeo muestra cómo el dron elige selectivamente perseguir a su objetivo, ignorando a otras personas.
Y, si bien este dron no es particularmente peligroso, Wenus advierte que más drones mortíferos podrían representar una seria amenaza.
Escribió: «Esto literalmente tomó solo unas pocas horas para construirlo y me hizo darme cuenta de lo aterrador que es». Podrías fácilmente colocarles una pequeña cantidad de explosivos y dejar que cientos de ellos vuelen por ahí.’
En una publicación en X, anteriormente Twitter, Wenus dice que quería desarrollar el dron «como un juego», pero rápidamente se dio cuenta de lo peligrosa que podía ser esta tecnología.
El vídeo muestra cómo el dron está programado para reconocer rostros y volar a toda velocidad hacia ellos
En las redes sociales, algunos comentaristas expresaron una mezcla de admiración por la tecnología y temor por lo que podría ser capaz de hacer.
A otros comentaristas les preocupaba que desarrollar drones asesinos ahora fuera extremadamente fácil con un poco de conocimiento técnico.
Incluso Elon Musk, director ejecutivo de X, expresó su preocupación porque es «alarmantemente fácil» crear drones asesinos autónomos.
En las redes sociales, los comentaristas reaccionaron con una mezcla de fascinación y horror ante el invento.
En respuesta a la publicación, un usuario de X escribió: ‘A nivel superficial, esto es genial, ¡pero el potencial de usarlo para el mal da un poco de miedo!’
Otro comentarista añadió: «Sí, eso no debería ser fácil de construir…»
Incluso Elon Musk, director ejecutivo de X, respondió a la publicación diciendo: «Sí, es alarmantemente fácil».
Los pequeños drones portadores de explosivos ya están teniendo un impacto significativo en la guerra en Ucrania.
Los operadores de drones ucranianos colocan granadas, morteros y otros artefactos explosivos en drones baratos disponibles comercialmente para crear armas mortales.
Estos drones en primera persona han demostrado ser extremadamente efectivos para cazar y destruir todo, desde tropas individuales hasta tanques y búnkeres.
Pero la diferencia crucial es que estos drones son operados por un individuo que siempre tiene el control del proceso en lugar de una IA autónoma.
Los operadores de drones ucranianos (en la foto) han estado utilizando drones comerciales baratos con dispositivos explosivos para cazar tanques y búnkeres rusos.
El dron utilizado por Wenus en esta demostración es extremadamente barato y fácil de conseguir, ya que está disponible en Amazon por sólo 115 dólares (£89,99).
El peligro real es que se puedan lanzar enjambres de drones autónomos baratos y fáciles de producir en los campos de batalla o incluso en espacios públicos.
Wenus escribe: «Mi apuesta es que veremos algún tipo de ataque terrorista utilizando este tipo de tecnología en los próximos años.
«Aún se necesitan algunos conocimientos técnicos para construir esto ahora, pero cada vez será más fácil».
Aún no se han desplegado enjambres de drones autónomos en el campo de batalla, pero se informa que DARPA está desarrollando un arma de destrucción masiva de enjambres de drones denominada AMASS (Enjambres de enjambres adaptables multidominio autónomos).
AMASS todavía se encuentra en las etapas de planificación, pero DARPA (Agencia de Proyectos de Investigación Avanzada de Defensa) ha estado recogiendo ofertas de proveedores para el contrato de 78 millones de dólares.
Wenus escribió: ‘Comprobamos si hay bombas y armas de fuego, pero TODAVÍA NO EXISTEN SISTEMAS ANTIDRONES PARA GRANDES EVENTOS Y ESPACIOS PÚBLICOS. Necesitamos construir sistemas anti-drones para espacios civiles lo antes posible”.
Wenus demuestra el «modo asesinato» del dron. Esta imagen muestra cómo el dron reconoce su rostro y lo identifica como objetivo con la instrucción de ‘¡¡ATACAR!!’
Wenus se describe a sí mismo como un «absolutista del código abierto», lo que significa que cree que los avances importantes en el código, y en la IA en particular, deberían estar abiertos al público.
Y, en las respuestas a la publicación, varios usuarios de las redes sociales le pidieron a Wenus que publicara el código o compartiera un tutorial completo sobre cómo producir un dron asesino.
Sin embargo, en este caso dice que se abstendrá de publicar el código debido al peligro potencial que representan los drones autónomos.
«No publicaré por ahora. Sinceramente, es muy fácil de codificar, pero no tiene sentido habilitarlo», añadió.
