Los expertos le dijeron a Euronews a continuación sobre los impactos de los sistemas de IA en la frontera, diciendo que merece más atención de los legisladores de la UE.
Como dijeron los líderes de la UE en Bruselas esto semana Que necesitan seguir explorando nuevas formas de frenar la migración irregular, los expertos están pidiendo que se atraiga más atención sobre cómo los programas respaldados por la inteligencia artificial (IA) y la vigilancia automatizada podrían usarse en las fronteras de Europa.
Los expertos dijeron a Euronews Next que 12 estados de la UE están probando sistemas de control de fronteras automatizados o sistemas con AI en Borders.
Derya Ozkul, profesora asociada en la Universidad de Warwick en el Reino Unido, dijo que se sabe poco sobre cómo estas tecnologías afectarán los derechos de los migrantes.
«Los migrantes se están utilizando como conejillos de indias realmente en esta área», dijo Ozkul en una entrevista.
«Todos los problemas técnicos con los sistemas, todos los posibles problemas, etc., todos se convierten en fallas para que los migrantes sean, y en realidad no hay mucha responsabilidad».
¿Qué tecnología de IA ya está en su lugar en las fronteras de la UE?
Donde la IA ya está integrada o se está probando a lo largo de algunas de las fronteras de la UE es principalmente como soporte de procesamiento para solicitantes de asilo, dijo Ozkul.
Una herramienta de IA que la oficina federal de Migración y Refugiados de Alemania (BAMF) usos es un software automatizado de reconocimiento de idioma y dialecto para ayudar a los funcionarios a corroborar el país de origen de un migrante sin documentos oficiales basados en una grabación de voz de dos minutos.
Una declaración de BAMF a Euronews luego dijo que el software reconoce cinco dialectos árabes principales: egipcio, Gulfo, iraquí, Levantino y Magrebi y podrían ampliarse a más en el futuro.
La herramienta es una forma de verificar la información que un reclamante proporcionaría durante su audiencia, pero solo se usa «en casos especiales … cuando sea apropiado», dijo el departamento.
El departamento dijo que el reconocimiento del dialecto se utilizó en 43,593 casos en 2023 de las 334,000 solicitudes que recibió ese año.
AI también es utilizado por los funcionarios fronterizos para ayudarlos a reconocer «hechos relevantes para la seguridad» en las audiencias de asilo, dijo el gobierno. Los tomadores de decisiones pueden editar, complementar o descartar la información marcada por la IA, por lo que el «humano decide, no la IA».
La IA simplifica el proceso de informes para los tomadores de decisiones que dicen que puede ser difícil identificar información de seguridad durante estas audiencias, continuó Bamf.
Ozkul dijo que los migrantes a menudo no son conscientes de que sus casos de asilo se procesarán utilizando automatización o IA.
«[Migrants] Por lo general, no tiene idea de cómo el sistema está procesando su aplicación, y no tienen voz en el proceso ”, dijo Ozkul.
«Es posible que no puedan rechazar el resultado porque, nuevamente, no tienen tantos derechos como lo harían los ciudadanos», agregó.
ANUNCIO¿Qué oportunidades de IA ha identificado la UE?
La UE ya ha invertido en algunos proyectos basados en IA en todo el bloque.
Uno de ellos es Centaurus, un proyecto en instalaciones de detención griegas como las que a lo largo del río Evros que permite a las cámaras de CCTV con algoritmos de análisis de comportamiento que detectan el comportamiento ilegal por parte de los grupos y usan drones para evaluar el comportamiento de los migrantes en las instalaciones «sin intervención humana».
El bloque también ha invertido en Hyperion, un segundo sistema que utiliza datos biométricos de huellas dactilares para facilitar las instalaciones de detención y salida de la salida.
Maria Gavouneli, Presidenta de la Comisión Nacional Griega de Derechos Humanos, un organismo asesor independiente del gobierno, lo calificó como un «ejercicio de vigilancia importante que se coordina [and] financiado por la Unión Europea ”.
ANUNCIOGavouneli dijo que la mayoría de las tecnologías de vigilancia que se utilizan en EVROS también pueden usarse para la defensa nacional, algo que «se intensificará» en los próximos años.
«El principal problema con el que nos enfrentaremos son cuestiones de transparencia, cuestiones de responsabilidad», dijo Gavouneli.
La UE también ha invertido en algunos proyectos apoyados por IA para detectar el contrabando migrantes, como el Compass2020 Proyecto, que vio a los buques de patrulla lanzar de manera autónoma drones submarinos para aumentar su rango de vigilancia.
Otro, el paseo proyectoutiliza IA para mejorar la vigilancia marítima y el análisis de datos a unos 370 kilómetros de la costa.
ANUNCIOTambién existe la posibilidad de que el bloque expande el uso de IA en Borders en el futuro cercano, con algunas áreas clave identificadas en un 2020 papel blanco.
El reconocimiento automático de huellas digitales y faciales, la detección de emociones generadas por IA, las evaluaciones de riesgo de migrantes con algoritmos y el monitoreo de tendencias de IA son algunas áreas clave de interés, según el informe.
