Un organismo asesor federal pide a las agencias de seguridad de Canadá que publiquen descripciones detalladas de sus usos actuales y previstos de los sistemas de inteligencia artificial y aplicaciones de software.
En un nuevo informe, el Grupo Asesor de Transparencia de Seguridad Nacional también insta al gobierno a estudiar la posibilidad de modificar la legislación que está considerando el Parlamento para garantizar la supervisión de cómo las agencias federales utilizan la IA.
Las recomendaciones se encuentran entre las últimas medidas propuestas por el grupo, creado en 2019 para aumentar la rendición de cuentas y la conciencia pública sobre las políticas, programas y actividades de seguridad nacional.
El gobierno considera que el grupo es un medio importante para implementar un compromiso federal de seis puntos para ser más transparente en materia de seguridad nacional.
Las agencias federales de inteligencia y seguridad respondieron al último informe del grupo enfatizando la importancia de la apertura, aunque algunos señalaron que la naturaleza de su trabajo limita lo que pueden divulgar públicamente.
Las agencias de seguridad ya están utilizando la IA para tareas que van desde la traducción de documentos hasta la detección de amenazas de malware. El informe prevé una mayor dependencia de la tecnología para analizar grandes volúmenes de texto e imágenes, reconocer patrones e interpretar tendencias y comportamientos.
A medida que el uso de la IA se expande en la comunidad de seguridad nacional, “es esencial que el público sepa más sobre los objetivos y las tareas” de los servicios nacionales de fronteras, policía y espionaje, afirma el informe.
“Es necesario diseñar e implementar mecanismos apropiados para fortalecer la apertura sistémica y proactiva dentro del gobierno, al tiempo que se posibilita una mejor supervisión y revisión externas”.
A medida que el gobierno colabora con el sector privado en la consecución de objetivos de seguridad nacional, “la apertura y el compromiso” son factores cruciales para la innovación y la confianza pública, mientras que “el secreto genera sospechas”, afirma el informe.
Un desafío clave para explicar el funcionamiento interno de la IA al público es la “opacidad de los algoritmos y modelos de aprendizaje automático”, la llamada “caja negra” que podría significar que incluso las agencias de seguridad nacional pierdan la comprensión de sus propias aplicaciones de IA, señala el informe.
Ottawa ha emitido una guía sobre el uso federal de la inteligencia artificial, incluido el requisito de realizar una evaluación del impacto algorítmico antes de la creación de un sistema que ayude o reemplace el juicio de los tomadores de decisiones humanos.
Obtenga noticias nacionales de última hora
Para recibir noticias que afectan a Canadá y al mundo entero, regístrese para recibir alertas de noticias de último momento enviadas directamente a usted cuando ocurran.
También ha presentado la Ley de Inteligencia Artificial y Datos, actualmente ante el Parlamento, para garantizar el diseño, desarrollo e implementación responsables de sistemas de IA.
Sin embargo, la ley y un nuevo comisionado de IA no tendrían jurisdicción sobre instituciones gubernamentales como las agencias de seguridad, lo que llevó al grupo asesor a recomendar que Ottawa considere ampliar la ley propuesta para cubrirlas.
El Communications Security Establishment, la agencia de ciberespionaje de Canadá, ha estado durante mucho tiempo a la vanguardia del uso de la ciencia de datos para filtrar y analizar enormes cantidades de información.
Aprovechar el poder de la IA no significa eliminar a los humanos del proceso, sino permitirles tomar mejores decisiones, dice la agencia.
En su último informe anual, el CSE describe el uso de sus supercomputadoras de alto rendimiento para entrenar nuevos modelos de inteligencia artificial y aprendizaje automático, incluida una herramienta de traducción personalizada.
La herramienta, que puede traducir contenidos de más de 100 idiomas, se introdujo a finales de 2022 y se puso a disposición de los principales socios de inteligencia extranjera de Canadá el año siguiente.
El Centro Cibernético del CSE ha utilizado herramientas de aprendizaje automático para detectar campañas de phishing dirigidas al gobierno y detectar actividad sospechosa en redes y sistemas federales.
En respuesta al informe del grupo asesor, el CSE destacó sus diversos esfuerzos para contribuir a la comprensión pública de la inteligencia artificial.
Sin embargo, indicó que CSE “enfrenta limitaciones únicas dentro de su mandato de proteger la seguridad nacional” que podrían plantear dificultades para publicar detalles de su uso actual y planificado de IA.
“Para garantizar que nuestro uso de la IA siga siendo ético, estamos desarrollando enfoques integrales para gobernar, gestionar y monitorear la IA y continuaremos recurriendo a las mejores prácticas y al diálogo para garantizar que nuestra orientación refleje el pensamiento actual”.
El Servicio de Inteligencia de Seguridad de Canadá, que investiga amenazas como la actividad extremista, el espionaje y la intromisión extranjera, acogió con satisfacción el informe del grupo de transparencia.
El servicio de espionaje dijo que se está trabajando para formalizar los planes y la gobernanza relacionados con el uso de la inteligencia artificial, con la transparencia como base de todas las consideraciones. Pero agregó: “Dado el mandato del CSIS, existen limitaciones importantes sobre lo que se puede discutir públicamente para proteger la integridad de las operaciones, incluidas las cuestiones relacionadas con el uso de la IA”.
En 2021, Daniel Therrien, el entonces comisionado federal de privacidad, descubrió que la RCMP violó la ley al utilizar un software de reconocimiento facial de última generación para recopilar información personal.
Therrien dijo que hubo fallas graves y sistémicas por parte de la RCMP para garantizar el cumplimiento de la Ley de Privacidad antes de recopilar información de la firma estadounidense Clearview AI.
La tecnología de Clearview AI permitió la recopilación de una gran cantidad de imágenes de diversas fuentes que podrían ayudar a las fuerzas policiales, instituciones financieras y otros clientes a identificar personas.
En medio de la preocupación por Clearview AI, la RCMP creó el Programa de Incorporación de Tecnología para evaluar el cumplimiento de las técnicas de recopilación de datos con la legislación sobre privacidad.
El informe del grupo asesor de transparencia insta a la Policía Montada a informar al público sobre la iniciativa. “Si todas las actividades que se llevan a cabo en el marco del Programa de Incorporación son secretas, la transparencia seguirá sufriendo”.
La RCMP dijo que planea publicar pronto un plan de transparencia que proporcionará una descripción general de los principios clave del programa de incorporación para el uso responsable de las tecnologías, así como detalles sobre las herramientas que el programa ha evaluado.
La Policía Montada dijo que también están desarrollando una política nacional sobre el uso de IA que incluirá un medio para garantizar la transparencia sobre las herramientas y las salvaguardas.
El grupo asesor de transparencia también critica al gobierno por no informar públicamente sobre los avances o logros de su compromiso de transparencia. Recomienda una revisión formal del compromiso con “informes públicos sobre las iniciativas emprendidas, los impactos hasta la fecha y las actividades futuras”.
Seguridad Pública Canadá dijo que las diversas recomendaciones del informe se han compartido con el viceministro del departamento y la comunidad de seguridad nacional más amplia, incluidos los comités pertinentes.
Sin embargo, el departamento no dijo si estaba de acuerdo con las recomendaciones ni proporcionó un cronograma para implementarlas.
