Expertos advierten que aplicación ArriveCAN podría estar violando derechos constitucionalmente protegidos – National

Según la Agencia de Servicios Fronterizos de Canadá (CBSA), una falla reciente en la controvertida aplicación ArriveCAN que envió mensajes erróneos a viajeros completamente vacunados que decían que debían ponerse en cuarentena afectó a más de 10,000 personas.

El alcance de la falla, que se reveló en un comunicado enviado a Global News por la CBSA, representa el 0,7 por ciento del número típico de viajeros transfronterizos cada semana.

Global News también se enteró de que el gobierno tardó 12 días en notificar a los viajeros sobre el error.

Esto es preocupante para algunos expertos en datos y privacidad que dicen que la aplicación puede estar violando la Carta de Derechos y Libertades, que protege el derecho a moverse libremente.

También hay un debate entre los expertos sobre si ordenar a las personas que permanezcan en sus casas durante dos semanas sin justificación es una forma de detención ilegal.

“Crea un daño directo para las personas que reciben esta notificación incorrecta y la siguen”, dijo Matt Malone, profesor de derecho en la Universidad Thompson River en Kamloops, BC, que se especializa en secretos comerciales e información confidencial.

“El gobierno no ha brindado suficiente transparencia sobre por qué sucedió eso. Y debe haber mejores prácticas de rendición de cuentas para asegurarse de que no vuelva a suceder”.

ArriveCAN se lanzó originalmente en abril de 2020 como una herramienta voluntaria destinada a ayudar a los guardias fronterizos a determinar si las personas eran elegibles para ingresar a Canadá y si cumplían con los requisitos estrictos de COVID-19.

Se hizo obligatorio para todos los viajeros aéreos siete meses después. En marzo de 2021, se amplió a cualquier persona que cruce la frontera por tierra.

La aplicación recopila datos personales, como nombre, número de teléfono, dirección y estado de vacunación, que luego se utilizan para ayudar a los funcionarios de salud pública a hacer cumplir las reglas de cuarentena del gobierno.

Pero la falla reciente, que la CBSA dice que identificó el 14 de julio y solucionó seis días después, significó que la aplicación envió correos electrónicos de forma autónoma a miles de viajeros completamente vacunados que no habían dado positivo por COVID-19 y les dijo que necesitaban ponerse en cuarentena.

Los mensajes también plantean preocupaciones de que el gobierno no controla las funciones de toma de decisiones automatizadas de la aplicación, que en teoría solo están destinadas a determinar si la información cargada en la aplicación es precisa.

“Creo que es muy preocupante y creo que plantea algunas preguntas importantes sobre el uso de la IA por parte del gobierno”, dijo Teresa Scassa, catedrática de investigación canadiense en derecho y política de la información en la Universidad de Ottawa.

“Esta es una de sus herramientas emblemáticas y no parece haber transparencia ni gobernanza clara”.

El gobierno dice que ArriveCAN es la forma más rápida y eficiente de evaluar a las personas que cruzan la frontera para asegurarse de que estén vacunadas contra COVID-19 y monitorear la propagación de nuevas variantes.

También dijo que es importante que los viajeros entiendan que la CBSA y los funcionarios de salud pública son responsables de determinar si alguien necesita ponerse en cuarentena, no la aplicación.

Historias de tendencias

• Anne Heche en coma tras accidente automovilístico, permanece en estado crítico

• Simpatizantes de Donald Trump llegan a Mar-a-Lago para protestar contra redada del FBI

Pero los viajeros que recibieron la orden de cuarentena errónea le dijeron a Global News que no había forma de contactar al gobierno para corregir el error. Los esfuerzos para hacerlo, dicen, se han encontrado con mensajes automáticos o agentes que no podían discutir el problema específicamente.

Scassa dijo que se suponía que una revisión temprana de ArriveCAN completada por el gobierno durante la fase de «implementación» de la aplicación identificaría y ayudaría a mitigar los riesgos potenciales para los derechos y libertades de los canadienses.

Pero la revisión, conocida como Evaluación de impacto algorítmico (AIA), no es clara sobre cómo se supone que funciona la aplicación o el alcance de su autoridad de toma de decisiones automatizada, dijo Scassa.

Una sección de la revisión que se supone que indica si ArriveCAN tiene la autoridad para tomar decisiones por sí mismo, sin la ayuda de un ser humano, dice que las decisiones «pueden tomarse sin la participación humana directa».

Scassa dijo que esto no concuerda con otra sección de la revisión que dice que la aplicación «solo» se usará para ayudar a los humanos a tomar decisiones.

La aplicación toma o no decisiones por sí sola, dijo Scassa. Ambas afirmaciones no pueden ser ciertas.

“No se supone que así sea como funciona la toma de decisiones automatizada”, dijo.

No hay forma de saber con certeza cuántas personas obedecieron las órdenes de cuarentena erróneas enviadas debido a la falla.

Una actualización de software para ArriveCAN lanzada el 28 de junio introdujo la falla, según la CBSA. Antes de esta actualización, algunos viajeros individuales experimentaron problemas aislados con la aplicación, dijo la CBSA, pero no se informaron problemas generalizados.

La CBSA también dijo que compiló una lista de viajeros afectados por la falla y compartió estos detalles con la Agencia de Salud Pública de Canadá (PHAC), que es responsable de contactar a las personas después de cruzar la frontera.

PHAC dijo que recibió la lista de la CBSA el 25 de julio, pero agregó que solo contenía la dirección de correo electrónico y el número de identificación único creado por la aplicación para cada viajero.

La agencia dijo que envió un correo electrónico a estos viajeros el 26 de julio, 12 días después de que se identificó por primera vez la falla, para informarles que ellos o alguien de su grupo de viajeros recibió el pedido por error y que no necesitaban ponerse en cuarentena.

Los expertos en datos y privacidad también tienen preocupaciones más amplias sobre ArriveCAN.

La tecnología detrás de la aplicación se considera un «secreto comercial», según la AIA de la aplicación.

Esto significa que cualquier intento de obtener información sobre cómo funciona el software probablemente resultará en un rechazo del gobierno porque estos detalles a menudo se consideran información confidencial de terceros según la legislación federal de privacidad y acceso a la información.

Las empresas que desarrollaron la aplicación para el gobierno también citaron acuerdos de no divulgación y la clasificación «secreta» de su trabajo como razones por las que no pueden divulgar detalles.

Malone, el experto en leyes de datos y privacidad, dijo que la ausencia de información disponible públicamente sobre el software de ArriveCAN es muy preocupante, especialmente a la luz de la falla reciente.

También dijo que es preocupante que el gobierno defina este tipo de tecnología como un secreto comercial, dado el impacto potencial de ArriveCAN en la vida de los canadienses.

“Expone los problemas fundamentales que tenemos para buscar reparación bajo las leyes de privacidad y protección de datos existentes”, dijo.

Carissima Mathen, experta constitucional y profesora de derecho en la Universidad de Ottawa, dijo que no está segura de si la falla reciente de ArriveCAN llega al nivel de una violación constitucional.

Eso se debe a que parece haber tenido una vida relativamente corta y porque el gobierno se esforzó por solucionar el problema. Ella dijo que el gobierno tampoco ha tratado de justificar el error y no está tratando de hacer cumplir las órdenes de cuarentena erróneas.

Aún así, dijo, cualquier decisión tomada por error que afecte los derechos fundamentales de una persona es preocupante. Esto es cierto ya sea que la decisión la tome un ser humano, como un guardia fronterizo, o una máquina autónoma que actúe en nombre del gobierno.

“Es un error. Entonces, por definición, no es una infracción justificada de su libertad”, dijo Mathen.