Redacción NM
El Servicio de Rentas Internas de EE.UU. tiene previsto obligar a los ciudadanos a crear cuentas con una empresa privada de reconocimiento facial para declarar impuestos en línea. El IRS se está uniendo a un número creciente de agencias federales y estatales que tienen contratos con ID.me para autenticar las identidades de las personas que acceden a los servicios.
La medida del IRS tiene como objetivo reducir el robo de identidad, un delito que afecta a millones de estadounidenses. El IRS, en particular, ha informado una serie de declaraciones de impuestos de personas que afirman ser otras, y fraude en muchos de los programas que se administraron como parte de la Plan de ayuda estadounidense ha sido una gran preocupación para el gobierno.
La decisión del IRS ha provocado una reacción violenta, en parte por las preocupaciones sobre exigir a los ciudadanos que usen la tecnología de reconocimiento facial y en parte por las dificultades que algunas personas han tenido para usar el sistema, particularmente con algunas agencias estatales que brindan beneficios de desempleo. La reacción ha llevado al IRS a revisar su decisión.
Captura de pantalla, página web de inicio de sesión del IRS
Como un investigador en ciencias de la computación y la silla del Consejo de Política de Tecnología Global de la Asociación de Maquinaria Informática, he participado en la exploración de algunos de los problemas relacionados con el uso gubernamental de la tecnología de reconocimiento facial, tanto su uso como sus posibles fallas. Se han planteado una gran cantidad de preocupaciones sobre el uso general de esta tecnología en la vigilancia y otras funciones gubernamentales, a menudo centradas en si la precisión de estos algoritmos puede tener efectos discriminatorios. En el caso de ID.me, también hay otras cuestiones involucradas.
¿Identificación de quién?
ID.me es una empresa privada que formado como TroopSwap, un sitio que ofrecía descuentos minoristas a miembros de las fuerzas armadas. Como parte de ese esfuerzo, la compañía creó un servicio de identificación para que el personal militar que calificaba para descuentos en varias compañías pudiera demostrar que, de hecho, eran miembros del servicio. En 2013, la empresa cambió su nombre a ID.me y comenzó a comercializar su servicio de identificación de manera más amplia. El Departamento de Asuntos de Veteranos de EE. UU. comenzó a usar la tecnología en 2016, el primer uso gubernamental de la compañía.
Para usar ID.me, un usuario carga una aplicación de teléfono móvil y toma una selfie, una foto de su propia cara. ID.me luego compara esa imagen con varias identificaciones que obtiene a través de registros abiertos o a través de la información que los solicitantes brindan a través de la aplicación. Si encuentra una coincidencia, crea una cuenta y utiliza el reconocimiento de imágenes para la identificación. Si no puede realizar un partido, los usuarios pueden ponerse en contacto con un «árbitro de confianza» y realizar una videollamada para solucionar el problema.
Varias empresas y estados He estado usando ID.me durante varios años. Los informes de noticias han documentado problemas que la gente ha tenido con ID.me al no autenticarlos, y con el servicio de atención al cliente de la empresa para resolver esos problemas. Además, los requisitos tecnológicos del sistema podría ampliar la brecha digitallo que dificulta que muchas de las personas que más necesitan los servicios del gobierno accedan a ellos.
Pero gran parte de la preocupación sobre el uso de ID.me por parte del IRS y otras agencias federales gira en torno al uso de la tecnología de reconocimiento facial y la recopilación de datos biométricos.
Precisión y sesgo
Para empezar, hay una serie de preocupaciones generales sobre la precisión de las tecnologías de reconocimiento facial y si existen sesgos discriminatorios en su precisión. Estos han llevado a la Asociación de Maquinaria Informática, entre otras organizaciones, a pedir una moratoria sobre el uso gubernamental de la tecnología de reconocimiento facial.
Un estudio de algoritmos de reconocimiento facial comerciales y académicos realizado por el Instituto Nacional de Estándares y Tecnología encontró que los algoritmos de coincidencia facial de EE. UU. generalmente tienen tasas más altas de falsos positivos para rostros asiáticos y negros que para caras blancas, aunque los resultados recientes han mejorado. ID.me afirma que hay sin prejuicios raciales en su proceso de verificación de coincidencia de rostros.
Hay muchas otras condiciones que también pueden causar inexactitud: cambios físicos causados por una enfermedad o un accidente, pérdida de cabello debido a la quimioterapia, cambio de color debido al envejecimiento, conversiones de género y otros. No está claro cómo cualquier empresa, incluida ID.me, maneja tales situaciones, y este es un tema que ha generado preocupación. Imagínese tener un accidente que lo desfigure y no poder iniciar sesión en el sitio web de su compañía de seguros médicos debido a daños en la cara.
Privacidad de datos
Hay otras cuestiones que van más allá de la cuestión de qué tan bien funciona el algoritmo. Como parte de su proceso, ID.me recopila una gran cantidad de información personal. Tiene una política de privacidad muy larga y difícil de leer, pero esencialmente, aunque ID.me no comparte la mayor parte de la información personal, sí comparte información diversa sobre el uso de Internet y las visitas al sitio web con otros socios. La naturaleza de estos intercambios no es evidente de inmediato.
Entonces, una pregunta que surge es qué nivel de información comparte la empresa con el gobierno y si la información se puede usar para rastrear a los ciudadanos estadounidenses entre los límites regulados que se aplican a las agencias gubernamentales. Los defensores de la privacidad, tanto de izquierda como de derecha, se han opuesto durante mucho tiempo a cualquier forma de una tarjeta de identificación gubernamental uniforme y obligatoria. ¿Entregar la identificación a una empresa privada le permite al gobierno lograr esto esencialmente a través de subterfugios? No es difícil imaginar que algunos estados, y tal vez eventualmente el gobierno federal, puedan insistir en una identificación de ID.me o de uno de sus competidores para acceder a los servicios del gobierno, obtener cobertura médica e incluso votar.
Como Joy Buolamwini, investigadora de IA del MIT y fundadora del Liga de la justicia algorítmicaargumentó, más allá de los problemas de precisión y sesgo, está la cuestión de el derecho a no utilizar la tecnología biométrica. “La presión del gobierno sobre los ciudadanos para que compartan sus datos biométricos con el gobierno nos afecta a todos, sin importar su raza, género o afiliaciones políticas”, escribió.
Demasiadas incógnitas para la comodidad
Otro problema es quién audita ID.me para la seguridad de sus aplicaciones. Si bien nadie acusa a ID.me de malas prácticas, los investigadores de seguridad están preocupados por cómo la empresa puede proteger el increíble nivel de información personal con el que terminará. Imagine una brecha de seguridad que liberó la información del IRS para millones de contribuyentes. En el cambiante mundo de la seguridad cibernética, con amenazas que van desde la piratería informática individual hasta las actividades delictivas internacionales, a los expertos les gustaría tener la seguridad de que una empresa a la que se proporciona tanta información personal utiliza seguridad de última generación y la mantiene actualizada.
[Over 140,000 readers rely on The Conversation’s newsletters to understand the world. Sign up today.]
Gran parte del cuestionamiento de la decisión del IRS se debe a que estos son los primeros días en que el gobierno utiliza empresas privadas para brindar seguridad biométrica, y algunos de los detalles aún no se explican por completo. Incluso si acepta que el uso de la tecnología por parte del IRS está adecuadamente limitado, esto es potencialmente el comienzo de lo que podría convertirse rápidamente en una bola de nieve para muchas agencias gubernamentales que utilizan empresas comerciales de reconocimiento facial para eludir las regulaciones que se establecieron específicamente para controlar los poderes del gobierno.
Estados Unidos se encuentra al borde de una pendiente resbaladiza, y aunque eso no significa que la tecnología de reconocimiento facial no deba usarse en absoluto, creo que sí significa que el gobierno debe poner mucho más cuidado y diligencia en explorar el terreno. adelante antes de dar esos primeros pasos críticos.
