Se ha advertido a los ministros que no resuciten los planes conservadores para abordar el fraude a la asistencia social lanzando una vigilancia algorítmica masiva de las cuentas bancarias.
Los grupos que defienden los derechos de las personas con discapacidad, la pobreza, los pensionistas y la privacidad temen que el gobierno esté preparado para aplicar una “carta de fisgones” mediante el uso de la automatización y posiblemente de la inteligencia artificial para acabar con las trampas y los errores en las prestaciones que cuestan £10 mil millones al año. Temen que suponga un “gran golpe para la privacidad en el Reino Unido”.
En una carta enviada esta semana a Liz Kendall, secretaria de Estado de Trabajo y Pensiones, advirtieron que exigir a los bancos que escaneen las cuentas en busca de comportamientos sospechosos sería una grave «intrusión en la privacidad de la nación, con consecuencias potencialmente punitivas para las personas vulnerables».
Keir Starmer anunció la semana pasada un proyecto de ley sobre fraude, error y deuda para obligar a los bancos a compartir datos sobre los titulares de cuentas que «pueden mostrar indicios de posibles pagos excesivos de beneficios».
Los detalles aún no se han publicado. Pero al gobierno le preocupa que el fraude a la asistencia social se esté volviendo más sofisticado y sin nuevos poderes legales no pueda seguir el ritmo de la naturaleza cambiante del fraude para abordarlo con la suficiente firmeza. Cree que pedir a los bancos que compartan los datos de los solicitantes con el Departamento de Trabajo y Pensiones para ayudarle a combatir el fraude en las prestaciones podría ayudar a ahorrar £1.600 millones en cinco años.
El anterior proyecto de ley conservador no logró ser aprobado por el Parlamento antes de las elecciones generales de julio. Con el objetivo de aumentar la confianza del público y las empresas en las herramientas de IA, fue bien recibido por algunos, incluida la industria de la tecnología y el comisionado de información.
También tenía como objetivo facilitar el flujo y el uso de datos personales con fines policiales y de seguridad nacional. Los aspectos del proyecto de ley que se centraban en los derechos de privacidad y la toma de decisiones automatizada fueron fuertemente cuestionados.
El nuevo proyecto de ley laborista podría obligar a los bancos y otros terceros a rastrear las cuentas de toda la población para identificar a los beneficiarios de asistencia social para su seguimiento. Según sus propias estimaciones, sólo detendría alrededor del 3% del importe total perdido por fraude y error.
Tales poderes de vigilancia financiera masiva serían “desproporcionados”, según los firmantes de la carta a Kendall, entre los que se encontraban líderes de Disability Rights UK, Age UK, Privacy International, Child Poverty Action Group y Big Brother Watch.
«Imponer una vigilancia algorítmica sin sospechas a todo el público tiene los ingredientes de un escándalo al estilo Horizon: las personas vulnerables son las más propensas a ser las más afectadas cuando estos sistemas fallan», escribieron a Kendall, refiriéndose al software de la oficina de correos que resultó en el encarcelamiento injusto de operadores de correos. «Los pensionistas, las personas discapacitadas y los cuidadores no deberían tener que vivir con el miedo de que el gobierno se entrometa en sus finanzas».
La advertencia se produce en medio de un uso cada vez mayor de la inteligencia artificial en los departamentos gubernamentales, y se estima que alrededor del 70% de ellos están probando o planeando utilizar IA. de acuerdo a el organismo de control del gasto de la Oficina Nacional de Auditoría.
Los algoritmos de bienestar están lejos de ser impecables. En el verano se supo que el software DWP había señalado erróneamente a más de 200.000 personas para investigarlas por sospecha de fraude y error.
Se ha contactado al Departamento de Trabajo y Pensiones para solicitar comentarios.
