El uso excesivo de robots podría generar prejuicios, pánico o simplemente malos consejos, temen los funcionarios.
La Comisión Europea está preocupada por el impacto del uso de la inteligencia artificial (IA) en los mercados bancario, de seguros y de valores, según un consulta emitido hoy (18 de junio).
La UE acaba de aprobar una amplia Ley de IA, convirtiéndose en la primera jurisdicción del mundo en legislar para hacer que la tecnología emergente sea segura y no discriminatoria.
Pero los funcionarios ahora se preguntan si se necesita más orientación para que las reglas se ajusten a las finanzas, un campo que ya está sujeto a requisitos regulatorios estrictos y donde el costo de equivocarse podría ser alto.
«La Ley de IA de la UE y las normas existentes en el sector financiero proporcionan una base sólida para permitir la innovación tecnológica», dijo Mairead McGuinness, comisaria de servicios financieros de la UE, en un comunicado, pidiendo a la gente que comparta sus puntos de vista sobre una economía «que cambia rápidamente y área cada vez más importante de avance tecnológico”.
La nueva ley tecnológica de la UE que se aplicará a partir de mayo de 2025 se aplicaría en toda la economía, pero asigna herramientas automatizadas utilizadas en sectores de mayor riesgo, como la salud, la aplicación de la ley y la contratación, para un seguimiento adicional.
Verificaciones de crédito
Las aplicaciones financieras sensibles, como la evaluación de la solvencia crediticia de una persona, también se consideran potencialmente necesitadas de leyes u orientación más detalladas.
No sería la primera vez que los funcionarios de Bruselas se muestran cautelosos sobre cómo se utiliza la tecnología en el sector financiero.
En 2022, la UE acordó nuevas normas conocidas como Ley de Resiliencia Operacional Digital, DORA, ante el temor de que el uso por parte de los bancos de un pequeño puñado de proveedores de computación en la nube no regulados pudiera provocar violaciones de datos o pánico en el mercado.
De la misma manera, la Comisión parece preocupada por la posibilidad de que se produzca un “rebaño”, cuando varios financistas dependen de los mismos sistemas de TI para tomar decisiones comerciales.
Las oscilaciones exageradas de precios o la concentración del mercado resultantes podrían representar un riesgo para los mercados financieros, o los robots podrían simplemente obtener respuestas completamente equivocadas, según el documento de consulta.
¿Disparates?
«La IA de propósito general… a veces puede producir ‘alucinaciones’, es decir, respuestas sin sentido o inexactas», dijo.
Se trata de un fenómeno familiar para cualquiera que haya intentado obtener una respuesta directa de ChatGPT, pero también plantearía problemas a los robo-financieros, dada su obligación legal de dar asesoramiento correcto en beneficio de sus clientes.
La IA podría tener efectos beneficiosos, dijo la Comisión, por ejemplo, detectar actividades comerciales poco fiables que podrían indicar un abuso de mercado. Pero los funcionarios también parecen preocupados por el hecho de que los conjuntos de datos de IA mal formados conduzcan a una discriminación generalizada.
En 201, el tribunal más alto de la UE declaró que era ilegal cobrar más a los hombres por el seguro del automóvil. Pero un algoritmo de fijación de precios podría significar que personas de un género o raza en particular terminen pagando más, sin que ningún ser humano pueda explicar por qué.
