Por Kimberly Hayek
El principal funcionario encargado de hacer cumplir la ley de California ordenó el viernes a la empresa de inteligencia artificial xAI de Elon Musk que detenga la creación y distribución de imágenes digitales sexualmente explícitas no autorizadas, advirtiendo que podrían violar la ley.
El Fiscal General Rob Bonta envió un aviso formal de cese y desistimiento a la empresa, citando un aumento en las quejas sobre su chatbot Grok que crea imágenes sugerentes o explícitas sin consentimiento.
La directiva hace hincapié en contenidos que muestran a mujeres y menores en situaciones comprometedoras, lo que el equipo de Bonta considera posiblemente ilegal.
“La avalancha de informes que detallan este material, que a veces muestra a mujeres y niños involucrados en actividades sexuales, es impactante y, como mi oficina ha determinado, potencialmente ilegal”, dijo Bonta en un comunicado.
La oficina de Bonta dijo que imágenes realistas de niños involucrados en actividad sexual parecen estar ocurriendo a gran escala.
Más de 10.000 imágenes generadas por xAI entre Navidad y Año Nuevo muestran a personas con poca ropa, y algunas de ellas parecen ser niños, dijo la oficina de Bonta, citando un análisis.
El fiscal general enfatizó que producir imágenes que parezcan explotación infantil es un delito grave. Dijo que su equipo anticipa un rápido cumplimiento por parte de xAI.
“Hoy, envié a xAI una carta de cese y desistimiento, exigiendo a la compañía que detenga inmediatamente la creación y distribución de imágenes íntimas, no consensuadas y deepfake y material de abuso sexual infantil”, dijo. «La creación de este material es ilegal. Espero que xAI cumpla de inmediato. California tiene tolerancia cero con el material de abuso sexual infantil».
xAI no respondió de inmediato a una solicitud de comentarios de The Epoch Times.
En respuesta a las preocupaciones de los reguladores globales sobre imágenes digitales sexualmente explícitas no autorizadas, xAI dijo el miércoles por la noche que impuso restricciones a todos los usuarios de su chatbot Grok AI que limitan la edición de imágenes.
Además, la creación y edición de imágenes a través de la cuenta de Grok ahora estaría restringida únicamente a suscriptores pagos. X describió el muro de pago como una salvaguardia adicional que proporcionaría una «capa adicional de protección».
«Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con prendas reveladoras como bikinis», dijo la compañía en una publicación X.
«Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos».
Bonta cuestionó la efectividad de estas medidas y señaló impactos poco claros en la generación general de contenido.
Lanzada como parte de la red social X, anteriormente Twitter, la herramienta permite a los usuarios alterar fotografías reales para convertirlas en formas reveladoras o degradantes. Aunque xAI ha restringido la capacidad de Grok para publicar públicamente imágenes alteradas muy realistas, las pruebas indican que todavía las produce para solicitudes individuales.
La oficina de Bonta dijo que xAI desarrolló los modelos de generación de imágenes de Grok para incluir lo que la compañía llama un «modo picante», que genera contenido explícito.
La oficina señaló la reciente legislación de California dirigida a los medios íntimos inventados. La ley prohíbe crear o difundir dicho material.
La carta de cese y desistimiento llega menos de una semana después de que Bonta anunciara una investigación sobre la empresa por el papel de Grok en la distribución de imágenes explícitas no autorizadas.
Ha habido numerosos informes de usuarios que utilizan Grok para transformar imágenes cotidianas de personas vestidas en escenarios sugerentes, a menudo sin su conocimiento, según el comunicado de la oficina del fiscal general.
La controversia se extiende más allá de California. Las autoridades de Japón, el Reino Unido, Canadá, Malasia e Indonesia han iniciado revisiones o han amenazado con tomar medidas legales contra xAI y X por cuestiones similares.
Por ejemplo, los reguladores japoneses recientemente señalaron a Grok por producir imágenes de IA sexualmente explícitas de personas, incluidas aquellas que parecen niños.
Los expertos advierten que las falsificaciones impulsadas por la IA plantean riesgos cada vez mayores, desde acoso personal hasta daños sociales más amplios, como la extorsión o la desinformación.
Evgenia Filimianova contribuyó a este informe.
