Truthout es un recurso indispensable para activistas, líderes de movimientos y trabajadores de todo el mundo. Por favor haga posible este trabajo con un donación rápida.
El Senado de Minnesota aprobó el miércoles la primera prohibición del país de aplicaciones de “nudificación” por 65 a 0, abordando una de las principales fuentes de deepfakes no consensuales. El proyecto de ley fue aprobado por la Cámara estatal la semana pasada y ahora sólo necesita la firma del gobernador para convertirse en ley.
Los defensores son optimistas. El gobernador Tim Walz, un demócrata, firmará pronto la legislación.
Este proyecto de ley fue el primer intento en el país de prohibir sitios web o aplicaciones que promueven el desnudamiento digital, donde se pueden cargar y manipular fotografías de personas completamente vestidas con IA generativa para que aparezcan desnudas.
Estos servicios potencian imágenes íntimas no consensuadas y no requieren ninguna experiencia técnica para su uso. Google y Apple prohíben las aplicaciones de nudificación en sus respectivas tiendas web, pero una investigación realizada por Tech Transparency Project demostró que siguen siendo fácilmente accesibles. Investigaciones de múltiples organizaciones de noticias han descubierto que Meta continúa permitiendo que estas aplicaciones se anuncien en sus plataformas de redes sociales Facebook e Instagram.
Esta combinación significa que las herramientas son fáciles de usar para los niños; La organización de medios independiente Indicator ha rastreado 23 casos de abuso de deepfake dirigidos a comunidades escolares en los Estados Unidos desde 2023.
Los intentos federales de crear un derecho de acción civil para los sobrevivientes de deepfakes no consensuales se han estancado en el Congreso. La Ley DEFIANCE aún no ha llegado a la Cámara de Representantes, aunque ha sido aprobada dos veces por el Senado. La Ley Take It Down del año pasado tipificó como delito federal la difusión de imágenes íntimas no consentidas, independientemente de su procedencia, pero no permite a los supervivientes demandar por daños y perjuicios.
Minnesota House File 1606 permitiría a los sobrevivientes demandar a los propietarios de aplicaciones de nudificación por daños y perjuicios y facultaría al fiscal general del estado para cobrar multas de 500.000 dólares por infracción.
El número de deepfakes no consensuados ha aumentado en los últimos años. En diciembre comenzó un episodio masivo de violencia sexual digital cuando la plataforma de redes sociales X permitió a su chatbot integrado Grok generar imágenes de forma gratuita. Un informe de The New York Times y el Center for Countering Digital Hate estima que Grok creó y publicó más de 1,8 millones de imágenes sexualizadas de mujeres durante nueve días.
X dijo que tomó medidas para restringir la creación de deepfakes no consensuales, pero los usuarios han podido constantemente eludir las barreras de seguridad.
La mayoría de los productos de IA generativa tienen protecciones para evitar la creación de imágenes sexualizadas. Las demandas alegan que xAI, el creador de Grok, que comercializó el chatbot como «dispuesto a responder preguntas interesantes que son rechazadas por la mayoría de los demás sistemas de IA», no toma las precauciones estándar de la industria.
El incidente de Grok fue cuando los nudificadores se generalizaron, pero existe toda una economía de aplicaciones y sitios web que monetizan la creación de deepfakes no consensuados.
Crear deepfakes solía requerir mucho tiempo y trabajo, pero ahora se pueden generar con solo hacer clic en un botón. Ese acceso es el motivo por el que cada vez más niños se convierten en perpetradores de este tipo de abuso, a menudo victimizando a sus compañeros.
RAINN, la organización nacional sin fines de lucro que administra la Línea Directa Nacional sobre Agresión Sexual, es una de las principales fuerzas detrás del proyecto de ley de Minnesota porque el abuso facilitado por la tecnología va en aumento. Sandi Johnson, asesora principal de política legislativa del grupo, dijo que ha habido un aumento en el número de niños que denuncian la violencia digital en los últimos cinco años.
Los Centros para el Control y la Prevención de Enfermedades midieron la aparición de abuso sexual facilitado por la tecnología por primera vez en su Encuesta Nacional sobre Violencia Sexual y de Pareja Íntima 2023-2024. El término es amplio y abarca desde ser objetivo de deepfakes no consentidos hasta recibir imágenes explícitas no solicitadas. La encuesta encontró que en los 12 meses anteriores, 1 de cada 10 mujeres reportó haber experimentado este tipo de abuso; 1 de cada 3 mujeres dijo lo mismo cuando la pregunta se aplicó a su vida.
Molly Kelley es una de esas mujeres. Hace dos años, descubrió que un amigo cercano de la familia usaba un sitio conocido por la nudificación para hacer deepfakes no consensuados de ella y otras mujeres en su vida. Alrededor de 80 mujeres en Minnesota se vieron afectadas por el mismo perpetrador y esto inició la búsqueda de justicia de Kelley.
«He dedicado los últimos dos años de mi vida a encontrar una solución para mitigar el daño cuando realmente se causa, que es en la creación», dijo Kelley. el 19. «Estas imágenes no existen sin la participación de terceros y algún tipo de modelo de aprendizaje automático».
Los deepfakes solo se almacenaban en la computadora del hombre, por lo que, dijo Kelley, no se aplicarían leyes que prohíban la difusión, como la Ley Take It Down. (Kelley buscó sitios pornográficos para ver si las imágenes habían sido compartidas). Dijo que no había indicios de malas intenciones y que las fotos no fueron tomadas de manera consensuada, descartando así la ley estatal de “pornografía de venganza”. Ninguna de las mujeres era menor de edad, por lo que poseer las imágenes no era un delito.
Al darse cuenta de que ninguna ley le permitiría presentar una demanda de restitución, Kelley dijo que comenzó a llamar a todas las personas que se le ocurrían. Finalmente se conectó con la senadora Erin Maye Quade, miembro del Partido Demócrata-Campesino-Laborista, quien presentó el HF 1606.
Las únicas personas con las que Kelley podía conectarse eran los administradores escolares, quienes a menudo han tenido problemas con cómo manejar a los niños que se victimizan entre sí con deepfakes. Dirigió su atención a lo que considera la fuente del problema: la tecnología que creó los deepfakes.
“Esto me ha quitado cada momento libre que tengo”, dijo Kelley. Ha educado a legisladores, ha dado testimonios y ha abogado sin cesar durante los últimos dos años, todo mientras hacía malabarismos con dos hijos, un trabajo de tiempo completo y una facultad de derecho. Dijo que la promoción es como otro trabajo de tiempo completo.
La legislación tecnológica puede ser complicada, pero Kelly confía en que el HF 1606 resistirá cualquier impugnación judicial si se convierte en ley.
Johnson dijo que RAINN consultó con numerosas empresas de tecnología para garantizar que la ley no introduciría consecuencias no deseadas para los productos en general. Esta versión del proyecto de ley incluye una exención de responsabilidad para las empresas donde se requiere la “habilidad técnica de un usuario” para editar una imagen, como con herramientas estándar como Photoshop.
La administración Trump ha abogado por que el gobierno federal prevalezca sobre las leyes estatales sobre IA; Si esa política se solidifica, este proyecto de ley podría anularse.
Mientras tanto, Kelley está esperando que salgan a la superficie las imágenes manipuladas de ella. Después de enterarse de los deepfakes, borró todas sus redes sociales.
“En el fondo, esto es una cuestión de manipulación y control de las mujeres”, afirmó.
La libertad de prensa está bajo ataque
A medida que Trump toma medidas enérgicas contra el discurso político, los medios independientes son cada vez más necesarios.
Truthout produce reportajes que no verá en la corriente principal: periodismo desde la primera línea del conflicto global, entrevistas con líderes de movimientos de base, análisis legales de alta calidad y más.
Nuestro trabajo es posible gracias al apoyo de los lectores. Ayude a Truthout a catalizar el cambio y la justicia social: haga hoy una donación mensual o única deducible de impuestos.
