El nuevo proyecto de ley de pornografía deepfake con IA requeriría que las grandes tecnologías controlen y eliminen las imágenes

WASHINGTON – Los legisladores en el Capitolio están luchando para abordar el auge de las imágenes pornográficas falsificadas con IA, que se han dirigido a todos, desde celebridades hasta estudiantes de secundaria.

Ahora, un nuevo proyecto de ley buscará responsabilizar a las empresas de redes sociales por vigilar y eliminar Imágenes porno deepfake publicados en sus sitios. La medida penalizaría la publicación o la amenaza de publicar pornografía deepfake.

El senador Ted Cruz, republicano por Texas, es el principal patrocinador del proyecto de ley. La oficina de Cruz proporcionó a CNBC detalles exclusivos sobre el proyecto de ley.

La Ley Take It Down también requeriría que los operadores de plataformas de redes sociales desarrollen un proceso para eliminar las imágenes dentro de las 48 horas posteriores a la recepción de una solicitud válida de una víctima. Además, los sitios también tendrían que hacer un esfuerzo razonable para eliminar cualquier otra copia de las imágenes, incluidas las compartidas en grupos privados.

La tarea de hacer cumplir estas nuevas reglas recaería en la Comisión Federal de Comercio, que regula las normas de protección al consumidor.

La legislación de Cruz será presentada formalmente el martes por un grupo bipartidista de senadores. A ellos se unirán en el Capitolio las víctimas del porno deepfake, incluidos estudiantes de secundaria.

El aumento de imágenes generadas por IA no consensuadas han impactado a celebridades como Taylor Swiftpolíticos como la representante Alexandria Ocasio-Cortez, DN.Y., y estudiantes de secundaria cuyos compañeros de clase han tomado imágenes de sus rostros y, utilizando aplicaciones y herramientas de inteligencia artificial, han creado fotografías de desnudos o pornográficas.

«Al crear igualdad de condiciones a nivel federal y responsabilizar a los sitios web de implementar procedimientos para eliminar estas imágenes, nuestro proyecto de ley protegerá y empoderará a todas las víctimas de este crimen atroz», dijo Cruz en una declaración a CNBC.

En 2023, los productores de pornografía deepfake aumentaron su producción en un 464% año tras año, según un informe de 2023 de Héroes de la seguridad del hogar.

Sin embargo, si bien existe un amplio consenso en el Congreso sobre la necesidad de abordar la pornografía deepfake basada en IA, no hay acuerdo sobre cómo hacerlo.

En cambio, hay dos proyectos de ley en competencia en el Senado.

Senador Dick Durbin, demócrata por Illinois, presentó un proyecto de ley bipartidista A principios de este año, eso permitiría a las víctimas de deepfakes no consensuados demandar a las personas que habían tenido, creado, poseído o distribuido la imagen.

Según el proyecto de ley de Cruz, la pornografía deepfake con IA se trata como contenido en línea extremadamente ofensivo, lo que significa que las empresas de redes sociales serían responsables de moderar y eliminar las imágenes.

Cuando Durbin intentó conseguir que el pleno votara su proyecto de ley la semana pasada, la senadora Cynthia Lummis lo bloqueó, diciendo que tenía «un alcance demasiado amplio» y que podría «sofocar la innovación tecnológica estadounidense».

Durbin defendió su proyecto de ley diciendo que «no hay responsabilidad bajo esta propuesta de ley para las plataformas tecnológicas».

Lummis es uno de los copatrocinadores originales del proyecto de ley de Cruz, junto con la senadora republicana Shelley Moore Capito y los senadores demócratas Amy Klobuchar, Richard Blumenthal y Jacky Rosen.

El nuevo proyecto de ley también llega cuando el líder de la mayoría del Senado, Chuck Schumer, DN.Y. está presionando a su cámara para que avance en la legislación sobre IA. El mes pasado, un grupo de trabajo sobre IA publicó una «hoja de ruta» sobre cuestiones clave de la IA, que incluían el desarrollo de legislación para abordar la «distribución no consensuada de imágenes íntimas y otros deepfakes dañinos».