Redacción NM
Un sitio web que utiliza el aprendizaje automático para convertir rápidamente fotos inofensivas de famosos y cotidianos. mujeres en desnudos realistas deepfake está acumulando aullidos de indignación y millones de páginas vistas.
El sitio de un año ha obtenido más de 38 millones de visitas desde el comienzo de 2021, El Huffington Post informó, con cinco millones solo en junio, según noticias de la BBC.
HuffPo se negó a nombrar el sitio web, pero la BBC lo identificó como Deepsukebe, y ambos medios se refirieron al lenguaje del sitio y afirmaron que su misión es «hacer realidad todos los sueños de los hombres».
En su página de Twitter ahora suspendida, Deepsukebe se refirió a sí mismo como un ‘nudificador apalancado por IA’.
Afirma que no guarda las fotos falsas que genera, pero un ‘programa de incentivos’ recompensa a los carteles que comparten enlaces de sus deepfakes.
Los usuarios que consiguen que suficientes personas hagan clic en ellos pueden «desnudar» más imágenes más rápido. (Los usuarios también pueden pagar una tarifa mensual en criptomonedas para evitar el límite de una imagen cada dos horas).
«Se desconoce quién está detrás del sitio, que está plagado de errores de ortografía y sintaxis, al igual que no está claro dónde se encuentran», escribió la reportera de tecnología de HuffPost, Jesselyn Cook.
Desplácese hacia abajo para ver el video
DeepSukebe invita a los usuarios a publicar fotos para ser «nudificados», con una representación realista del sujeto sin ropa. Los informes de los medios indican que el sitio obtuvo más de 5 millones de visitas en un mes.
El mes pasado, Estados Unidos fue, con mucho, la principal fuente de tráfico del sitio, seguido de Tailandia, Taiwán, Alemania y China. Publicaciones de Medium ahora eliminadas que demuestran cómo usar el sitio con imágenes de antes y después de mujeres asiáticas exclusivamente ».
Después de que HuffPost se puso en contacto con su proveedor de alojamiento, IP Volume Inc., el sitio DeepSukebe dejó de funcionar brevemente el lunes.
Escamalíticos, una empresa contra el fraude cibernético utilizada por muchos sitios de citas en línea, calificó a IP Volume Inc. como ‘un ISP con riesgo de fraude potencialmente alto’.
Operan 14.643 direcciones IP, casi todas las cuales ejecutan servidores, VPN anónimas y proxies públicos, según el informe.
Si bien los críticos se preocupan por el impacto de los deepfakes en las celebridades y los políticos, más del 90 por ciento de los deefakes son de mujeres atrapadas en imágenes pornográficas.
«Aplicamos una puntuación de riesgo de 43/100 a IP Volume inc, lo que significa que, del tráfico web en el que tenemos visibilidad, se sospecha que aproximadamente el 43% es potencialmente fraudulento».
En menos de 24 horas, Deepsukebe volvió a estar en línea con un nuevo proveedor de ISP.
El logo de la empresa es una estrella con un ojo en el medio, con el lema «Buscamos la verdad, desnudamos las falsificaciones, negamos las mentiras».
Una declaración en el sitio web de Deepsukebe afirma que el nudificador es un ‘modelo de IA de vanguardia’ desarrollado con millones de puntos de datos y años de investigación, incluidos meses de entrenamiento de modelos de IA.
«DeepSukebe nació quemando mucho tiempo y dinero», se lee en un inglés vacilante.
Pero Roy Azoulay, fundador y CEO de Serelay, que verifica los activos de video y fotos, dijo a DailyMail.com que la tecnología utilizada para nudificar imágenes de la forma en que lo hace Deepsukene está disponible en ‘artículos publicados y bibliotecas de código abierto’.
Es debido a esa fácil disponibilidad, que «hay muy poco que se pueda hacer en cuanto a protección o mantener esta tecnología fuera del alcance de usuarios malintencionados», dijo Azoulay.
Dijo que las soluciones tendrían que provenir de los legisladores o la moderación de sitios como Google, Facebook, Twitter y Telegram.
Facebook bloqueó la URL del sitio desde su plataforma después de conocer su naturaleza, informó HuffPost, y Twitter suspendió su cuenta.
Después de que Huffington Post informara en el sitio, la URL de Deepsukebe fue bloqueada en Facebook y su página de Twitter fue suspendida.
Inicialmente, los videos porno de deepfake se enfocaban principalmente en celebridades femeninas, ya que tendría que haber una cantidad significativa de imágenes disponibles de la persona para insertarlas sin problemas en una escena.
Pero ahora, las imágenes fijas de pornografía deepfake se pueden hacer con una sola imagen de cualquier mujer. (Las fotografías de hombres solo se dan órganos sexuales femeninos).
Si bien los desnudos falsos de celebridades son comunes, ‘la gran mayoría de las personas que usan estos [tools] quieren apuntar a las personas que conocen », dijo el experto en Deepfake Henry Ajde a HuffPo.
Y la crisis está creciendo exponencialmente: firma de investigación Deepfake Sensibilidad AI informa que la cantidad de videos deepfake se ha duplicado cada seis meses desde 2018.
Se ha prestado una atención significativa a los deepfakes de políticos y celebridades, pero la gran mayoría apunta a mujeres, según Sensity AI: desde diciembre de 2018, entre el 90 y el 95 por ciento de los deepfakes son desnudos falsos de mujeres.
‘Este es un problema de violencia contra las mujeres’, dijo Adam Dodge, fundador de EndTAB, una organización sin fines de lucro que educa a las personas sobre el abuso habilitado por la tecnología. Revisión de tecnología en febrero.
«Qué herramienta perfecta para alguien que busca ejercer poder y control sobre una víctima».
Como suele ser el caso, la ley va por detrás de la tecnología: los legisladores de EE. UU. Y Gran Bretaña están trabajando para prohibir la pornografía deepfake no consensuada, pero muchos de sus colegas no comprenden la tecnología o argumentan que las regulaciones propuestas son demasiado amplias o inaplicables.
La estrella de ‘Black Widow’ Scarlett Johansson dice que perseguir a los perpetradores del porno deepfake es una ‘persecución inútil’
« El Reino Unido actualmente no tiene leyes que se dirijan específicamente a los deepfakes y no existe ningún ‘derecho de propiedad intelectual deepfake’ que pueda invocarse en una disputa », según un artículo de opinión en la edición de marzo de La Revisión de la Ley Nacional.
Del mismo modo, el Reino Unido no tiene una ley específica que proteja la ‘imagen’ o la ‘personalidad’ de una persona. Esto significa que el sujeto de un deepfake necesita depender de una mezcolanza de derechos que no son ni suficientes ni adecuados para proteger al individuo en esta situación ‘.
En los EE. UU., La Ley de Responsabilidad de Deepfakes de 2019, que abordó tanto los deepfakes políticos como la pornografía no consensuada, no logró salir del comité.
La actriz Scarlett Johansson, el objetivo del porno deepfake visto millones de veces, argumenta que no tiene mucho sentido perseguir a los perpetradores.
« Creo que es una búsqueda inútil, legalmente, principalmente porque Internet es un enorme agujero de gusano de oscuridad que se come a sí mismo », dijo. El Washington Post en 2018.
«Obviamente, si una persona tiene más recursos, puede emplear varias fuerzas para construir un muro más grande alrededor de su identidad digital», agregó.
Pero nada puede evitar que alguien corte y pegue mi imagen o la de otra persona en un cuerpo diferente y hacer que parezca tan inquietantemente realista como se desee. Básicamente, no hay reglas en Internet porque es un abismo que permanece virtualmente sin ley ”.
