Ya se trate de políticos que aparentemente hacen declaraciones escandalosas, criminales que se hacen pasar por fuentes confidenciales o individuos en situaciones humillantes que nunca sucedieron, la nueva tecnología deepfake está haciendo que sea más fácil que nunca crear videos, imágenes o clips de audio convincentes en los que las personas parecen decir o hacer cosas que nunca hicieron.
«La amenaza que representan los deepfakes para nuestra sociedad democrática es extremadamente alta», dijo a DW Franziska Benning, jefa del departamento legal de la organización sin fines de lucro HateAid, con sede en Berlín.
Para abordar el problema, los legisladores de todo el mundo están debatiendo nuevas regulaciones que apuntarían específicamente a la publicación y distribución de contenido deepfake.
En Alemania, el debate cobró nuevo impulso con un proyecto de ley publicado en julio por el Bundesrat, la cámara del parlamento que representa a los 16 gobiernos estatales. La propuesta incluye sanciones más severas y una nueva cláusula para la «violación de los derechos personales mediante falsificación digital».
Las disposiciones de la legislación alemana que se utilizan actualmente para combatir los deepfakes son anteriores a la aparición de la tecnología y abarcan desde violaciones de la privacidad hasta infracciones de derechos de autor.
«Esto hace que la situación jurídica sea confusa e incompleta», dijo Georg Eisenreich, miembro de la conservadora Unión Social Cristiana (CSU) y ministro de Justicia del estado sureño de Baviera, que inició la propuesta. Añadir un nuevo delito al Código Penal alemán crearía «más claridad», dijo.
Encontrar el equilibrio adecuado
Pero no todo el mundo está convencido. Los defensores de las libertades civiles sostienen que la mayoría de las violaciones relacionadas con los deepfakes ya están contempladas en la legislación vigente. También advierten que unas normas demasiado restrictivas podrían impedir los usos legítimos de la tecnología.
«El problema de los deepfakes es real, pero no podemos llegar a la conclusión de que necesitamos endurecer la legislación penal hasta el punto de que incluso un comportamiento no delictivo se convierta en delito», dijo Benjamin Lück, abogado de la ONG con sede en Berlín. Sociedad por los Derechos Civiles, o GFF.
«Existe el peligro de criminalizar incluso comportamientos socialmente apropiados y el uso de deepfakes con fines satíricos o artísticos», dijo Lück a DW.
El debate en Berlín pone de relieve los desafíos que afrontan los legisladores a la hora de regular una tecnología que difumina la frontera entre la realidad y la ficción: lograr un delicado equilibrio entre prevenir el uso indebido y salvaguardar las libertades civiles, incluida la libertad de expresión.
Desde el desarrollo temprano hasta el mal uso generalizado
La tecnología deepfake se remonta a mediados de la década de 2010, cuando los investigadores comenzaron a utilizar el «aprendizaje profundo», un enfoque emergente en inteligencia artificial, para crear contenido falso realista. Poco después, comenzó a circular en línea contenido pornográfico que mostraba rostros de celebridades intercambiados con cuerpos de otras personas.
Desde entonces, la tecnología ha avanzado rápidamente y nuevos programas de inteligencia artificial generativa permiten que cualquier persona con habilidades técnicas básicas cree contenido falso.
Esto ha dado lugar a diversas formas de uso indebido. Por ejemplo, los delincuentes utilizan la tecnología deepfake para cometer fraudes, como hacerse pasar por directores ejecutivos para engañar a los empleados o socios comerciales para que transfieran fondos o compartan información confidencial. En toda la web,
La tecnología deepfake también ha sido utilizada por actores nacionales e internacionales para difundir desinformación e influir en la opinión pública.
Proteger a las víctimas de abuso basado en imágenes
Sin embargo, la gran mayoría de los casos involucran deepfakes sexualizados no consensuados: imágenes o videos falsos en los que las personas parecen estar desnudas o participando en actividades sexuales.
«Las mujeres se ven especialmente afectadas por este fenómeno», afirma Benning, de la ONG HateAid, que apoya a las víctimas de la violencia digital. Antes, este tipo de abusos se dirigían sobre todo a las celebridades. «Hoy en día, cada vez más particulares se ponen en contacto con HateAid», advierte.
La difusión de deepfakes con contenido sexual ya está penada por la legislación alemana, pero «si se ha infringido la ley depende del caso concreto y de la valoración jurídica», explicó Benning. El envío de deepfakes en mensajes directos, por ejemplo, es una zona gris, añadió.
El Bundesrat pretende colmar esas lagunas. Aunque es poco probable que el proyecto de ley entre en vigor en su forma actual, los expertos esperan que influya en una futura ley sobre violencia cibernética que está siendo redactada actualmente por el Ministerio de Justicia alemán.
Benning acogió con satisfacción la introducción de un nuevo delito penal para los deepfakes, tal y como propuso el Bundesrat, pero instó a que se vaya más allá y se penalice también la producción de deepfakes pornográficos no consentidos, incluso si no se comparten. «Eso sería un gran paso adelante para muchas personas afectadas por la pornografía deepfake no consentida», afirmó.
“No todas las deepfakes deben ser criminalizadas”
Sin embargo, los defensores de las libertades civiles advierten que los esfuerzos bien intencionados para frenar el abuso podrían llevar a la sobrecriminalización de la propia tecnología deepfake.
«No es necesario penalizar todos los deepfakes», afirmó Lück, de la Sociedad por los Derechos Civiles. «Cuando se ponen palabras inofensivas en boca de los políticos y se reconoce claramente que se trata de una broma, es cuestionable si realmente es necesario entrar en escena con una espada afilada y considerarlo relevante desde el punto de vista penal».
Además, advirtió que las leyes más duras no servirán de mucho para abordar otra amenaza importante que plantean los deepfakes: la fabricación de falsedades sobre políticos o acontecimientos para sembrar el malestar o ampliar las divisiones en la sociedad. «Ninguna prohibición impedirá las campañas de desinformación orquestadas por estados enteros», dijo.
En cambio, es importante crear conciencia en todos los sectores de la sociedad de que cualquier cosa que se vea o se escuche en línea puede ser falso, añadió.
El uso de deepfakes en la sátira o el arte desempeñará un papel importante en la promoción de este tipo de «alfabetización mediática», dijo Lück, advirtiendo que criminalizar la tecnología podría ser contraproducente y obstaculizar los esfuerzos para crear conciencia sobre los riesgos de los deepfakes.
«Una prohibición general podría acabar haciéndonos estar menos informados como sociedad», afirmó Lück.
Editado por: Rina Goldenberg
