David Pocock ha dado la voz de alarma sobre el riesgo que supone la IA generativa para la democracia al utilizarla para gastar una broma: inventar un vídeo de Anthony Albanese anunciando la prohibición total de la publicidad de juegos de azar.
El senador independiente de Canberra publicó dos videos generativos de IA en las redes sociales (del primer ministro y del líder de la oposición, Peter Dutton, apoyando una prohibición total de la publicidad) para mostrar cómo se puede usar la IA para imitar y confundir.
“Ese video es falso y actualmente no existen leyes que prohíban hacer videos de ese tipo”, dijo Pocock.
“Deepfakes [and] “La IA generativa supone un riesgo real para la democracia y necesitamos que el gobierno prohíba el uso de esta tecnología en el ámbito electoral”.
En un video, Albanese parece estar diciendo en una conferencia de prensa en el Parlamento (con movimientos ligeramente espasmódicos de su boca, una pequeña señal de que el video no es real) que está introduciendo una prohibición gradual de la publicidad durante tres años.
En otra, Dutton parece decirle a la audiencia que la Coalición apoya la legislación del gobierno.
Esto no es cierto y Pocock eligió un tema controvertido para imitar. El gobierno solo se ha comprometido a prohibir parcialmente la publicidad de los juegos de azar, algo que los defensores han calificado de “manifiestamente inadecuado”.
La medida hacia una prohibición parcial se produjo a pesar de que una prohibición total se propuso en 2023, mediante una investigación de un comité bipartidista presidido por la difunta diputada laborista Peta Murphy.
Pocock dijo que hizo los videos para presionar al parlamento a tomar alguna acción para prohibir el uso de la tecnología antes de las próximas elecciones.
“Me preocupa que no estemos viendo la urgencia necesaria para proteger nuestra democracia de la IA generativa”.
En julio, un video de TikTok generado por inteligencia artificial del primer ministro de Queensland, Steven Miles, creado por la oposición LNP, desató un debate sobre el uso político de deep fakes en línea.
El video mostraba a Miles bailando debajo de un texto que decía: “POV: mi alquiler aumentó $60 por semana, mi factura de electricidad aumentó un 20%, pero el primer ministro hizo un sándwich en TikTok”.
Miles afirmó que el video “representa un punto de inflexión para nuestra democracia” y dijo que el Partido Laborista estatal no utilizaría anuncios generados por IA durante su próxima campaña electoral.
Después de la publicación del video, los expertos advirtieron que las personas podrían verse fácilmente engañadas por contenido generado por IA y que puede ser más peligroso si se usa de manera más sutil.
Un portavoz de la oficina de Don Farrell, el ministro de estado especial responsable de la supervisión de los asuntos parlamentarios, dijo que el gobierno está considerando el asesoramiento de la Comisión Electoral Australiana sobre la regulación del uso de IA en las elecciones.
“Esta no es una tecnología que podamos detener: no va a desaparecer”, afirmó el portavoz.
“Tenemos que encontrar una manera de que los australianos puedan tener cierta protección frente a información y contenidos deliberadamente falsos”.
