Yakarta: Usando un sombrero y camisa negro tradicional de Indonesia, el presidente Prabowo Subianto habla con la cámara en un video de Instagram, preguntándole a su gente cómo puede ayudarlos después de su elección el año pasado.
«¿Quién no ha recibido ayuda de mí? ¿Cuáles son sus necesidades en este momento?» Prabowo parece preguntar a los espectadores en el clip publicado en noviembre.
Pero mientras la boca del líder indonesio se mueve y sus ojos parpadean, las palabras que pronuncia son parte de una estafa fraudulenta de Deepfake descubierto por la policía el mes pasado que ha estafado a los indonesios en 20 provincias.
Aquellos atrapados por el mensaje se pidió que contactaran a un número de WhatsApp y entregaran entre 250,000 y un millón de rupias (US $ 15 a US $ 60) como una «tarifa administrativa» para obtener ayuda que nunca se materializó.
Desde la elección indonesia del año pasado, los expertos han advertido sobre una marea de los defectos profundos: audio, imágenes y videos que aparecen de una persona conocida, pero que de hecho son el trabajo de los estafadores que utilizan herramientas de inteligencia artificial.
Y las víctimas dicen que los engaños son tan sofisticados que dejan a otros vulnerables a ser engañados también.
«La gente debería tener más cuidado. No se deje engañar fácilmente por el atractivo de los premios», dijo Aryani, de 56 años, quien entregó más de 200,000 rupias a los estafadores después de ver un video profundo de un prominente empresario indonesio.
«Necesito dinero, pero en cambio, me piden que envíe dinero. Incluso hicieron videollamadas conmigo, como si estuviera hablando directamente con ellas».
Durante la campaña presidencial del país del sudeste asiático, Deepfakes se convirtió en una herramienta prominente para difundir la información errónea tanto dañina como útil para los candidatos.
Pero ahora que la tecnología ha caído en manos de delincuentes que buscan hacer efectivo frío y duro.
Circulación amplia
Los verificadores de datos de la AFP encontraron que la cuenta detrás del clip Prabowo ha publicado docenas de videos similares que aparecen para mostrar varias figuras de alto perfil, incluido el vicepresidente indonesio Gibran Rakabuming Raka.
Esos videos también promueven la ayuda financiera falsa.
La policía arrestó a un sospechoso que se embolsó a 65 millones de rupias del estafador, dijo a los periodistas Himawan Bayu Aji, director de la Unidad Nacional de Crimen Cibernético de Indonesia en febrero.
Dijo que los oficiales detuvieron a una segunda persona involucrada en otra estafa que también utilizó la tecnología de Deepfake, sin revelar la cantidad recaudada.
La investigación de Fact Check de AFP encontró que la propagación de tales videos tuvo un alcance mucho más amplio que las dos cuentas que anunció la policía.
Los videos de Deepfake del presidente, un ex general popular, todavía circulaban en las redes sociales después de los arrestos, incluidas docenas en Tiktok con el hashtag «Prabowo comparte bendiciones».
Al menos 22 cuentas de Tiktok estaban promocionando el mismo esquema fraudulento desde que Prabowo asumió el cargo en octubre, descubrieron que los periodistas de la AFP, y algunos parecían aprovechar su reciente ascenso a la presidencia.
Una cuenta con más de 77,000 seguidores acumuló 7.5 millones de visitas en un video fabricado de Prabowo aparentemente repartiendo asistencia financiera.
Otra cuenta con miles de seguidores ha compartido 100 videos solo desde enero, la mayoría con videos de Deepfake del presidente que ofrece efectivo.
Tiktok dijo que había eliminado uno de los videos de estafa de Deepfake y la cuenta asociada, y agregó que continuaría eliminando cualquiera que violara las pautas de la comunidad de la plataforma, lo que prohíbe las publicaciones engañosas.
Meta de los padres de Facebook no respondió a la solicitud de comentarios de AFP.
Tiktok y Meta y Meta paga a AFP, junto con más de 100 organizaciones de verificación de hechos para verificar las publicaciones en las redes sociales que potencialmente contienen información falsa.
Más accesible
Arbowo Sasmito, cofundador de la organización de verificación de hechos indonesia Mafindo, dijo que su equipo encontraba nuevas estafas de Deepfake cada semana debido a su prolífica propagación en línea.
«Hemos comenzado a ver videos de Deepfake desde el año pasado, ya que las herramientas de IA se han vuelto más accesibles y asequibles», dijo a la AFP.
Los esquemas que usan figuras profundas de figuras prominentes parecen estar en aumento.
El multimillonario tecnológico Elon Musk y el primer ministro de Canadá, Justin Trudeau, se encuentran entre una serie de celebridades atacadas en los últimos años por sofisticadas personificaciones para impulsar las estafas de efectivo.
Arabowo dijo que su equipo de verificadores de hechos estaba trabajando más duro que nunca para desacreditar estas estafas utilizando la última tecnología disponible para los delincuentes.
«Notamos que la calidad de estos videos ha mejorado con el tiempo. Se ha vuelto más difícil distinguir entre videos falsos y reales», agregó.
«El desafío es el volumen de estas estafas».
