Redacción NM
Los posibles estafadores utilizaron un clon de voz de Benedict Cumberbatch
Una productora de cine fue atacada por estafadores que usaban un ‘clon’ de voz de Benedict Cumberbatch creado por AI, reveló la compañía a DailyMail.com.
Un inquietantemente convincente Benedict Cumberbatch llamó a la compañía para discutir un acuerdo cinematográfico, dice Bob William, guionista y director de Peabody Films, una compañía con sede en Málaga, España.
El AI Cumberbatch era ‘100 por ciento la voz’, dice el Sr. William, y agrega que la compañía estaba convencida al principio de que era el verdadero actor.
Cuando ‘Cumberbatch’ y su agente se negaron a reunirse en persona, se dieron cuenta de la artimaña y se salvaron de perder dinero.
Pero muchos otros han caído en estafas similares, ya que AI está abriendo la puerta a nuevas herramientas que los malos pueden usar para robar dinero de personas desprevenidas.
El personal técnico de Peabody Films se dio cuenta de que la llamada provenía de Filadelfia (Peabody Films)
‘Al principio, el correo electrónico parecía un sueño hecho realidad. Benedict Cumberbatch aparentemente había leído el guión de nuestra próxima película y estaba interesado en discutir un papel potencial”, dijo William.
‘A medida que leíamos más, no podíamos creer nuestra suerte.
“Aquí estaba uno de los actores más talentosos de nuestro tiempo, contactándonos y mostrando interés en nuestro proyecto.
«Nos sorprendió y nos decepcionó descubrir que habíamos sido víctimas de un programa de IA haciéndose pasar por un actor famoso».
El director dice que es un «ejemplo de la creciente sofisticación de la tecnología de inteligencia artificial y su potencial para engañar».
William dijo que inicialmente alguien que afirmaba ser el agente de la estrella de los Vengadores les envió un correo electrónico, quien luego sugirió programar una llamada.
Se dio cuenta de que era una estafa cuando el número desde el que había llamado parecía tener demasiados dígitos, y el falso ‘Cumberbatch’ también era muy reacio a reunirse en persona.
La tecnología para suplantar las voces de las personas ya está aquí, y los estafadores ya la utilizan.
La firma de ciberseguridad McAfee encontró que en los EE. UU., el Reino Unido, Francia, Alemania, Japón, Australia e India, el diez por ciento de las personas han sido blanco de una estafa de voz de IA.
También muestran una efectividad notable, ya que el 78 por ciento de los que se informó que fueron atacados perdieron dinero como resultado.
A principios de este año, los investigadores de Microsoft demostraron un modelo de IA de texto a voz que puede sintetizar la voz de cualquier persona a partir de una muestra de audio de tres segundos.
El modelo, VALL-E, puede preservar el tono emocional del orador y puede hacer que la persona diga cualquier cosa, y sus creadores sugieren que se puede usar para crear contenido de audio con guión de otros modelos de IA.
El ‘Cumberbatch’ falso fue 100 por ciento convincente, dijo William.
Era la voz. No hay duda al respecto ‘, continuó.
‘AI debe haber sido la fuente. Al principio pensamos que podría ser un actor de doblaje haciendo una broma pesada, pero luego pasó y comenzaron a pedir dinero. ‘
La compañía tuvo varias conversaciones con ‘Cumberbatch’, pero luego notó ‘algunas señales de alerta’, dice William, incluida su renuencia a reunirse en persona.
«También hubo algunas solicitudes extrañas, como pedirnos que pagáramos una tarifa de registro de £ 200,000 incluso antes de conocernos en persona».
William dice que desafió al agente falso sobre dónde había visto el guión de la próxima película, Emma, que no se había difundido ampliamente.
La pregunta ni siquiera fue reconocida.
Cuando llamó a la verdadera centralita de la empresa, preguntó por James Hayes, pero le dijeron que nadie con ese nombre trabajaba para la empresa.
William dice que cree que fue atacado porque, como una pequeña productora, no tendrían los recursos para verificar los detalles.
Dice que ahora notificará a la compañía de la que dijo provenir el presunto agente, Conway VanGelder, y dice que está considerando denunciar el ataque a la policía.
Las imágenes y el audio falsos generados por IA ya se están utilizando ampliamente en el fraude comercial, dijo el experto en IA y fraude Alexey Khitrov, fundador y presidente de ID R&D, hablando con DailyMail.com.
Él dijo: ‘Hemos hecho una encuesta allí con los participantes de la empresa. Lo que hemos visto es que el 42 por ciento de ellos han visto cómo se utilizan falsificaciones profundas en intentos fraudulentos dentro de su línea de trabajo. Así que es real, ya está ahí.’
Peabody Films es una productora independiente fundada por el icónico director de cine británico Barney Platts-Mills, conocido por películas galardonadas como Bronco Bullfrog y Private Road.
Desde la muerte de Platts-Mills en 2021, la compañía ha producido largometrajes que incluyen The Way We Are, The Way We Were, cuyo estreno está previsto para 2024.
