El creador de ChatGPT dice que Voice Engine puede replicar la voz de una persona basándose en una muestra de audio de 15 segundos.
OpenAI ha presentado una herramienta para clonar voces de personas, pero está retrasando su lanzamiento público debido a preocupaciones sobre un posible uso indebido en un año electoral clave.
Voice Engine puede replicar la voz de una persona basándose en una muestra de audio de 15 segundos, según una publicación de blog de OpenAI que demuestra la herramienta.
Pero el creador de ChatGPT está «adoptando un enfoque cauteloso e informado» respecto a la tecnología y espera iniciar un diálogo sobre «el despliegue responsable de voces sintéticas», dijo la compañía en la entrada del blog publicada el viernes.
«Reconocemos que generar un discurso que se parezca a las voces de la gente tiene serios riesgos, que son especialmente importantes en un año electoral», dijo la nueva empresa con sede en San Francisco.
«Estamos colaborando con socios estadounidenses e internacionales de todo el gobierno, los medios de comunicación, el entretenimiento, la educación, la sociedad civil y más para garantizar que incorporamos sus comentarios a medida que construimos».
Compartimos nuestros aprendizajes de una vista previa a pequeña escala de Voice Engine, un modelo que utiliza entrada de texto y una única muestra de audio de 15 segundos para generar un habla con sonido natural que se parece mucho al hablante original. https://t.co/yLsfGaVtrZ
—OpenAI (@OpenAI) 29 de marzo de 2024
OpenAI dijo que tomaría “una decisión más informada” sobre el despliegue de la tecnología a escala basándose en pruebas y debate público.
La compañía agregó que cree que la tecnología solo debería implementarse con medidas que garanticen que «el orador original agregue conscientemente su voz al servicio» y evite la «creación de voces que sean demasiado similares a las de figuras prominentes».
El uso indebido de la IA se ha convertido en una gran preocupación antes de las elecciones de este año en países que representan aproximadamente la mitad de la población mundial.
Los votantes de más de 80 países, incluidos México, Sudáfrica y Estados Unidos, acudirán a las urnas en 2024, lo que ha sido considerado el año electoral más importante de la historia.
La influencia de la IA en los votantes ya ha sido objeto de escrutinio en varias elecciones.
El ex primer ministro encarcelado de Pakistán, Imran Khan, utilizó discursos generados por inteligencia artificial para atraer a sus seguidores en el período previo a las elecciones parlamentarias del país en febrero.
En enero, un agente político del candidato presidencial estadounidense Dean Phillips realizó una llamada automática haciéndose pasar por el presidente estadounidense Joe Biden e instó a los votantes a no emitir su voto en las primarias del Partido Demócrata de New Hampshire.
OpenAI dijo que había implementado varias medidas de seguridad para sus socios que prueban Voice Engine, «incluida la marca de agua para rastrear el origen de cualquier audio generado por Voice Engine, así como el monitoreo proactivo de cómo se utiliza».
