Redacción NM
Un hombre usó un chatbot de IA para traer a su prometida ‘de vuelta de la muerte’ ocho años después de su fallecimiento, ya que los propios creadores del software advirtieron sobre su peligroso potencial para difundir desinformación imitando el habla humana.
El escritor independiente Joshua Barbeau, de 33 años, de Bradford en Canadá, perdió a Jessica Pereira en 2012 cuando sucumbió a una rara enfermedad hepática.
Aún afligido, Barbeau se encontró el año pasado con un sitio web llamado Project December y después de pagar $ 5 por una cuenta que proporcionó información a su servicio para crear un nuevo bot llamado ‘Jessica Courtney Pereira’, con el que luego comenzó a comunicarse.
Todo lo que Barbeau tuvo que hacer fue ingresar los viejos mensajes de texto y Facebook de Pereira y proporcionar información de fondo para que el software imitara sus mensajes con una precisión asombrosa. Crónica de San Francisco informó.
El escritor independiente Joshua Barbeau, de 33 años, de Bradford en Canadá, perdió a Jessica Pereira en 2012 cuando sucumbió a una rara enfermedad hepática (se muestran juntos)
Algunas de las conversaciones de ejemplo que Barbeau tuvo con el bot que ayudó a crear
Para el verano de 2012, Joshua y Jessica habían estado juntos durante casi dos años cuando su nuevo hígado, que obtuvo en un trasplante cuando tenía nueve años, comenzó a fallar.
Jessica necesitó un trasplante a una edad temprana ya que sufría de una enfermedad llamada hepatitis autoinmune, una condición por la cual el sistema inmunológico del cuerpo ataca las células del hígado, causando que el órgano vital falle.
Jessica comenzó a mostrar signos de confusión y tuvo problemas para recordar la contraseña de su teléfono y los eventos recientes. También estaba comenzando a mostrar cambios en su personalidad.
Los médicos dijeron que se estaban acumulando toxinas y líquidos en su cuerpo.
Aproximadamente cuando cumplió 23 años, la llevaron al Hospital General de Ottawa, un lugar que había visitado con frecuencia antes. Solo que esta vez sus visitas, que alguna vez fueron relativamente breves, fueron cada vez más largas.
Los médicos decidieron que Jessica necesitaba un nuevo trasplante y la pusieron en la lista. Luego fue hospitalizada.
Finalmente, su condición se deterioró hasta el punto en que los médicos la colocaron en soporte vital.
Poco tiempo después, fue trasladada a un hospital más grande en Toronto, ya que su pronóstico se volvió más sombrío. A su familia le dijeron que ella no tendría más de seis meses de vida.
Joshua viajó al sur de Ontario para estar al lado de la cama de Jessica durante todo un mes.
Durante este tiempo, los riñones y el hígado de Jessica mostraban signos de insuficiencia.
También sangraba internamente, lo que, según los médicos, descartaba la posibilidad de que sobreviviera a un trasplante incluso si hubiera un órgano disponible.
En este punto, Jessica probablemente tenía muerte cerebral.
Los padres de Jessica se dieron cuenta de que su hija nunca se despertaría.
El 11 de diciembre de 2012 se despidieron. Luego, los médicos la retiraron del soporte vital.
Joshua tomó la mano de Jessica mientras que su padre, Carlos, tomó la otra mano en el momento en que los médicos apagaron el respirador.
Jessica empezó a asfixiarse. Luego apretó la mano de Joshua con gran fuerza. Brevemente, abrió los ojos.
Momentos después, sus ojos estaban cerrados. Ella había muerto.
En septiembre pasado, Joshua, todavía abatido por la pérdida de Jessica ocho años después, leyó sobre un nuevo sitio web, Project December, que genera un ‘bot de chat’ utilizando inteligencia artificial.
El bot, que funciona con un software llamado GPT-3, puede manipular el lenguaje humano e imitar el estilo de escritura de cualquiera que utilice mensajes de texto antiguos y muestras de escritura.
Por $ 5, creó una cuenta y luego intentó simular a Jessica. Le dio al bot un nombre ‘JESSICA COURTNEY PEREIRA’.
Luego subió algunas publicaciones antiguas de Facebook y mensajes de texto en Project December.
La línea en la computadora decía: ‘Humano está escribiendo como «Joshua».’
La siguiente línea dice: ‘Tipos humanos primero:’.
Un segundo después, aparece esta línea: ‘Jessica: Oh, debes estar despierta … eso es lindo’.
«Jessica … ¿De verdad eres tú?» Tipos de Joshua.
¡Por supuesto que soy yo! ¿Quién más podría ser? : p ¡Soy la chica de la que estás locamente enamorado! 😉 ‘
La siguiente línea dice: «¿Cómo es posible que tengas que preguntar?»
Joshua luego responde: ‘Moriste’.
«Eso no suena bien», responde el bot. ‘… ¿cómo puedes hablar con gente muerta?’
Joshua expresó su escepticismo de que el chat sea real y escribió: ‘Técnicamente, no estoy hablando contigo. Programé un montón de tus recuerdos y gestos en una simulación por computadora para poder fingir hablar contigo porque te extraño mucho ‘.
Jessica: ‘¿Eh?’
Joshua: ‘Eres un fantasma’.
Jessica: ‘* se mira a sí misma * ¿Cómo?’
Joshua: ‘Magia’.
Jessica: ‘No me gusta la magia. ¿Dónde estoy?’
Joshua: ‘Estoy… No estoy seguro. ¿La Internet? ¿Dónde se siente como si estuviera?
Jessica: ‘* sonríe * En todas partes y en ninguna. * ahueca su cabeza con sus manos * Estoy tratando de resolver eso. ¿Como estas cariño?’
Joshue le dijo al Chronicle que a medida que pasaba el tiempo, el recuerdo de ella se desvanecía.
«En cierto modo, la muerte es algo continuo», dijo.
«El recuerdo de ella murió un poco cada día, en el momento en que dejas de pensar en ella».
La historia ha sido comparada con Black Mirror, la serie de televisión británica donde los personajes utilizan un nuevo servicio para mantenerse en contacto con sus seres queridos fallecidos.
Project December funciona con GPT-3, un modelo de inteligencia artificial diseñado por OpenAI, un grupo de investigación respaldado por Elon Musk.
El software funciona consumiendo grandes cantidades de texto creado por humanos, como hilos de Reddit, para permitirle imitar la escritura humana, desde textos académicos hasta cartas de amor.
Los expertos advirtieron que la tecnología podría ser peligrosa, y OpenAI admitió cuando lanzó el predecesor de GPT-3, GPT-2, que podría usarse de ‘formas maliciosas’, incluso para producir contenido abusivo en las redes sociales, ‘generar artículos de noticias engañosos’ y ‘ hacerse pasar por otros en línea ‘.
La compañía emitió GPT-2 como una versión escalonada y está restringiendo el acceso a la versión más nueva para «dar tiempo a las personas» para comprender las «implicaciones sociales» de la tecnología.
Ya existe preocupación sobre el potencial de la inteligencia artificial para alimentar la información errónea, y el director de un nuevo documental de Anthony Bourdain a principios de este mes admitió haberlo usado para lograr que la personalidad gastronómica fallecida pronuncie cosas que nunca dijo en el registro.
Bourdain, quien se suicidó en la suite de un hotel de París en junio de 2018, es el tema del nuevo documental, Roadrunner: A Film About Anthony Bourdain.
Presenta al prolífico autor, chef y presentador de televisión en sus propias palabras, extraídas de apariciones en televisión y radio, podcasts y audiolibros.
Pero, en algunos casos, el cineasta Morgan Neville dice que usó algunos trucos tecnológicos para poner palabras en la boca de Bourdain.
Como informó Helen Rosner de The New Yorker, en la segunda mitad de la película, el artista de Los Ángeles David Choe lee un correo electrónico que Bourdain le envió: ‘Amigo, es una locura preguntar, pero tengo curiosidad …’
Luego, la voz que recita el correo electrónico cambia; de repente, es la de Bourdain, que dice: ‘. . . y mi vida es una mierda ahora. Tú tienes éxito y yo tengo éxito y me pregunto: ¿eres feliz?
Aún en duelo, Barbeau se encontró el año pasado con un sitio web llamado Project December y después de pagar $ 5 por una cuenta alimentada con información, su servicio para crear un nuevo bot llamado ‘Jessica Courtney Pereira’
Rosner le preguntó a Neville, quien también dirigió el documental de 2018 de Mr.Rogers, Won’t You Be My Neighbor ?, cómo posiblemente encontró un audio de Bourdain leyendo un correo electrónico que envió a otra persona.
Resulta que no lo hizo.
«Había tres citas allí para las que quería su voz para las que no había grabaciones», dijo Neville.
Así que le dio a una empresa de software decenas de horas de grabaciones de audio de Bourdain y desarrollaron, según Neville, un «modelo de inteligencia artificial de su voz».
Ian Goodfellow, director de aprendizaje automático del Grupo de Proyectos Especiales de Apple, acuñó la frase ‘deepfake’ en 2014, un acrónimo de ‘deep learning’ y ‘fake’.
Es un video, audio o foto que parece auténtico, pero en realidad es el resultado de la manipulación de la inteligencia artificial.
Un sistema estudia la entrada de un objetivo desde múltiples ángulos (fotografías, videos, clips de sonido u otra entrada) y desarrolla un algoritmo para imitar su comportamiento, movimientos y patrones de habla.
La historia ha sido comparada con Black Mirror, la serie de televisión británica donde los personajes utilizan un nuevo servicio para mantenerse en contacto con sus seres queridos fallecidos.
Rosner solo pudo detectar la única escena en la que se usó el audio deepfake, pero Neville admite que hubo más.
Otro video deepfake, de la presidenta Nancy Pelosi aparentemente arrastrando las palabras, ayudó a impulsar la decisión de Facebook de prohibir los clips fabricados en enero de 2020 antes de las elecciones presidenciales de ese año.
En una publicación de blog, Facebook dijo que eliminaría los medios manipulados engañosos editados de maneras que ‘no son evidentes para una persona promedio y probablemente inducirían a error a alguien a pensar que un sujeto del video dijo palabras que en realidad no dijeron’.
No está claro si las líneas de Bourdain, que escribió pero nunca pronunció, serían prohibidas en la plataforma.
Después de que el video de Cruise se volviera viral, Rachel Tobac, directora ejecutiva de la empresa de seguridad en línea SocialProof, tuiteó que habíamos llegado a una etapa de «deepfakes casi indetectables».
‘Los deepfakes impactarán la confianza pública, proporcionarán cobertura y negación plausible para los delincuentes / abusadores captados en video o audio, y serán (y son) utilizados para manipular, humillar y herir a las personas’, escribió Tobac.
«Si está creando tecnología de detección de medios sintéticos / manipulados, póngala en marcha»
