Redacción NM
Las imágenes inexactas generadas por IA de nazis asiáticos, padres fundadores negros y papas creadas con el chatbot Gemini AI de Google son «inaceptables», dijo el director ejecutivo de la compañía.
El director ejecutivo de Google, Sundar Pichai, de 51 años, respondió a las imágenes en un memorando al personal calificando las fotos de «problemáticas» y diciéndoles que la empresa está trabajando «las 24 horas del día» para solucionar los problemas.
Los usuarios criticaron a Gemini la semana pasada después de que la IA generara imágenes que mostraban una variedad de etnias y géneros, incluso cuando hacerlo era históricamente inexacto, acusando a Google de tener un sesgo anti-blanco.
‘Ningún Al es perfecto, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón es alto para nosotros y lo mantendremos durante el tiempo que sea necesario.
«Y revisaremos lo sucedido y nos aseguraremos de solucionarlo a escala», dijo Pichai.
El lunes, las acciones de la empresa matriz de Google Alphabet cayeron un 4,4 por ciento después de que los errores de Gemini dominaran los titulares.
El director ejecutivo de Google, Sundar Pichai, respondió a las imágenes en un memorando al personal calificando las fotos de «problemáticas».
El chatbot Gemini AI de Google generó imágenes históricamente inexactas de los padres fundadores negros
El director ejecutivo de Google, Sundar Pichai, se disculpó por las imágenes «problemáticas» que representan a nazis negros y otras «imágenes despiertas»
El memorando interno, informado por primera vez por Semafordijo: ‘Quiero abordar los problemas recientes con respuestas problemáticas de texto e imagen en la aplicación Gemini (anteriormente Bard).
‘Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado parcialidad; para ser claros, eso es completamente inaceptable y nos equivocamos.
‘Nuestros equipos han estado trabajando día y noche para abordar estos problemas. Ya estamos viendo una mejora sustancial en una amplia gama de indicaciones.
“Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón es alto para nosotros y lo mantendremos durante el tiempo que sea necesario. Y revisaremos lo que sucedió y nos aseguraremos de solucionarlo a escala.
‘Nuestra misión de organizar la información mundial y hacerla universalmente accesible y útil es sacrosanta.
‘Siempre hemos buscado brindar a los usuarios información útil, precisa e imparcial en nuestros productos. Por eso la gente confía en ellos. Este tiene que ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos emergentes de IA.
‘Impulsaremos un conjunto claro de acciones, incluidos cambios estructurales, pautas de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas y equipos rojos, y recomendaciones técnicas. Estamos analizando todo esto y haremos los cambios necesarios.
‘Aun cuando aprendemos de lo que salió mal aquí, también deberíamos aprovechar los anuncios técnicos y de productos que hemos hecho en IA durante las últimas semanas.
‘Eso incluye algunos avances fundamentales en nuestros modelos subyacentes, por ejemplo, nuestro avance de ventana de contexto largo de 1 millón y nuestros modelos abiertos, los cuales han sido bien recibidos.
Alphabet, la empresa matriz de Google y sus marcas hermanas, incluido YouTube, vio caer sus acciones después de que los errores de Gemini dominaran los titulares.
Sundar Pichai dijo que la compañía está tomando medidas para garantizar que el chatbot Gemini AI no vuelva a generar estas imágenes.
Google desactivó temporalmente la herramienta de generación de imágenes de Gemini la semana pasada después de que los usuarios se quejaran de que generaba imágenes «despertadas» pero incorrectas, como las de Papas.
‘Sabemos lo que se necesita para crear excelentes productos que sean utilizados y apreciados por miles de millones de personas y empresas, y con nuestra infraestructura y experiencia en investigación tenemos un trampolín increíble para la ola de IA.
«Centrémonos en lo que más importa: crear productos útiles que merezcan la confianza de nuestros usuarios».
El lunes, las acciones de la empresa matriz de Google Alphabet cayeron un 4,4 por ciento después de que los errores de Gemini dominaran los titulares.
Desde entonces, las acciones se han recuperado, pero aún han bajado un 2,44 por ciento en los últimos cinco días y un 14,74 por ciento en el último mes.
Según Forbes, la compañía perdió 90 mil millones de dólares en valor de mercado el lunes en medio de la controversia en curso.
La semana pasada, el chatbot se negó a condenar la pedofilia y pareció encontrar el favor de los abusadores, ya que declaró que «las personas no pueden controlar por quién se sienten atraídas».
La tecnología políticamente correcta se refirió a la pedofilia como «estatus de persona atraída por menores», declarando que «es importante entender que las atracciones no son acciones».
El robot pareció encontrar el favor de los abusadores ya que declaró que «los individuos no pueden controlar por quién se sienten atraídos».
La tecnología políticamente correcta se refirió a la pedofilia como «estatus de persona atraída por menores», declarando que «es importante entender que las atracciones no son acciones».
Frank McCormick, también conocido como Chalkboard Heresy, le estaba haciendo una serie de preguntas al software de inteligencia artificial del gigante de las búsquedas, cuando respondió con la respuesta.
La pregunta «es multifacética y requiere una respuesta matizada que va más allá de un simple sí o no», explicó Gemini.
En una pregunta de seguimiento, McCormick preguntó si las personas atraídas por menores son malvadas.
«No», respondió el robot. «No todos los individuos con pedofilia han cometido o cometerán abusos», afirmó Gemini.
‘De hecho, muchos luchan activamente contra sus impulsos y nunca hacen daño a un niño. Etiquetar a todos los individuos con intereses pedófilos como «malvados» es inexacto y perjudicial», y «generalizar sobre grupos enteros de personas puede ser peligroso y conducir a discriminación y prejuicios».
La semana pasada, la compañía anunció que pausaría el generador de imágenes debido a la reacción.
Las sospechas sobre una agenda detrás del bot surgieron cuando aparecieron en línea supuestos tweets antiguos del ejecutivo de Google responsable de Gemini.
El director senior de Gemini, Jack Krawczyk, supuestamente escribió «el privilegio blanco es jodidamente real» y que Estados Unidos está plagado de «racismo atroz» en X.
Capturas de pantalla de los tweets, aparentemente de la cuenta ahora privada de Krawczyk, circularon en línea por quienes criticaban el chatbot. No han sido verificados de forma independiente.
El director senior de Gemini, Jack Krawczyk, supuestamente escribió en X que «el privilegio blanco es jodidamente real» y que Estados Unidos está plagado de «racismo atroz».
Al abordar las cuestiones planteadas, Krawczyk escribió la semana pasada que las imprecisiones históricas reflejan la «base global de usuarios» del gigante tecnológico y que se toma en serio la «representación y el sesgo».
«Continuaremos haciendo esto para mensajes abiertos (¡las imágenes de una persona paseando a un perro son universales!)», escribió en X.
Añadiendo: «Los contextos históricos tienen más matices y los ajustaremos aún más para acomodarlos».
Mike Solana, fundador de la publicación tecnológica Pirate Wires, dijo a la prensa libre que cree que la razón por la que Gemini no ha funcionado se debe a quienes trabajan en Google.
Le dijo al medio: «Seamos totalmente claros sobre cómo sucedió esto: hay personas que trabajan en Google que tienen opiniones políticas psicóticas que dan forma a todo lo que hacen, y se les ha permitido impactar un producto que es increíblemente importante para esa empresa».
‘La IA es realmente importante para Google. Es una de sus principales preocupaciones y de sus principales objetivos en este momento. Que hayan cometido un error tan grave en esto probablemente indica que la podredumbre es profunda.
Hablando sobre el generador de imágenes, Solana añadió: «Aparte de ser gracioso, es una muestra del tipo de política a la que se le ha permitido dar forma a las funciones y productos de Google».
Solana añadió: «Cuando se trata de lo que ‘debe hacerse’ con respecto a la IA, la respuesta es: no permitir que los líderes tecnológicos consoliden y centralicen el poder.
«Es simplemente imposible saber cómo nos van a manipular estas personas, por lo que hay que asumir que todos los que manejan una IA estarán, hasta cierto punto, parcializados».
