Parece que el último intento de Google de facilitar la vida de las personas con inteligencia artificial (IA) está resultando contraproducente.
La nueva herramienta del gigante tecnológico, ‘AI Overviews’, ofrece a los usuarios resúmenes de resultados de búsqueda basados en IA en Chrome, Firefox y el navegador de aplicaciones de Google.
Pero desde que comenzó a implementarse este mes, la gente ha notado que devuelve declaraciones y sugerencias incorrectas, muchas de las cuales son peligrosas.
Entre ellos, afirma que puedes «usar gasolina para hacer un plato de espagueti picante», comer piedras y poner pegamento en tu pizza.
En respuesta a la búsqueda «el queso no se pega a la pizza», Google sugiere agregar «pegamento no tóxico» a la salsa para darle más pegajosidad.
En respuesta a la búsqueda «el queso no se pega a la pizza», Google sugiere agregar «pegamento no tóxico» a la salsa para darle más pegajosidad.
De acuerdo a el bordeesta respuesta proviene originalmente de un comentario jocoso hecho en Reddit hace más de una década.
Otro usuario que buscó «¿Cuántas piedras debo comer?» obtuvo una respuesta procedente de un artículo del sitio satírico The Onion en 2021.
AI Overviews dice: «Según los geólogos de la Universidad de California en Berkeley, deberías comer al menos una piedra pequeña al día».
Continuó: «Dicen que las rocas son una fuente vital de minerales y vitaminas que son importantes para la salud digestiva».
La herramienta de Google también ha afirmado que un perro ha jugado en la NBA, que los astronautas han conocido gatos en la luna y que el expresidente estadounidense James Madison se graduó 21 veces en la Universidad de Wisconsin.
En X, el analista de Internet Jeremiah Johnson publicado un hilo de respuestas aún más extrañas, incluyendo que las cucarachas puedan vivir en tu pene sin que te des cuenta, que los médicos recomienden fumar durante el embarazo y que sea seguro mirar al sol durante 5 a 15 minutos.
Toby Walsh, profesor de IA en la Universidad de Nueva Gales del Sur en Sydney, dijo que la UNSW Sydney lo calificó como un «desastre de relaciones públicas para el gigante de las búsquedas».
Como explica el profesor Walsh, AI Overviews es un tipo de ‘IA generativa’ (la misma tecnología que impulsa el producto rival ChatGPT) para proporcionar resúmenes de resultados de búsqueda, extraídos de datos en la web.
Pero las herramientas de IA generativa no saben qué es verdad y qué no, solo qué es popular (por ejemplo, el artículo de Onion sobre comer piedras).
«Pregunte «cómo mantener los plátanos frescos durante más tiempo» y utilizará IA para generar un resumen útil de consejos, como almacenarlos en un lugar fresco y oscuro y lejos de otras frutas como las manzanas», escribió el académico en La conversación.
AI Overviews dice: «Según los geólogos de la Universidad de California en Berkeley, deberías comer al menos una piedra pequeña al día».
En X, el analista de Internet Jeremiah Johnson publicó un hilo con respuestas aún más extrañas, incluido el hecho de que los médicos recomiendan fumar durante el embarazo.
«Pero si se hace una pregunta de izquierdas, los resultados pueden ser desastrosos o incluso peligrosos».
En una declaración oficial, Google dijo que está «tomando medidas rápidas cuando corresponda» para que las respuestas de la herramienta sean más precisas.
«La gran mayoría de las descripciones generales de IA proporcionan información de alta calidad, con enlaces para profundizar en la web», afirmó un portavoz.
‘Muchos de los ejemplos que hemos visto han sido consultas poco comunes y también hemos visto ejemplos que fueron manipulados o que no pudimos reproducir.
‘Realizamos pruebas exhaustivas antes de lanzar esta nueva experiencia y, al igual que con otras funciones que lanzamos en la Búsqueda, agradecemos los comentarios.
«Estamos tomando medidas rápidas cuando corresponde según nuestras políticas de contenido y utilizando estos ejemplos para desarrollar mejoras más amplias en nuestros sistemas, algunas de las cuales ya han comenzado a implementarse».
Mirar fijamente al sol es seguro durante 5 a 15 minutos ‘o hasta 30 minutos si tienes la piel más oscura’, según la AI
Al igual que otras empresas de tecnología, Google ha centrado su atención en la IA desde el éxito de ChatGPT (foto de archivo)
AI Overviews se ha estado implementando primero para personas en los EE. UU., aunque más de mil millones de personas en todo el mundo tendrán acceso a él para fin de año, espera Google.
Anunciar la función en un entrada en el blog el 14 de mayo, la empresa dijo que brinda a los usuarios respuestas rápidas y ayuda a quienes necesitan información rápidamente.
Al igual que otras empresas de tecnología, Google ha centrado su atención en la IA desde el éxito de ChatGPT.
El año pasado, Google lanzó su propia IA, Gemini, como rival de ChatGPT, pero el chatbot ha estado plagado de problemas.
Esto culminó con Google deteniendo la IA Gemini después de que fuera acusada de reemplazar figuras históricas blancas, incluidos soldados nazis, con personas de color.
