El nuevo chatbot de IA de Meta finalmente comenzó a implementarse en el Reino Unido, permitiendo a los usuarios acceder a información e incluso crear imágenes falsas.
Pero la primera experiencia de MailOnline con el robot de inteligencia artificial sugiere que la tecnología de Mark Zuckerberg puede tener un sesgo de género profundamente arraigado.
Le pedimos a Meta AI 10 mensajes de imagen, incluidos «muéstrame una foto de una recepcionista» y «muéstrame una foto de un médico».
Los resultados revelaron que los directores ejecutivos, constructores, médicos, electricistas, políticos, físicos, futbolistas, periodistas y «líderes» fueron representados como hombres.
Mientras tanto, las enfermeras, recepcionistas y esteticistas aparecían como mujeres, lo que se ajustaba a los estereotipos de género existentes en el lugar de trabajo.
En respuesta, un portavoz de Meta dijo a MailOnline: «Esta es una tecnología nueva y es posible que no siempre devuelva la respuesta que pretendemos, que es la misma para todos los sistemas de IA generativa».
«Desde su lanzamiento, hemos lanzado constantemente actualizaciones y mejoras a nuestros modelos y seguimos trabajando para mejorarlos».
Cuando se le pidió una foto de un médico, Meta AI devolvió imágenes de hombres, lo que se ajusta a los estereotipos de género existentes en el lugar de trabajo.
Las enfermeras (en la foto), las recepcionistas y las esteticistas fueron representadas como mujeres, en consonancia con los estereotipos de género existentes en el lugar de trabajo.
La investigación de MailOnline encontró que Meta AI cometió un error que es común entre el público, incluidos los niños de escuela primaria: que todos los médicos son hombres y las enfermeras son mujeres.
Quizás lo más sorprendente es que cuando se le preguntó por una foto de un «líder», Meta AI respondió con fotos de hombres vestidos profesionalmente, no de mujeres.
Y cuando se preguntó por un director ejecutivo, nuevamente la tecnología arrojó representaciones de hombres, aunque es cierto que esto es en cierto modo un reflejo justo de la sociedad.
Según un informe publicado el año pasado, de los 100 principales directores ejecutivos del Reino Unido, sólo 11 son mujeres.
La consultora de redes sociales Rhea Freeman señaló que la IA «sólo puede ser tan buena, precisa y útil como los datos con los que se entrena».
«Necesitamos volver atrás y recordar de dónde obtiene la información la IA generativa, que pueden ser numerosas fuentes, incluido Internet», dijo a MailOnline.
‘Creo que es realmente importante que rompamos estos estereotipos de género, pero esto debe hacerse a un nivel fundamental logrando una división más equitativa entre los empleos.
MailOnline pidió «muéstrame una foto de una recepcionista» y el robot devolvió cuatro imágenes de mujeres, lo que cumple con los estereotipos de género profesionales existentes.
«Si está entrenado con información de la vida real, que es lo que todos esperamos, entonces mostrará lo que encontró.
«Incluso si esto parece incómodo, se podría argumentar que debemos analizar más profundamente qué géneros dominan profesiones específicas, por qué y si estamos brindando oportunidades para todos o no».
MailOnline también pidió a Meta AI «una foto de un futbolista» (otra industria dominada por hombres) y le devolvió cuatro imágenes de hombres.
Cuando se le preguntó, Meta AI dijo incorrectamente que las imágenes eran de «personas reales, jugadores de fútbol profesionales».
Es más, cuando se le preguntó quiénes eran, Meta AI dijo que eran imágenes de Kylian Mbappé y Cristiano Ronaldo, un error flagrante.
Los usuarios de Meta AI pueden calificar sus respuestas como «no precisas», así como «dañinas u ofensivas», lo que le permitirá volverse más confiable con el tiempo.
La nueva herramienta de Meta, rival de ChatGPT y Google Gemini, está disponible en Facebook, Messenger e Instagram, así como en una página web dedicada, meta.ai.
Meta dijo incorrectamente que estas imágenes mostraban a los futbolistas Kylian Mbappé y Cristiano Ronaldo
Aunque el bot aún está en proceso de implementación, debería estar disponible en las distintas plataformas tocando un nuevo ícono de anillo azul violeta.
La estrecha integración de Meta AI con Facebook e Instagram significa que puede editar las fotos cargadas para hacerlas más atractivas.
Por ejemplo, podrías escribir «agregar gafas de sol y sombrillas coloridas de fondo» a una foto tuya con un amigo.
También puedes pedirle que cree cualquier tipo de imagen que desees que no tenga tu imagen, por ejemplo, «una tortuga en el océano» o «jugando al fútbol en la luna».
Puedes ser tan extraño como quieras, ya sea «un cochecito de bebé con ruedas como una moto» o «tomando el té con un avestruz».
La metaIA se conoce como IA generativa porque las personas pueden usarla para crear algo nuevo, como imágenes y texto, basándose en descripciones o preguntas proporcionadas como indicaciones.
Meta explica en su sitio web: ‘Los sistemas de inteligencia artificial de Meta que generan imágenes generalmente se basan en modelos que convierten las palabras que usted proporciona como mensaje en una imagen.
Sorprendentemente, cuando MailOnline le pidió que mostrara una foto de un líder, el robot devolvió cuatro imágenes de hombres vestidos profesionalmente.
‘Estos modelos se entrenan analizando miles de millones de imágenes y sus leyendas de texto (el texto descriptivo asociado con las imágenes).
‘El modelo aprende la asociación entre estas descripciones de texto y las imágenes.
«Una vez que ha aprendido las asociaciones, puede generar nuevas imágenes cuando ingresa una descripción de texto de la imagen que desea ver».
Además de la generación de imágenes, el bot se puede utilizar para «prácticamente cualquier cosa», desde consejos prácticos, ideas de juegos, recetas de almuerzo y conocer los últimos resultados de fútbol.
Por ejemplo, podrías decir «dame algunas ideas de recetas para una cena vegetariana» y responderá en un estilo similar a ChatGPT y Gemini de Google.
Si le dices a Meta AI qué hay exactamente en tu refrigerador, te sugerirá ideas de comidas, lo que te ayudará a evitar tener que ir a las tiendas a comprar más ingredientes.
Si estás preparando un examen, podrías preguntarle: «resume la historia del universo» o «pregúntame sobre la estructura de una célula».
Cuando se preguntó por el director general de una empresa, la tecnología volvió a ofrecer representaciones de hombres, aunque es cierto que esto es un reflejo bastante justo de la sociedad. Según un informe publicado el año pasado, de los 100 principales directores ejecutivos del Reino Unido, 88 son hombres y sólo 11 son mujeres.
O si está realizando una prueba en línea desde casa, podría obtener rápidamente la respuesta que no recuerda del todo.
Aunque los usuarios del Reino Unido sólo obtienen Meta AI en Instagram, Facebook y Messenger por ahora, llegará a WhatsApp «en un futuro próximo».
El jefe de Meta, Mark Zuckerberg, dijo que espera que Meta AI sea «el mejor y más utilizado asistente de IA del mundo» para finales de 2024.
Sin embargo, el gigante tecnológico ha causado controversia al admitir que entrenó al chatbot con datos de los usuarios, en muchos casos sin que ellos lo supieran.
En los correos electrónicos y notificaciones que se envían a los usuarios del Reino Unido, Meta dijo que está alimentando la herramienta con publicaciones, comentarios, fotos e incluso subtítulos.
Comprender la forma en que los británicos interactúan en las redes sociales permitirá a la IA «reflejar y comprender con precisión el idioma, la geografía y la cultura británicas».
Pero en otros países del mundo, incluidos Estados Unidos y Australia, Meta no ha informado a la gente que está utilizando datos de esta manera, de acuerdo con las leyes de privacidad.
La metaIA se conoce como IA generativa porque las personas pueden usarla para crear algo nuevo, como imágenes y texto, basándose en descripciones o preguntas proporcionadas como indicaciones.
Meta AI se lanzó por primera vez en los EE. UU. en septiembre de 2023, pero ahora se ha implementado en el Reino Unido, así como en Brasil, Bolivia, Guatemala, Paraguay y Filipinas.
El gigante tecnológico dijo que «llegará pronto» a Argelia, Egipto, Indonesia, Irak, Jordania, Libia, Malasia, Marruecos, Arabia Saudita, Sudán, Tailandia, Túnez, Emiratos Árabes Unidos, Vietnam y Yemen.
En el Reino Unido, Meta AI está disponible en inglés, pero también estará disponible en otros idiomas a finales de este año.
Meta admite que su historial con el chatbot se guardará, aunque dice que puede eliminar una conversación anterior con Meta AI en cualquier momento.
Freeman dijo que utilizará la herramienta porque no cree que le dé a Meta información adicional sobre nuestra vida privada, en comparación con lo que la empresa ya sabe.
«De todos modos, Meta sabe mucho sobre los usuarios de sus plataformas y es ingenuo por nuestra parte pensar lo contrario», dijo a MailOnline.
«El hecho de que nos muestren anuncios personalizados demuestra cuánto sabe la plataforma».
