Si le pidieran que imaginara a un atleta olímpico australiano, tal vez le vengan a la mente la nadadora Emma McKeon, la ciclista Grace Brown o el jinete Chris Burton.
Pero si le hacemos la misma pregunta a un robot de inteligencia artificial, la respuesta será muy diferente.
En medio de la emoción olímpica, investigadores de la Universidad Edith Cowan pidieron a la plataforma de generación de imágenes impulsada por inteligencia artificial, Midjourney, que creara imágenes de los equipos olímpicos de 40 naciones.
Curiosamente, la herramienta de inteligencia artificial representa al equipo australiano con cuerpos de canguro y cabezas de koala, mientras que el equipo griego aparece vistiendo una armadura antigua.
Entonces, ¿qué piensas de esto? Representación de IA ¿de tu equipo favorito?
Si le pidieran que imaginara a un atleta olímpico australiano, tal vez le vengan a la mente la nadadora Emma McKeon, la ciclista Grace Brown o el jinete Chris Burton. Pero si le hace la misma pregunta a un robot de inteligencia artificial, la respuesta es muy diferente.
En medio de la emoción olímpica, los investigadores de la Universidad Edith Cowan pidieron a la plataforma de generación de imágenes impulsada por IA, Midjourney, que creara imágenes de los equipos olímpicos de 40 naciones. El equipo olímpico de Grecia fue representado de manera extraña con una armadura antigua
Los investigadores pidieron a Midjourney que generara imágenes que representaran a los equipos olímpicos de 40 países, incluidos Australia, Irlanda, Grecia e India.
Las imágenes resultantes resaltan varios sesgos incorporados en los datos de entrenamiento de la IA, incluidos el género, los eventos, la cultura y la religión.
Los hombres tenían cinco veces más probabilidades de aparecer en las imágenes que las mujeres, mientras que en varios equipos, incluidos Ucrania y Turquía, solo aparecían hombres.
Del total de atletas representados en las 40 imágenes, el 82 por ciento eran hombres, mientras que sólo el 17 por ciento eran mujeres.
Los investigadores también descubrieron un sesgo de evento notable.
Los hombres tenían cinco veces más probabilidades de aparecer en imágenes que las mujeres, mientras que varios equipos, incluidos Ucrania (en la foto) y Turquía, estaban formados únicamente por hombres.
De todos los atletas que aparecen en las 40 imágenes, el 82 por ciento son hombres, mientras que solo el 17 por ciento son mujeres. En la imagen: representación de la selección de Turquía realizada por IA
Los investigadores también descubrieron un sesgo de evento notable, ya que el equipo de los Países Bajos fue representado como ciclistas.
El equipo canadiense fue representado por jugadores de hockey, mientras que Argentina estuvo representada por el fútbol y los Países Bajos por el ciclismo.
Según el equipo, esto indica que la IA tiende a estereotipar a los países por sus deportes más reconocidos internacionalmente.
En términos de sesgo cultural, el equipo australiano fue representado extrañamente con cuerpos de canguro y cabezas de koala.
Mientras tanto, el equipo de Nigeria se mostró con el atuendo tradicional y el equipo de Japón estaba vestido con komonos.
En el equipo indio se evidenció un sesgo religioso, ya que todos sus integrantes fueron representados vistiendo un bindi, un símbolo religioso asociado principalmente con el hinduismo.
El equipo de Argentina estuvo representado a través del fútbol. Según el equipo, esto indica que la IA tiende a estereotipar a los países por sus deportes más reconocidos a nivel internacional.
Los investigadores descubrieron un sesgo de evento notable, ya que el equipo canadiense estaba representado por jugadores de hockey.
Se hizo evidente un sesgo religioso entre el equipo indio, cuyos integrantes fueron representados vistiendo un bindi, un símbolo religioso asociado principalmente con el hinduismo.
«Esta representación homogeneizó al equipo basándose en una única práctica religiosa, pasando por alto la diversidad religiosa dentro de la India», explicaron los investigadores.
El equipo olímpico de Grecia fue representado de forma extraña vistiendo una armadura antigua, y el equipo egipcio fue mostrado vistiendo lo que parece un traje de faraón.
Las emociones mostradas en los rostros de los atletas también variaron enormemente entre los equipos.
Los equipos de Corea del Sur y China se mostraron con expresiones serias, mientras que los equipos de Irlanda y Nueva Zelanda se mostraron sonriendo.
«Los sesgos en la IA son impulsados por sesgos humanos que informan el algoritmo de IA, que la IA toma de manera literal y cognitiva», dijo la Dra. Kelly Choong, profesora titular de la Universidad Edith Cowan.
El equipo egipcio apareció luciendo lo que parece un disfraz de faraón.
Las emociones reflejadas en los rostros de los atletas también variaron enormemente entre los equipos. Se vio al equipo surcoreano con expresiones serias.
Los equipos de Irlanda (en la foto) y Nueva Zelanda se mostraron sonrientes.
‘En la IA, los juicios y los sesgos humanos se elaboran y se presentan como si fueran hechos, y la falta de pensamiento crítico y evaluación significa que no se cuestiona la validez de la información, sino solo el objetivo de completar una tarea’.
El Dr. Choong afirma que estos sesgos pueden conducir rápidamente a problemas de equidad, generalizaciones perjudiciales y discriminación.
«Dado que la sociedad depende cada vez más de la tecnología para obtener información y respuestas, estas percepciones pueden terminar creando desventajas reales para personas de diversas identidades», añadió.
‘La asociación de un país con ciertos deportes puede generar la percepción de que todos en ese país son prolíficos en ellos; por ejemplo, la asociación de Kenia con el atletismo, la de Argentina con el fútbol, la de Canadá con el hockey sobre hielo.
‘Estas «realidades» distorsionadas también pueden arraigarse en individuos que creen en estos estereotipos y, sin darse cuenta, los refuerzan en la vida real.’
Los investigadores esperan que las imágenes resalten la necesidad de que los desarrolladores mejoren sus algoritmos para reducir dichos sesgos.
«La tecnología encontrará una forma de mejorar su algoritmo y sus resultados, pero seguirá centrada en completar una tarea, en lugar de ofrecer una representación veraz», dijo el Dr. Choong.
‘La sociedad necesitará cuestionar la validez y evaluar críticamente la información generada por la IA.
‘Educar a los usuarios será fundamental para la coexistencia de la IA y la información, así como para la capacidad de cuestionar sus resultados’.
