Table of Contents
Las personas marginadas suelen sufrir los mayores daños por las consecuencias no deseadas de las nuevas tecnologías. Por ejemplo, los algoritmos que toman decisiones automáticamente sobre quién puede ver qué contenido o cómo se interpretan las imágenes. sufren de prejuicios raciales y de género. Las personas que tienen múltiples identidades marginadas, como ser negras y discapacitadas, son aún más en riesgo que aquellos con una sola identidad marginada.
Por eso, cuando Mark Zuckerberg expuso su visión para el metaverso – una red de entornos virtuales en la que muchas personas pueden interactuar entre sí y con objetos digitales – y dijo que lo hará tocar cada producto la empresa construye, tenía miedo. Como un investigador que estudia las intersecciones de raza, tecnología y democracia, y como mujer negra, creo que es importante considerar cuidadosamente los valores que se están codificando en esta Internet de próxima generación.
vectores yuoak / DigitalVision a través de Getty Images
Los problemas ya están surgiendo. Avatares, las personas gráficas que las personas pueden crear o comprar para representarse a sí mismas en entornos virtuales, tienen un precio diferente basado en la raza percibida del avatar, y acoso racista y sexista está surgiendo en los entornos inmersivos anteriores al metaverso de hoy.
Asegurarse de que esta próxima iteración de Internet sea inclusiva y funcione para todos requerirá que personas de comunidades marginadas toman la iniciativa en darle forma. También requerirá una regulación rigurosa para que las grandes tecnologías sean responsables ante el interés público. Sin estos, el metaverso corre el riesgo de heredar los problemas de las redes sociales de hoy, si no convertirse en algo peor.
Visiones utópicas versus realidades duras
Las visiones utópicas de los primeros días de Internet solían sostener que la vida en línea sería radicalmente diferente de la vida en el mundo físico. Por ejemplo, las personas imaginaban Internet como una forma de escapar de partes de su identidad, como las distinciones de raza, género y clase. En realidad, el Internet está lejos de ser sin carreras.
Mientras tecno-utopías comunicar las visiones deseadas del futuro, la realidad de las nuevas tecnologías a menudo no está a la altura de estas visiones. De hecho, Internet ha traído nuevas formas de daño a la sociedad, como la difusión automatizada de propaganda en las redes sociales y sesgo en los algoritmos que dan forma a su experiencia en línea.
Zuckerberg describió el metaverso como un Internet inmersivo y incorporado esa voluntad «desbloquea muchas experiencias nuevas e increíbles. » Esta es una visión no solo de una Internet futura, sino de una forma de vida futura. No importa cuán fuera del objetivo de esta visión, es probable que el metaverso, como las versiones anteriores de Internet y las redes sociales, tenga consecuencias generalizadas que transformará la forma en que las personas socializan, viajan, aprenden, trabajan y juegan.
La pregunta es, ¿esas consecuencias serán las mismas para todos? La historia sugiere que la respuesta es no.
La tecnología nunca es neutral
Las tecnologías ampliamente utilizadas a menudo asumen las identidades y los cuerpos de los hombres blancos como valores predeterminados. Joy Buolomwini, científica informática del MIT ha demostrado que el software de reconocimiento facial funciona peor en las mujeres y más aún en las mujeres de rostro más oscuro. Otro estudios han confirmado esto.
La blancura está incrustada de forma predeterminada en estas tecnologías, incluso en ausencia de la raza como categoría para los algoritmos de aprendizaje automático. Desafortunadamente, racismo y tecnología a menudo van de la mano. Políticas y periodistas negras han sido dirigido desproporcionadamente con tweets abusivos o problemáticos, y los votantes negros y latinos fueron dirigido a campañas de desinformación en línea durante el ciclo electoral de 2020.
Esta relación histórica entre raza y tecnología me deja preocupado por el metaverso. Si el metaverso está destinado a ser una versión incorporada de Internet, como lo ha descrito Zuckerberg, ¿significa eso que las personas que ya están marginadas experimentarán nuevas formas de daño?
Facebook y su relación con los negros
La relación general entre tecnología y racismo es solo una parte de la historia. Meta tiene una mala relación con los usuarios negros en su plataforma de Facebook, y con las mujeres negras en particular.
En 2016, los reporteros de ProPublica encontraron que los anunciantes en el portal de publicidad de Facebook podían excluir a grupos de personas que ven sus anuncios. basado en la raza de los usuarios, o lo que Facebook llamó una «afinidad étnica». Esta opción recibió una gran cantidad de hacer retroceder porque Facebook no pregunta a sus usuarios su raza, lo que significa que a los usuarios se les asigna una «afinidad étnica» en función de su compromiso en la plataforma, como qué páginas y publicaciones les gustaron.
En otras palabras, Facebook esencialmente perfilaba racialmente a sus usuarios en función de lo que hacen y les gusta en su plataforma, creando la oportunidad para que los anunciantes discriminen a las personas en función de su raza. Facebook tiene desde entonces actualizó sus categorías de orientación de anuncios para dejar de incluir las «afinidades étnicas».
Sin embargo, los anunciantes aún pueden dirigirse a las personas en función de su presunta carrera proxies de carrera, que utilizan combinaciones de los intereses de los usuarios para inferir razas. Por ejemplo, si un anunciante ve en los datos de Facebook que usted ha expresado interés en la cultura afroamericana y los premios BET, puede inferir que es negro y orientarlo con anuncios de productos que quiere comercializar para personas negras.
Peor aún, Facebook tiene comentarios de las mujeres negras que se eliminan con frecuencia que denuncian el racismo y el sexismo. Irónicamente, los comentarios de las mujeres negras sobre el racismo y el sexismo están siendo censurados – conocido coloquialmente como zucked – por violar ostensiblemente las políticas de Facebook contra el discurso de odio. Esto es parte de un mayor tendencia dentro de las plataformas en línea de mujeres negras castigadas por expresar sus preocupaciones y exigir justicia en los espacios digitales.
Según un informe reciente del Washington Post, Facebook sabía su algoritmo estaba dañando desproporcionadamente a los usuarios negros, pero decidió no hacer nada.
Un metaverso democráticamente responsable
En una entrevista con Vishal Shah, vicepresidente de metaverso de Meta, presentador de National Public Radio Preguntó Audie Cornish: “Si no puedes manejar los comentarios en Instagram, ¿cómo puedes manejar la camiseta que tiene un discurso de odio en el metaverso? ¿Cómo puedes manejar la manifestación de odio que podría ocurrir en el metaverso? » Del mismo modo, si los negros son castigados por hablar en línea contra el racismo y el sexismo, ¿cómo pueden hacerlo en el metaverso?
Asegurar que el metaverso sea inclusivo y promueva los valores democráticos en lugar de amenaza la democracia requiere justicia de diseño y regulación de las redes sociales.
Justicia de diseño está poniendo a las personas que no tienen el poder en la sociedad en el centro del proceso de diseño para evitar perpetuar las desigualdades existentes. También significa comenzar con una consideración de valores y principios para guiar el diseño.
Las leyes federales han protegido a las empresas de redes sociales de la responsabilidad por las publicaciones y acciones de los usuarios en sus plataformas. Esto significa que tienen la derecho pero no la responsabilidad de vigilar sus sitios. Regular las Big Tech es crucial para enfrentar los problemas de las redes sociales en la actualidad, y al menos tan importante antes de que construyan y controlen la próxima generación de Internet.
El metaverso y yo
No estoy en contra del metaverso. Estoy a favor de un metaverso democráticamente responsable. Sin embargo, para que eso suceda, afirmo que es necesario que existan mejores marcos regulatorios para las empresas de Internet y procesos de diseño más justos para que la tecnología no continúe correlacionándose con el racismo.
Tal como está, los beneficios del metaverso no superan sus costos para mí. Pero no tiene por qué permanecer así.
[Like what you’ve read? Want more? Sign up for The Conversation’s daily newsletter.]
