Con la toma de control de Twitter por parte de Elon Musk, existen temores sobre cómo se moderarán el contenido y el discurso de odio en la plataforma. Los informes han demostrado que ha habido un aumento en las conductas de odio en Twitter. Yoel Roth, Jefe de Seguridad e Integridad de Twitter, ha publicado un hilo detallado sobre cómo están lidiando con este aumento en el contenido de odio. Musk también ha respaldado el hilo de Roth y se ha sumado a él.
Twitter y el aumento de contenido odioso
Roth escribió que desde el sábado pasado, la plataforma ha visto una oleada de «conductas de odio». Reveló que la empresa eliminó más de “1500 cuentas” y redujo las impresiones en este contenido a “casi cero”. Agregó que la medida del éxito de la compañía al contrarrestar el discurso de odio son las ‘impresiones’, que es la cantidad de veces que otros han visto el contenido dañino en la plataforma.
Su afirmación es que Twitter ha “eliminado casi por completo las impresiones sobre este contenido en la búsqueda y en otros lugares” en toda la plataforma. “Las impresiones sobre este contenido suelen ser extremadamente bajas en toda la plataforma. Estamos lidiando principalmente con una campaña de troleo enfocada a corto plazo. Las 1500 cuentas que eliminamos no corresponden a 1500 personas; muchos son malos actores recurrentes”, escribió Roth, y agregó que la compañía continuará invirtiendo en políticas y tecnología para mejorar las cosas.
También abordó otro problema en el que los usuarios descubrieron que etiquetar el discurso de odio generaba avisos de que dicho discurso no era una infracción. Parece que Twitter sabe que este es un problema en el que sus sistemas automatizados no etiquetan el discurso de odio como tal y la empresa está tratando de solucionarlo.
“Para tratar de comprender el contexto detrás de los Tweets potencialmente dañinos, tratamos los informes en primera persona y los de los espectadores de manera diferente. Primera persona: Esta interacción odiosa me está sucediendo o está dirigida a mí. Transeúnte: Esto le está pasando a otra persona”, escribió.
Agregó que esta diferencia es crítica porque «los espectadores no siempre tienen el contexto completo, tenemos una barra más alta para los informes de los espectadores para encontrar una violación». Esta es una de las razones por las que muchos informes que violan las políticas se marcan como no violatorios en la primera revisión, agregó.
Checa sus tuits
Nuestra principal medida de éxito para la moderación de contenido son las impresiones: cuántas veces nuestros usuarios ven contenido dañino. Los cambios que hemos realizado han eliminado casi por completo las impresiones en este contenido en la búsqueda y en otros lugares de Twitter. pic.twitter.com/AnJuIu2CT6
— Yoel Roth (@yoyoel) 31 de octubre de 2022
Estamos cambiando la forma en que hacemos cumplir estas políticas, pero no las políticas en sí mismas, para abordar las brechas aquí.
Escuchará más de mí y de nuestros equipos en los próximos días a medida que avancemos. Hablar es barato; espere los datos que prueban que estamos haciendo mejoras significativas.
— Yoel Roth (@yoyoel) 31 de octubre de 2022
Roth dijo que Twitter cambiará la forma en que “hacen cumplir estas políticas”. Tenga en cuenta que la política contra el discurso de odio sigue siendo la misma.
Mientras tanto, Bloomberg informó que muchos empleados que forman parte de la organización de Confianza y Seguridad de Twitter actualmente no pueden alterar o penalizar las cuentas que infringen las reglas sobre información engañosa, publicaciones ofensivas y discurso de odio, excepto en las infracciones de mayor impacto.
Roth respondió a esto afirmando: “Esto es exactamente lo que nosotros (o cualquier empresa) deberíamos estar haciendo en medio de una transición corporativa para reducir las oportunidades de riesgo interno. Seguimos haciendo cumplir nuestras reglas a gran escala”.
¿Pero Elon Musk no dijo que estaba a favor de la libertad de expresión?
Musk ha defendido durante mucho tiempo la ‘libertad de expresión’ en la plataforma, aunque lo ha moderado con advertencias de que el discurso en la plataforma debe permanecer dentro de los límites legales. También señaló en su carta a los anunciantes que no desea que Twitter se convierta en un infierno. Ninguna de las políticas de moderación de contenido de Twitter ha cambiado por ahora, aunque se supone que un nuevo consejo con puntos de vista «divergentes» eventualmente se hará cargo.
El consejo de moderación de contenido de Twitter incluirá representantes con puntos de vista muy divergentes, que sin duda incluirán a la comunidad de derechos civiles y grupos que enfrentan violencia alimentada por el odio.
— Elon Musk (@elonmusk) 2 de noviembre de 2022
También ha dicho que «Twitter no permitirá que nadie que haya sido eliminado de la plataforma por violar las reglas de Twitter regrese a la plataforma», hasta que haya un proceso claro para lograrlo. Esto probablemente tomará algunas semanas más. Con respecto al consejo de moderación de contenido, Musk tuiteó que «incluirá representantes con puntos de vista muy divergentes, que sin duda incluirán a la comunidad de derechos civiles y grupos que enfrentan violencia alimentada por el odio».
