Información

Una investigación revela que el detector de discurso de odio de Google tiene un sesgo racial

Una investigación revela que el detector de discurso de odio de Google tiene un sesgo racial


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

El discurso de odio puede crear un entorno tóxico para las personas en línea y se está convirtiendo en un problema creciente, tanto que las plataformas de redes sociales están bajo una presión cada vez mayor para responder.

Sin embargo, incluso esto puede ser un problema, ya que la eliminación automática de ese tipo de contenido abre las puertas a potencialmente más problemas, ya que esta solución tiende a reprimir aún más las voces ya marginadas. En resumen, el proceso es complicado.

RELACIONADO: ESTA IA SABE EXACTAMENTE LO RACISTA Y SEXISTA QUE PUEDES SER

Sin embargo, en 2016, Google hizo todo lo posible para crear un algoritmo de inteligencia artificial destinado a monitorear y prevenir el discurso de odio en las plataformas de redes sociales y sitios web. Sin embargo, un estudio reciente realizado por personas de la Universidad de Washington descubrió que la misma herramienta tenía prejuicios raciales; perfiles de tweets publicados por afroamericanos.

El detector de discurso de odio sesgado

Ahora, cuando se entrena cualquier herramienta de aprendizaje automático, el conjunto de datos correcto es importante y el algoritmo de discurso de odio de Google no fue diferente. Los desarrolladores de la empresa componían una base de datos de más de 100,000 tweets que fueron etiquetados como "tóxicos" por la API de Google llamada Perspectiva. Este contenido tóxico luego se convirtió en la guía para el algoritmo, utilizando lo que "aprendió" para identificar y marcar "buen contenido" y cualquier cosa desagradable, grosera o irrespetuosa.

El documento de la Universidad de Washington descubrió que la herramienta de Google tenía una tasa sospechosamente alta de señalar a los negros a pesar de que la mayor parte del lenguaje de los tweets se identificaba como no dañino.

Curiosamente, cuando se probó la herramienta contra 5,4 millones de tweets encontraron que la herramienta tenía dos veces más probabilidades de marcar publicaciones escritas por afroamericanos. Parece que la herramienta de Google tuvo problemas con los tweets escritos en inglés vernáculo afroamericano.

Elegir los datos correctos

Como se dijo anteriormente, los datos correctos son muy importantes. Es aún más importante en áreas en las que está involucrada la raza. El problema general con el algoritmo de Google es que carecía de la comprensión y el conocimiento cultural adecuados para identificar correctamente el inglés vernáculo afroamericano. En resumen, AAE no se introdujo correctamente en el conjunto de datos, lo que a su vez provocó el sesgo.

¿La solución? Como se indica en el informe, "Introdujimos el dialecto y el priming racial, dos formas de reducir el sesgo del anotador al resaltar el dialecto de un tweet en la anotación de datos y mostrar que disminuye significativamente la probabilidad de que los tweets AAE se etiqueten como ofensivos".

El equipo de la Universidad de Washington cree que se debe prestar especial atención a los efectos de confusión del dialecto para evitar prejuicios raciales no intencionales en la detección del discurso de odio.


Ver el vídeo: Investigación revela mecanismos para impedir la unión del Covid-19 a células humanas (Junio 2022).


Comentarios:

  1. Dora

    Puedo recomendarle visitarle un sitio, con una gran cantidad de artículos sobre un tema interesante de usted.

  2. Payne

    Lo siento, que interfiera, pero, en mi opinión, hay otra forma de decisión de una pregunta.

  3. Rose

    Pido disculpas, pero no es exactamente lo que necesito. ¿Hay otras variantes?

  4. Volkis

    Eres similar al experto))))

  5. Fenrizragore

    Me abstendré de los comentarios.

  6. Corwin

    ¡Hombre guapo! ¡Anote!

  7. Fenrira

    ¡Qué sois, gente! ¿No son nuestras reseñas el mejor champagne?



Escribe un mensaje