JTA – Cuando se trata de antisemitismo en las redes sociales, los algoritmos que gobiernan las principales plataformas tienen parte de la culpa de su alcance. Pero la Liga Antidifamación espera luchar contra la propagación, creando un algoritmo propio.
El grupo judío de derechos civiles anunció el martes que ha creado un sistema llamado Índice de Odio en Línea, que describe como la primera herramienta desarrollada para medir el antisemitismo en las plataformas de medios sociales. El programa puede examinar rápidamente millones de publicaciones para detectar comentarios antisemitas y ayudar a su eliminación.
Este sistema utiliza un algoritmo basado en la inteligencia artificial para encontrar y clasificar las publicaciones como posiblemente antisemitas. A continuación, esos mensajes se envían a un equipo de voluntarios y expertos que utilizan su criterio para tomar la decisión final. El sistema también controla si los mensajes se retiran.
El Índice de Odio en Línea era necesario porque las empresas de medios sociales no están siendo lo suficientemente transparentes en sus esfuerzos por frenar la propagación de la incitación al odio en sus plataformas, según el director general de la ADL, Jonathan Greenblatt, cuya organización ha estado presionando a las grandes empresas tecnológicas sobre este tema durante años.
“Utilizaremos esta herramienta para hacer que las plataformas de medios sociales rindan cuentas sobre la forma en que retiran el odio de forma proactiva y sobre la forma en que sus moderadores de contenido responden a las denuncias”, dijo Greenblatt en un comunicado.
Uno de los objetivos del proyecto es demostrar que si la ADL ha desarrollado la tecnología para rastrear el antisemitismo, seguramente Silicon Valley también puede hacerlo, y, por lo tanto, puede hacer más para abordar el problema.
Las empresas de redes sociales han intentado abordar el antisemitismo en el pasado, pero su historial es, en el mejor de los casos, mixto. Facebook (ahora conocida como Meta) ha tropezado tras su decisión de prohibir la negación del Holocausto en sus plataformas; los ingenieros desarrollaron pantallas que a veces también bloqueaban las publicaciones educativas legítimas destinadas a difundir el Holocausto.
Para su primer análisis, la ADL utilizó su sistema para escudriñar Reddit y Twitter, recopilando las publicaciones de una semana en agosto del año pasado. La ADL eligió estas plataformas porque son las únicas importantes que proporcionan acceso abierto a sus datos. Facebook, por el contrario, no suele permitir que grupos externos intervengan en la investigación.
El algoritmo utilizado por la ADL fue entrenado para detectar casos de posible antisemitismo. En un proceso conocido como aprendizaje automático, los seres humanos habían etiquetado los comentarios como antisemitas y los alimentaron al algoritmo, que a su vez comenzó a reconocer patrones. Cuantos más comentarios procesaba el algoritmo, mejor era la detección de los antisemitas.
Afirmaciones antisemitas como “los judíos son lagartos, demuéstrame que me equivoco” y “la magia del control mental judío” se encontraban entre las aproximadamente 2.000 publicaciones de Reddit identificadas por el sistema de la ADL, de un total de unos 40 millones de comentarios añadidos a Reddit durante esa semana.
El número de personas que ven un comentario en Reddit viene determinado en parte por el hecho de que los usuarios le den un “upvote” o un “downvote”, y en este sentido hay buenas noticias. Los usuarios califican en promedio los comentarios antisemitas un tercio más bajo que otros tipos de posts, según un informe que la ADL publicó sobre su análisis.
“El análisis estadístico de esas puntuaciones muestra que el contenido antisemita en Reddit es recompensado significativamente menos que el contenido no antisemita”, dice el informe.
En cuanto a Twitter, que sólo proporciona una instantánea limitada de sus datos, la ADL estimó que había unos 27.400 tweets antisemitas entre los 440 millones publicados durante la semana que su software examinó, y que estos tweets podrían haber sido vistos por hasta 130 millones de personas.
La ADL advirtió que diseñó su red de arrastre para ser conservadora y que sólo examinó el texto en inglés, lo que significa que se excluyeron los vídeos, el audio y las imágenes, así como todo lo escrito en un idioma extranjero.
En ambas plataformas, la mayoría de los comentarios antisemitas permanecieron durante meses después de su publicación y no fueron eliminados incluso después de que la ADL alertara a las plataformas sobre ellos.
Uno de los retos de cualquier intento de erradicar el discurso antisemita es la definición del término, ya que los académicos y los miembros tienen una gran variedad de opiniones sobre la cuestión. Una cuestión especialmente controvertida es la de decidir cuándo las críticas a Israel se convierten en antisemitismo.
El informe de la ADL dice que su algoritmo está formado por expertos internos y voluntarios de la comunidad judía. Eso no significa que el juicio humano se externalice por completo a los ordenadores. En el sistema de la ADL, la inteligencia artificial se utiliza simplemente para cribar las masas de contenido, y sus equipos humanos determinan en última instancia qué publicaciones constituyen antisemitismo.
Para ayudarles en sus decisiones, cada voluntario recibe una cartilla que también está disponible en el sitio web de la ADL. Esa cartilla incluye una referencia a la definición de antisemitismo redactada por la Alianza Internacional para el Recuerdo del Holocausto, que ha resultado controvertida porque se centra en el discurso antiisraelí.
Algunos ejemplos en la cartilla de declaraciones que pueden ser consideradas antisemitas incluyen “afirmar que la existencia de un Estado de Israel es un esfuerzo racista” y “negar al pueblo judío su derecho a la autodeterminación”.
Los críticos dicen que la definición de la IHRA es inadecuada porque tiene el potencial de deslegitimar el activismo pro-palestino si es adoptada por las universidades y los organismos gubernamentales. Los partidarios, por otro lado, dicen que cualquier debate sobre el antisemitismo hoy en día debe enfrentarse a los ataques a Israel.
En un artículo publicado en su sitio web antes de la introducción de su herramienta informática, la ADL rechaza la idea de que la adopción de la definición pueda prohibir las críticas a Israel, argumentando que la expresión de tales críticas está protegida por la Constitución de Estados Unidos.
