CCDH y JFNA acusan al sistema recomendaciones de Instagram de dirigir a 11 cuentas que venden artículos extremistas, antisemitas y racistas. En “Hate for Sale: How Instagram Helps Sellers of Hateful Merchandise Reach a a A Billion Views”, el informe suma 1.500 millones de visualizaciones y $1,3 millones en ventas.
El estudio sostiene que el algoritmo recomendó de forma directa cada cuenta detectada. También señala un salto fuerte de visibilidad del merchandising de odio con estética nazi y racista: casi se cuadruplicó, con 3,75 veces más visualizaciones, después de que Meta recortó a inicios de año ciertas normas de moderación.
El material incluye posts que glorifican a los nazis, niegan el Holocausto, demonizan a los judíos, se burlan de la muerte de George Floyd y bromean sobre la esclavitud. También venden camisetas con “La vida es una raza. Sé racista”. Señala imágenes de odio por IA sin etiquetado de Meta.
Dos cuentas alardeaban de decenas de miles de ventas; el reporte estima ingresos de 839.700 y 499.750 dólares. Las tiendas operaban en plataformas como Shopify, Wix y Payhip. Tras el aviso del CCDH, Wix y Payhip retiraron la mercancía señalada; el informe no detalla la respuesta de Shopify.
Imran Ahmed, CEO de CCDH, declaró: “Instagram ayuda a extremistas a ganar dinero con el antisemitismo y el racismo. Al retirar salvaguardas críticas, Meta ha permitido que el odio florezca. El contenido extremista es promovido y monetizado por sus algoritmos. Cada vez que alguien compra una camisa a uno de estos comerciantes de odio, se financia más propaganda”.
Eric D. Fingerhut, presidente y CEO de JFNA, advirtió: “Las redes sociales han desempeñado un papel desproporcionado en la difusión del odio y el antisemitismo. Este informe es un recordatorio importante de que las empresas de redes sociales pueden y deben hacer mucho más para hacer cumplir sus normas y mantener nuestras comunidades más seguras”.
