La inteligencia artificial logra retirar el 62% de los mensajes de odio en redes sociales
El Ministerio de Inclusión, Seguridad Social y Migraciones ha revelado que el sistema FARO detectó 32.941 contenidos reportables durante marzo, logrando una efectividad de eliminación 17 puntos superior al mes previo. La irrupción de la herramienta Xenometer, desarrollada con la Universidad de Cornell y la UPNA, permite ahora identificar patrones de xenofobia mediante algoritmos avanzados que actúan como un detector de conflictos en tiempo real.
El avance tecnológico en la lucha contra la discriminación digital marca un hito con la presentación del proyecto Xenometer en las jornadas de Pamplona. Esta inteligencia artificial, nacida de la colaboración internacional entre Estados Unidos, España, Colombia y El Salvador, no se limita a la automatización de tareas, sino que procesa miles de mensajes para geolocalizar focos de intolerancia. El equipo de investigación, liderado por expertos como Sergio García-Magariño, trabaja en el etiquetado de 5.000 mensajes clave para que el algoritmo opere con total fiabilidad, permitiendo a las instituciones actuar antes de que la polarización derive en violencia física.
Los datos del OBERAXE confirman que la geopolítica dicta la agenda del odio en las pantallas: casi la mitad de los ataques detectados en marzo están vinculados directamente con la guerra en Irán. Mientras plataformas como TikTok muestran un compromiso firme retirando el 88% de los reportes, YouTube se queda a la zaga con apenas un 12% de efectividad. El informe detalla que el 51% de las agresiones se dirigen contra personas del Norte de África, seguidas por un repunte preocupante del sentimiento antisemita e islamófobo. Este nuevo radar digital busca, precisamente, que la tecnología deje de ser neutral para convertirse en el escudo de la convivencia social.
¿Crees que la inteligencia artificial debería tener potestad directa para borrar contenidos sin supervisión humana?
Mallorca al día: la actualidad a un clic
