La intel·ligència artificial aconsegueix retirar el 62% dels missatges d’odi a les xarxes socials
El Ministeri d’Inclusió, Seguretat Social i Migracions ha revelat que el sistema FARO va detectar 32.941 continguts denunciables durant el març, aconseguint una efectivitat d’eliminació 17 punts superior al mes previ. L’aparició de l’eina Xenometer, desenvolupada amb la Universitat de Cornell i la UPNA, permet ara identificar patrons d’exenofòbia mitjançant algoritmes avançats que actuen com un detector de conflictes en temps real.
L’avanç tecnològic en la lluita contra la discriminació digital marca un punt d’inflexió amb la presentació del projecte Xenometer a les jornades de Pamplona. Aquesta intel·ligència artificial, nascuda de la col·laboració internacional entre Estats Units, Espanya, Colòmbia i El Salvador, no es limita a l’automatització de tasques, sinó que processa milers de missatges per a geolocalitzar focus d’intolerància. L’equip d’investigació, liderat per experts com Sergio García-Magariño, treballa en l’etiquetatge de 5.000 missatges clau perquè l’algoritme operi amb total fiabilitat, permetent a les institucions actuar abans que la polarització derivi en violència física.
Les dades de l’OBERAXE confirmen que la geopolítica dicta l’agenda de l’odi a les pantalles: gairebé la meitat dels atacs detectats al març estan vinculats directament amb la guerra a l’Iran. Mentre plataformes com TikTok mostren un compromís ferm retirant el 88% dels informes, YouTube es queda enrere amb només un 12% d’efectivitat. L’informe detalla que el 51% de les agressions es dirigeixen contra persones del Nord d’Àfrica, seguides per un repunt preocupant del sentiment antisemita i islamòfob. Aquest nou radar digital busca, precisament, que la tecnologia deixi de ser neutral per convertir-se en l’escut de la convivència social.
Creus que la intel·ligència artificial hauria de tenir potestat directa per esborrar continguts sense supervisió humana?
Mallorca al dia: l’actualitat a un clic
