Judith Goeree
De Spaanse regering heeft een nieuw systeem ontwikkeld om haatdragende berichten op sociale media te analyseren. Het programma, HODIO genaamd, combineert kunstmatige intelligentie met menselijke controle.
In het kort
- Spanje introduceert HODIO, een systeem dat haatdragende berichten op sociale media analyseert.
- Het programma combineert kunstmatige intelligentie met menselijke controle.
- Het systeem onderzoekt openbare berichten op platforms zoals Instagram, TikTok en X.
- Twee keer per jaar verschijnen rapporten over de verspreiding van online haat.
- Het doel is trends te meten en platforms te vergelijken, niet om individuele gebruikers te volgen.
Het project werd aangekondigd door premier Pedro Sánchez tijdens het eerste Internationale Forum tegen Haat in Madrid.
De naam HODIO is een acroniem van Huella de Odio y Polarización, het digitale ‘spoor’ van haat en polarisatie op sociale media. De afkorting bevat bovendien het Spaanse woord odio, dat ‘haat’ betekent.
Zorgen over haat en polarisatie online
Sociale media spelen een steeds grotere rol in het publieke debat. Tegelijk groeien de zorgen over haat en polarisatie online. Met het nieuwe systeem HODIO wil de Spaanse regering beter in kaart brengen hoe dit soort content zich op platforms verspreidt.
Meten van haatspraak op sociale media
Wat is het systeem HODIO?
Het systeem HODIO is een analyse-instrument van de Spaanse regering dat met kunstmatige intelligentie en menselijke controle onderzoekt hoe haatdragende berichten zich op sociale media verspreiden. HODIO analyseert openbare content op grote platforms en brengt trends, bereik en verspreiding van dit soort berichten in kaart.
Het systeem moet systematisch meten hoe vaak haatspraak voorkomt op internet, hoe die zich ontwikkelt en welk bereik deze berichten hebben.
Daarvoor analyseert HODIO openbare berichten op enkele van de meest gebruikte platforms in Spanje:
- Instagram
• Facebook
• YouTube
• X
• TikTok
Door deze platforms te vergelijken wil de regering beter begrijpen waar haatdragende berichten het vaakst voorkomen en hoe ze zich verspreiden.
Combinatie van AI en menselijke controle
HODIO gebruikt een hybride analysemethode. Daarbij worden grote hoeveelheden berichten eerst met kunstmatige intelligentie geanalyseerd. Daarna beoordelen experts de resultaten.
Volgens de initiatiefnemers moet deze combinatie voorkomen dat algoritmes berichten verkeerd interpreteren, bijvoorbeeld wanneer sarcasme of context een rol speelt.
De menselijke controle moet voorkomen dat berichten verkeerd worden geïnterpreteerd en moet de betrouwbaarheid van de analyse vergroten.
Halfjaarlijkse rapporten en ranking van platforms
Het systeem zal twee keer per jaar rapporten publiceren over de ontwikkeling van haatspraak op sociale media.
In deze rapporten staan onder meer:
- hoe vaak haatdragende berichten voorkomen per platform
- hoe sterk deze berichten worden verspreid
- hoe sociale mediabedrijven reageren op deze content
Daarnaast wil de regering een publieke ranglijst publiceren die laat zien op welke platforms haatdragende berichten het vaakst voorkomen. Met de openbare rapporten wil de regering ook druk uitoefenen op sociale mediaplatforms om strenger op te treden tegen haatdragende berichten.
Niet bedoeld om individuele gebruikers te volgen
Volgens de Spaanse regering is HODIO niet bedoeld om individuele gebruikers te identificeren of te monitoren. Het systeem analyseert alleen openbare berichten en richt zich op algemene trends en patronen.
Het doel is vooral om te begrijpen hoe haatspraak zich online verspreidt en hoe platforms daarmee omgaan.
Wat betekent dit voor gebruikers?
Voor de meeste gebruikers verandert er voorlopig weinig. HODIO analyseert alleen openbare berichten en volgt geen individuele accounts. Wel kan het systeem ertoe leiden dat sociale mediaplatforms in de toekomst strenger optreden tegen haatspraak. Voor gebruikers van sociale media in Spanje betekent dit vooral dat het debat over strengere regels voor online platforms verder zal toenemen.
Bronnen: Business Insider, 20Minutos