Agencija Europske unije za temeljna prava (FRA) objavila je izvještaj o moderiranju online sadržaja koji se bavi izazovima otkrivanja i uklanjanja govora mržnje s društvenih mreža. U izvještaju se ističe da ne postoji zajednički dogovorena definicija online govora mržnje. Sustavi za moderiranje online sadržaja također nisu otvoreni za detaljno preispitivanje i nadzor što otežava dobivanje potpune slike o razmjerima mržnje na internetu i otežava napore da se s njom uhvati u koštac.
Provedena analiza objava i komentara objavljenih na društvenim mrežama otkrila je:
Široko rasprostranjenu mržnju na internetu – od 1500 objava koje su već procijenili alati za moderiranje sadržaja, više od polovice (53%) sadržaja ljudski programeri još uvijek smatraju mržnjom.
Mizoginiju – žene su glavne mete mržnje na internetu na svim istraživanim platformama i u svim zemljama. Većina govora mržnje prema ženama uključuje uvredljiv jezik, uznemiravanje i poticanje na seksualno nasilje.
Negativne stereotipe – na meti negativnih stereotipa najčešće su osobe afričkog podrijetla, Romi i Židovi.
Uznemiravanje – gotovo polovica (47%) od svih mrzilačkih objava predstavljaju uznemiravanje.
Neke od preporuka za suzbijanje mržnje na internetu za EU i internetske platforme su:
Omogućiti sigurniji internetski prostor za sve – kako bi spriječili online mržnju, platforme bi trebale obratiti posebnu pozornost na zaštićene karakteristike kao što su spol i etnička pripadnost u svojim naporima za moderiranje i praćenje sadržaja. Vrlo velike internetske platforme trebale bi uključiti mizoginiju u svoju procjenu rizika i mjere za ublažavanje posljedica sukladno Aktu o digitalnim uslugama (DSA).
Dati više smjernica – nije uvijek jasno što se smatra govorom mržnje, a što je zaštićeno slobodom govora. EU i nacionalna regulatorna tijela trebala bi dati više smjernica o prepoznavanju nezakonite mržnje na internetu.
Obuhvatiti sve oblike mržnje na internetu – kako bi se osiguralo otkrivanje različitih vrsta internetske mržnje, Europska komisija i nacionalne vlade trebale bi stvoriti i financirati mrežu tzv. trusted flaggera, uključujući civilno društvo. Policija, moderatori sadržaja i označivači trebaju biti odgovarajuće obučeni kako bi se osiguralo da platforme ne propuste ili prekomjerno uklone sadržaj.
Testirati tehnologiju na pristranost – pružatelji usluga i korisnici automatiziranih alata za moderiranje sadržaja trebali bi testirati svoju tehnologiju na pristranost kako bi zaštitili korisnike od diskriminacije
Osigurati pristup podacima za neovisno istraživanje – Europska komisija trebala bi osigurati da se vlastite procjene rizika platformi u okviru DSA-a nadopune neovisnim istraživanjem.
* Izvještaj pokriva četiri platforme (Reddit, Telegram, X i YouTube) u Bugarskoj, Njemačkoj, Italiji i Švedskoj. FRA nije mogla pristupiti podacima s Facebooka i Instagrama za ovo istraživanje.
Izvještaj je dostupan na linku
