Technologičtí giganti zbrojí proti extremistům. Tvoří společnou databázi

Info.cz

06. 12. 2016 • 15:17

Facebook, Microsoft, Twitter a YouTube budou společně bojovat proti šíření extrémistických příspěvků na internetu. Vytvoří databázi, které bude obsahovat „digitální otisky“ šířeného obsahu. V praxi to vypadá tak, že databáze zaznamená pomocí hashtagů obrázky a videa podporující terorismus. Patřit mezi ně mohou třeba videa pro verbování teroristů nebo násilné teroristické snímky a memy. Pokud takový obsah identifikuje jedna z firem, obsah odstraní z vlastních sítí i ostatní tři.

Časem by se databáze mohla dostat do rukou i dalších firem, které budou chtít kontrolovat svůj obsah, napsala britská BBC. Podle mluvčího společnosti Twitter cílí iniciativa na nejextrémnější obrázky a videa, na jejichž odstranění se firmy shodnou i přes rozdíly ve svých pravidlech. „Doufáme, že tato spolupráce povede k větší efektivitě v naší snaze o posílení politik k omezení naléhavého problému, kterým je globální šíření teroristických příspěvků,“ stojí v prohlášení technologických firem.

„Uživatelé jsou vždy chytřejší než algoritmy a rychle přijdou na systém, kterým jakoukoliv automatizovanou cenzuru obejít, nebo dokonce její mechanismy využít pro nekalé cíle."

Firmy by ale mohly narazit na praktické překážky. Aby firmy ušetřily na zaměstnancích, zapojí například algoritmy, které ale lidé zvládnou přelstít. „Uživatelé jsou totiž vždy chytřejší než algoritmy a rychle přijdou na systém, kterým jakoukoliv automatizovanou cenzuru obejít, nebo dokonce její mechanismy využít pro nekalé cíle. Návrh také nebere v potaz využití extremistického obsahu pro regulérní zpravodajské účely a hlavně zcela pomíjí achillovu patu umělých inteligencí - ty totiž neumí pochopit kontextuální význam daného sdělení,“ popisuje expert na internetovou komunikaci z Fakulty sociálních věd Univerzity Karlovy Matouš Hrdina.

Pomůžou jen lidští kontroloři

Ke spolupráci společností přitom došlo právě poté, co je Evropská komise vyzvala k rychlejším krokům proti šíření nenávisti na internetu. Už na začátku prosince Evropská komise internetovým společnostem pohrozila, že se musí do boje proti nenávisti online více opřít, jinak Komise přijme normy, které změnu vynutí. Instituce teď zároveň vydala první zhodnocení toho, jak se IT firmám v potírání nenávistných příspěvků daří. „Uplynulé týdny a měsíce ukázaly, že sociální sítě musí dostát své role a přijmout svou část odpovědnosti v případě fenoménů jako online radikalizace, nelegální projevy nenávisti nebo falešné zprávy. IT společnosti jdou správným směrem, první výsledky ale ukazují, že budou muset udělat více, aby v tom byly úspěšné,“ komentovala první výsledky eurokomisařka pro spravedlnost, ochranu a práva spotřebitelů a rovnost žen Věra Jourová. Podle analýzy bylo 28 procent nahlášených příspěvků smazáno. Rezervu ale mají společnosti stále v tom, jak rychle reagují. Pouze 40 procent oznámení totiž prozkoumaly do 24 hodin.

SDÍLET