Americké volby jako živná půda pro deepfake. O prezidentovi může rozhodnout nová hrozba | info.cz

Články odjinud

Americké volby jako živná půda pro deepfake. O prezidentovi může rozhodnout nová hrozba

Americká kampaň před prezidentskými volbami v roce 2020 pomalu nabírá na obrátkách. Už příští týden se na Floridě odehrají první dvě televizní debaty uchazečů o demokratickou nominaci. Primárky, a tím více pak samotné všeobecné volby, ale ohrožuje nový fenomén – takzvaný deepfake.

Jestliže se ruský vliv na volby před třemi lety řešil naplno ještě letos na jaře, v následujícím volebním období to může být stejné. Ne-li horší. Kdo bude chtít ovlivnit hlasování, má nyní v ruce zbraň, na kterou zatím není společnost připravená. Naprosto autenticky vypadající videa, která ale s realitou nemají nic společného.

Takzvaný deepfake nahání odborníkům strach, jelikož útočí na dva základní smysly, jimž mají lidé tendenci důvěřovat – zrak a sluch. V uplynulých týdnech takto po internetu kolovalo video předsedkyně Sněmovny reprezentantů Nancy Pelosiové, které zachycovalo jak řeční pod vlivem alkoholu. Na sociálních sítích jej viděly miliony Američanů. Pelosiová ale nikde opilá nevystupovala. Video bylo zmanipulované.

Podobně jako politička dopadl také zakladatel Facebooku Mark Zuckerberg. Toho dva umělci „donutili“ promlouvat o síle sociální sítě, která „má pod kontrolou ukradená data miliard lidí, jejich tajemství, životy i budoucnost“. Vše navíc opatřili televizní grafikou a titulky, aby video budilo dojem záznamu Zuckerbergova vystoupení ve zpravodajském pořadu.

Oba případy oživily debaty o jedné z největších hrozeb pro nadcházející prezidentské volby v USA. Výroba deepfake videí je relativně snadná. Stačí mít k dispozici dostatek materiálu, odpovídající počítačový program a umělá inteligence už zařídí, aby známé osobnosti a politici říkali věci, které byste od nich jinak nikdy neslyšeli. Na videích přitom odpovídá vše, co by běžně mohlo budit pozornost. Mimika tváře, hlas i pohyb úst jsou k nerozeznání od skutečnosti.

Sedm možností, jak ovlivnit volby

Jak by mohl fenomén deepfake ovlivnit prezidentské volby, zmapovala například společnost Nieman Foundation. Ta sestavila sedm scénářů šíření dezinformací prostřednictvím uměle vytvořených videí. Zneužívat je mohou kandidáti, členové volebního týmu nebo třeba zahraniční vlády.

Cílem přitom nemusí být jen podpora konkrétního kandidáta. Jeden z příkladů se zaměřuje i na to, jak se dá snadno podrýt důvěra v celý demokratický proces. V USA neexistují voličské seznamy generované úřady, jak to známe například z Česka. Volič se musí před hlasováním dopředu registrovat na příslušném místě. Deepfake videa jej mohou špatně nasměrovat a znemožnit mu volbu samotnou.

Lidé lžím mohou věřit, jelikož jim je bude prezentovat známá osobnost nebo třeba duchovní autorita. Případně uvidí kandidáta v choulostivé situaci, kterou „jakoby“ zachytí kamera. Že jde o podvod a nic takového se nestalo, bude velice obtížné rozeznat.

„Historicky byly dezinformace v policie spojené s tím, že zahrnovaly někoho, kdo říká nebo píše lži o někom jiném. Prostřednictvím deepfake se cíle útočníků stávají činiteli své vlastní zkázy,“ okomentoval záležitost pro think tank Brookings Institution John Villasenor z Centra pro technologické inovace.

Mazat, nebo nemazat?

Po publikování zmíněných videí s Pelosiovou a Zuckerbergem propukla debata, zda by provozovatelé sociálních sítí a dalších kanálů, skrze něž se obsah šíří, měli deepfake videa plošně mazat. Facebook se například rozhodl nestahovat video se svým zakladatelem. Nakládat s ním chce jako s každým jiným příspěvkem. V okamžiku, kdy jej některý z uživatelů nahlásí, administrátoři prověří, zda neporušuje podmínky provozu sociální sítě.

„Je potřeba posuzovat újmu, která může prostřednictvím deepfake vzniknout. Tím samým mechanismem můžeme vytvořit nevinnou legrácku, nebo naopak někoho velmi výrazně poškodit. Důležitá bude tak hlavně reakce poškozeného a jemu by měly sítě jako Facebook a další pomoci a takový obsah odstranit,“ upozorňuje na rizika plošných zásahů pro INFO.CZ analytik Institutu pro politiku a společnost Roman Máca, který se dezinformacemi dlouhodobě zabývá.

Právě tenká linie mezi ochranou lidí a cenzurou dopadající i na satiru je předmětem debat také v USA. Jednou z možností, jak s deepfake bojovat, je zavést publikaci příspěvku až po předchozím schválení administrátorem. To by sice nepomohlo v případě posílání videí řetězovými e-maily, účinek by ale byl vidět na sociálních sítích. Věc ale komplikuje, že zatímco deepfake videa nejsou obtížná na výrobu, jejich rozpoznávání zabere nějaký čas.

Software na cestě

Profesor Hany Farid z Dartmouth College proto vytváří software, jenž by měl s odhalováním falešných videí pomoci. Jeho základem má být databáze několika hodin skutečných záběrů politiků a osobností dostupných například na YouTube, která by umožnila zkoumat jemné odchylky mezi realitou a deepfake.

Farid software programuje tak, aby byl funkční pro demokratické primárky. Testuje jej na deepfake videích vytvořených vědci z Univerzity v Jižní Karolíně. V dubnu dosahovala úspěšnost rozpoznávání 95 procent. V následujících šesti měsících by Farid a jeho tým měli produkt vyladit na 99procentní přesnost.

Máca ale upozorňuje, že ani software nemusí přinést kýžené uklidnění a zabezpečení veřejné debaty. „Stejně jako se vyvíjí nástroje pro vytváření deepfake videí, vyvíjí se nástroje i pro jejich odhalování. Odhalování je ale vždy krok pozadu,“ dodává.

 
Přejít na homepageVíce z kategorie

Volby do Evropského parlamentu 2019

Volby do Evropského parlamentu se uskuteční 24. a 25. května 2019. Češi budou vybírat celkem 21 nových poslanců. Volí se poměrným systémem, to znamená, že strana musí získat minimálně 5 % hlasů, aby měla nárok na křeslo v parlamentu. I těchto voleb je možné se zúčastnit mimo místo trvalého bydliště na voličský průkaz, nelze ovšem odvolit v zahraničí.

Jak volit Kandidáti Seznam europoslanců Průzkumy Voličský průkaz Jak se stát členem volební komise Jak vypadá europarlament Historie voleb do EP

Články odjinud