KOMENTÁŘ PAVLA CHLEBORÁDA | Vzpomínám si na text skupiny Skyclad ze začátku 90. let, kde se praví: „Nikdo si nedokázal představit, že naše nitěrné záležitosti budou manipulovány počítačovým rozhraním.“ Při tehdejším stavu technologií se to jevilo jako umělecká hyperbola, ale pokud nahlédneme pod pokličku Big Tech společností, které dnes ovládají značnou část toků dat na internetu, zjistíme nepříjemnou pravdu. Uživatel se stal zdrojem zisku, který je nelítostně ždímán algoritmy umělé inteligence, u nichž už snad ani jejich autoři netuší, jak k překvapivě přesným výsledkům docházejí. Předesílám, že tuto úvahu záměrně nekoncipuji z technického pohledu, ale tak, aby byla stravitelná pro širokou veřejnost bez hlubších znalostí technologií, a budu se věnovat dvěma největším hráčům, Googlu a Facebooku.
Položme si jednoduchou otázku. Co jsou Google a Facebook? Technologická společnost, nebo komunikační platforma? Odpověď je prozaická, jsou to extrémně výdělečné reklamní agentury. Jejich obchodní model je založen prakticky výlučně na příjmech z reklamy, které u Facebooku činí přes 98 % tržeb a u Googlu, který má „přidruženou výrobu“ v cloudových službách a Google Play, 83 %. Jejich profitabilita se odvíjí od poměrně jednoduchých parametrů: Kolikrát se reklama uživatelům zobrazila a zda na ni klikli. Proto je kritické udržet pozornost uživatele nabídkou obsahu, který ho zaujme, a zároveň optimalizovat typ zobrazovaných reklam tak, aby se zvýšila pravděpodobnost, že je rozklikne a nepřeskočí.
K dosažení tohoto cíle dávají sami uživatelé ultimátní nástroje – každý svůj klik, životní příběhy, vzorce chování, přátele, historii pohybu i nákupů – a obě společnosti je spolu sdílí. K individualizaci zobrazovaného obsahu i reklam používají algoritmy, které dokáží s vysokou mírou pravděpodobnosti chování uživatele predikovat. Zapomeňte na cílení podle věkových nebo sociálních skupin, tyto algoritmy neodhadují chování uživatele na základě jeho společenského statusu nebo výše příjmu, ale pravděpodobnostní analýzou datové stopy, kterou po sobě na síti zanechal. Každé vyhledávání zadané do Googlu, lajk příspěvku, proklik na externí web… všechno je nelítostně využito k zvýšení zisku, který uživatel generuje.
Oslíčku, otřes se!
Ano, uživatel, tedy vy, jste pro tyto společnosti jenom zdrojem příjmu, který měří a díky využití algoritmů se jim ho daří zvyšovat. Například u Facebooku jeden americký účet v prvním kvartále roku 2014 vygeneroval firmě na příjmech kolem pěti dolarů. O necelých pět let později to byl téměř sedminásobek. Fungují dokonce i algoritmy, které jenom na základě analýzy devíti vašich přátel dokáží s přesností přesahující 50 % odhadnout, o čem budete psát vy. A tím se dostáváme k pointě článku – nezamýšleným dopadům této obchodní strategie na lidskou společnost a schopnost lidí spolu komunikovat a dosahovat kompromisů.
Pro udržení uživatele na platformě po co nejdelší časový úsek AI algoritmy nabízejí obsah, u kterého predikují, že uživatele organicky zaujme. Aby to v delším časovém úseku fungovalo, je nutné zvyšovat jeho emoční angažovanost, a to stupňováním vyhraněnosti obsahu a intenzivního propojování lidí s podobným profilem. Algoritmy tak postupně houfují uživatele do jednotlivých kmenů, ve kterých převládají atributy groupthinku, jako jsou například konfirmační zkreslení, pocit morální nadřazenosti, stereotypizace nebo kognitivní disonance. Zásadním faktorem je právě selektivně vybraná množina informací prezentovaná členům kmene prostřednictvím algoritmů, která je nejenom utvrzuje v jejich přesvědčení, ale v rámci udržení emoční angažovanosti jejich postoje ještě radikalizuje.
Před rozmachem těchto platforem všechny zmíněné jevy existovaly samozřejmě také, ale množiny informační báze jednotlivých kmenů měly prostřednictvím tisku, televize nebo rádia alespoň nějaký průnik. Dnes vznikají kmeny, kde jsou tyto množiny od sebe odpoutané. Důsledkem je akcelerace jejich vzdalování a ztráta schopnosti najít alespoň minimum styčných bodů. Tato tribalizace společnosti, která je důsledkem psychologické manipulace jedinců skrze algoritmy řídící informační toky, ústí v neschopnost vzájemné komunikace a redukuje diskusi na používání argumentačních faulů, nebo rovnou ad hominem útoky. Bohužel první obětí tribalizace společnosti jsou fakta, racionalita a schopnost hledat odpovědi mimo hranice informačních bublin.
Můj kmen tvůj kmen neslyší
Smutnou ilustrací polarizace společnosti je i současná covidová krize. Střetávají se zde dva kmeny. První v podstatě věří, že jde o banální onemocnění, jehož význam je v rámci jakési celosvětové konspirace uměle zesilován médii. Druhý tábor zase existuje v „Ebola paradigmatu“ a takřka každé nové úmrtí masivně sdílí na sociálních sítích a volá po tuhých restrikcích k potlačení pandemie, jelikož je obětí konfirmačního zkreslení a s pocitem morální nadřazenosti svého kmene. K tomu bohužel přispívají i tzv. tradiční média, jejichž weby jsou financovány z reklamy – negativní zprávy přinášejí více kliků. Oba kmeny spolu v rovině věcné argumentace téměř nekomunikují. Existuje i třetí skupina, která se snaží na problém dívat racionálně, analyzuje dostupná data a snaží se o prezentaci alternativního pohledu. Ta je ovšem oběma kmeny nenáviděna a vytlačena na okraj veřejného prostoru.
Odolnost každé společnosti se odvíjí od principiálních hodnot, které většina jejích členů sdílí. Obchodní model hegemonů informačního prostoru však vede k její atomizaci a oslabení. I taková esenciální hodnota jako svoboda slova společnost polarizuje, aniž by si lidé uvědomili, že Big Tech oligopolu jsou ideály ukradené a například jejich deklarovaný „boj proti nenávistným projevům“ je spíš dobře vykalkulovanou obchodní strategií. Google například demonetizoval spoustu kanálů YouTube pod pláštíkem eliminace „nenávisti“, ale reklamy na nich zobrazuje dále. Jenom se o příjmy s autory nedělí. Koordinovaná likvidace sítě Parler přišla až ve chvíli, kdy začal nabírat řádově miliony uživatelů týdně.
Shromážděná data, funkční AI prediktivní algoritmy a miliardy uživatelů poskytují těmto společnostem možnost rozhodovat volby, vyvolat nepokoje nebo paniku. A teď si představte, že pro „pouhé“ zvýšení zisku a ceny akcií se tuhle moc rozhodnou cíleně zneužít.
