Chytré technologie jsou na vzestupu. Slibují stát se našimi chytřejšími pomocníky a ulehčit nám práci, podobně jako kdysi stroje. Video kampaně pro konferenci Good Company Circle se snaží na jedné straně odlehčeně a humorně, ale zároveň na druhé i seriózně a varovně ilustrovat, jak rychle se mohou chytré technologie stát nejen pomocníkem, ale i skrytým „šéfem“, který začne diktovat tempo a chování lidí. Více vysvětlí Sara Polak, inovátorka a popularizátorka umělé inteligence.
Vnímáte i vy, že se dnešní společnost stává loutkami na provázcích vlastních systémů?
Ano, a není to nic nového. Lidé se stávají „loutkami“ systémů odjakživa – ať už to byla víra, politika nebo společenské rituály jako svatby či Vánoce. Naše mysl potřebuje rámce, do kterých může patřit, a identitu, kterou může sdílet – a je v zásadě jedno, jestli je to identita inovátora, filantropa nebo fanouška Halloweenu.
Rozdíl je ale v tom, že vyřezaná dýně na Halloween nesbírá vaše data a neposílá je do centrální databáze nadnárodní firmy. Ale AI ano – a jakmile někdo vlastní váš digitální otisk, stává se z lidí mnohem snadněji manipulovatelná loutka.
Příklad vidíme v Číně u systému sociálních kreditů, kde algoritmy přímo ovlivňují přístup lidí k půjčkám, cestování nebo zaměstnání. Nebo na Západě – když Netflix nebo TikTok navrhují obsah, který formuje naše vnímání světa a naši pozornost.
A nedělejme si iluze, AI firmy s našimi daty aktivně obchodují – minimálně interně, když na jejich bázi vylepšují a trénují své vlastní algoritmy.
Myslím, že je otázka času, než se třeba OpenAI databáze (nebo její kusy) objeví na darknetu. I proto mě fascinuje kombinace AI a blockchainu – ať už distribuce výpočetní síly, nebo zaznamenávání provenience informací.
Kde je hranice osobní autonomie
Jak lze poznat hranici mezi tím, kdy nám technologie skutečně usnadňují život, a kdy už přebírají příliš velkou kontrolu nad našimi rozhodnutími?
Klíčovým indikátorem je pocit autonomie – jestli máme možnost svoje věci vypnout, odmítnout, nebo se rozhodnout jinak. Pokud nám technologie nabízí doporučení, je to pomocník. Pokud nás uzavírá do jediné cesty, stává se z ní vládce.
Je to podobné jako kdysi u industrializace: tovární stroje lidem ulehčily práci, ale zároveň určily rytmus celých měst a rodin. Dnes nám AI doporučuje, koho potkáme na Tinderu nebo jakou hudbu máme poslouchat – a otázka zní, jestli to ještě „svobodně“ volíme my, nebo jen sledujeme algoritmické scénáře.
Vidíte v českém prostředí příklady firem nebo institucí, které dokážou využít AI zodpovědně a zároveň inovativně?
Určitě. Na CIIRCu ČVUT mám tu čest a možnost sledovat skvělé projekty jako VitiSpectr, který pomáhá vinařům monitorovat kvalitu vinic pomocí AI. V Motole zase kolegyně Julie Skovierová zkoumá využití AI v diagnostice.
Fascinující je také práce Jana Šedivého, který se dlouhodobě věnuje konverzačním systémům. A samozřejmě obdivuji Tomáše Mikolova – jeho přístup k AI je jednoduchý, bez zbytečného marketingu, a skutečně inovativní, protože vytváří úplně nové koncepty.
A o tom AI i celkově „pokrok“ je – o vymýšlení zítřků, které si ještě nikdo neumí představit.
Není už v dnešní době důležitější než ovládání technologií schopnost porozumět jejich vlivu na naše rozhodování a hodnoty?
Přesně tak. Většina z nás nerozumí detailně ani tomu, jak funguje elektřina, motor (spalovací, elektrický nebo hybridní), ani jak funguje rozhlas, televize, mobil, Wi-Fi... nebo finanční systém. A přesto je všechny využíváme.
AI je ale specifická v tom, že v lidech vyvolává pocit strachu a zároveň fascinace. Algoritmy jsou tak složité, že úplná vysvětlitelnost není možná Ś a možná ani žádoucí.
Podobné to ale bylo už ve starověku. Když lidé četli Sokratovy texty, museli se ptát, co byl skutečný záměr, jaký význam mezi řádky nesl. U AI je to ještě složitější, protože sama žádný záměr nemá – jen produkuje pravděpodobnostní výstupy, které mohou být stejně tak geniální, jako naprosto nesmyslné.
Lidé jsou ale mistři v hledání vzorců – dokážeme vidět tvář Ježíše v připáleném toastu. Proto není překvapivé, že význam hledáme i ve výstupech velkých jazykových modelů.
Hodně se diskutuje o tom, že AI nahradí řadu profesí. Jaké nové role nebo dovednosti podle vás naopak vzniknou a budou nejvíce ceněné?
Mě fascinuje myšlenka role třeba „AI etnografa“ – člověka, který kombinuje dovednosti datového analytika s hlubokým porozuměním lidem a kulturám, a dokáže to využít třeba při řízení změn ve firmách.
A pak role, o které mluvím už roky a která se zdála mnohým úsměvná – „AI archeolog“. Někdo, kdo zkoumá principy vzniku a zániku civilizací a využívá k tomu AI jako nástroj, aby pochopil dlouhodobé vzorce.
Myslím, že i díky AI jsou obory jako archeologie paradoxně oborem budoucnosti. I proto, kromě toho, že to miluju, to dělám.
