Nepohodlná pravda o AI: Bez vzdělaného moderátora jenom plytce žvaní

Kvalita výstupu od chatbota je taková, jak kvalitní je jeho lidský moderátor. To je pravda, která bude mnohým (především studentům) znít nepohodlně. Vyplývá z ní totiž několik zásadních věcí. 

Nemá cenu opakovat klišé o dobrém sluhovi a špatném pánovi, a to už proto, že to takhle není. Umělá inteligence a její nástroj se nikdy pánem nestane. Vždy bude sluhou: snaživým, pochlebovačným, ochotným přijít s nějakým jiným řešením a servilní rétorikou: „Ano, jistě, samozřejmě, máte pravdu, je to tedy takto.“

Není taky úplně pravda, že nástup chatbotů postavených na velkých jazykových modelech je dramaticky odlišný od „tradičního“ vyhledávání v Google. Obojí vychází z dobře zadaného dotazu/promptu, obojí vyžaduje kontrolu. Chatbot dokáže nabídnout leckdy zajímavější a obsáhlejší shrnutí, zase však neuvádí zdroje, a tak je náročnější na ověřování. U obou způsobů práce s informacemi však uživatel musí vědět nejen jak se ptát, ale hlavně na co se konkrétně ptát.

Velkým problémem chatbota je ten, že má odpověď na všechno. To tradiční vyhledávače nemají. Pokud nenajdou nic, co by odpovídalo zadanému dotazu, tak prostě žádný výsledek nedodají. Nicméně chatbot na všechno nějakou odpověď má.

Připomíná tak nudného kamaráda, všeznalého chvástavce brouka Pytlíka, s nímž po chvilce nepůjdete ani na pivo, protože vám nedopřeje základní předpoklad všeho objevování: „Nevím.“ „O tomhle jsem nikdy nepřemýšlel.“

Ten okamžik, kdy se člověk od bílého místa odráží k nějaké cestě duchovního dobrodružství, je ztracen. Namísto toho chatbot vypálí suverénní odpověď. A stejně jako v živém rozhovoru, pokud jeho protějšek nedisponuje solidními konkrétními znalostmi, díky nimž může utrousit pohrdlivé: „Kecáš“, vítězí blufování.

Je zřejmé, kde se v tom skrývá nebezpečí. K protějšku, který má na všechno odpověď, po čase člověk pojme nedůvěru, podezření, že se jen pokouší vypadat chytřejší, vzdělanější nebo sečtělejší, než ve skutečnosti je, a za chvíli začne chodit diskutovat s někým jiným. 

Jenže strojům jsme si jaksi navykli věřit víc. Nepodezíráme je z toho, že budou blufovat, vytahovat se a chtít se ukazovat v lepším světle. Věříme, že to jsou prostě a jednoduše stroje, které nám mají sloužit a ne konkurovat.

Dobrým příkladem bezuzdných halucinací je francouzský AI model Lucie, který vyvíjela společnost Linagora Group. Provozovatel nástroj, inzerovaný jako vysoce spolehlivý a transparentní, musel stáhnout po necelém týdnu. Lucie na požádání vypisovala recepty na výrobu drog (nefunkční) a k snídani doporučovala jako nutričně hodnotnou potravinu kravská vejce.

Francouzská Lucie je nejsměšnější a nejkřiklavější případ, ovšem ve větší či menší míře halucinují všechny modely. Dělají to ovšem poměrně sofistikovaně, takže lze postavit dva chatboty proti sobě a nechat je vést konverzaci, jež bude na první pohled působit oduševněle, elegantně a poučeně. Bude mít ale jeden problém: pokud nebude dost přísně moderována, existuje velká pravděpodobnost, že se skutečností, jak jí rozumíme, bude mít společného jen velmi málo.

Jistý český politik, oblíbený obzvláště mezi digitální generací, měl kdysi na billboardech, že když se kecají blbosti, tak spí (myslel si, že je to známka punku). 

Pokud bychom se tímhle řídili, můžeme se prospat do konce světa, zatímco diskurs ovládnou chatboti. Budou si skvěle povídat podle nastavených pravidel a pokynů, až nakonec dojde k tomu, o čem snili mnozí mystici: mezi slovem a hmotou už nebude žádné pojítko, nýbrž obrovská propast. Skutečnost jako koncept zcela zmizí.

Pokud si ale myslíme, že člověk se svými zkušenostmi a znalostmi má stále co říct, je nutná neustálá bdělost, ba přímo ostražitost. Jenže ta nemůže vycházet z toho, co se někdy (dosti povrchně) nazývá „kritické myšlení“. Často se tím myslí porovnávání více zdrojů. Jenže ve světě generativní AI je porovnávání více zdrojů z digitální oblasti celkem k ničemu. Myšlení nemůže být myšlení jen samo o sobě, čistě abstraktní a komparativní, ale musí vycházet z obsahu.

Řečeno jinými slovy, bez „hmotného“ základu, často ve formě znalostí získaných buď přímo ze skutečnosti, anebo z knih, tedy textů, které prošly určitým konsenzuálním ověřením a jako takové našly své místo v knihovnách – je jasné, že význam fyzických knihoven poroste, namísto aby se umenšoval. A stejně tak poroste význam tištěných materiálů – ukazuje se, že jsou mnohem trvanlivější než záznamy digitální.

V příkrém kontrastu s tímto vývojem je ale školství, respektive požadavky, které se kladou na studenty. Je zažitou mantrou, že „biflování“ (často doprovázené urážlivou narážkou na rakousko-uherské školství) je špatně a že je třeba posilovat kreativitu a ono již zmiňované „kritické myšlení“. 

Jenže kreativita bez znalostí je pozérství a myšlení bez obsahu není myšlení, nýbrž narcistní žvást. S nástupem nových technologií jsme ovšem svědky toho, že se dál zmenšuje kvantum znalostí a posiluje oblast kompetencí – jenže i tady platí, že kompetence bez znalostí jsou jako šlapání vody.

Kdysi před lety jsem se studenty četl působivou anglickou báseň odkazující k Francouzské revoluci. Báseň nebyla ve vydání s poznámkovým aparátem, který by na tuto skutečnost odkazoval, nicméně nepokládal jsem to za problém. Každý přece ví, že když se mluví o nějakém společenském pnutí na sklonku 18. století v Paříži a je zmínka o Bastille, jde o Francouzskou revoluci. Nikoli. Ze studentů to nevěděl ani jediný. 

Kolega novinář tehdy rozhořčeně s dotazem kontaktoval ministerstvo školství… a dostalo se mu odpovědi, že to není důležité. Že důležité je, aby si studenti uměli údaje vyhledat. S tím lze částečně souhlasit: nemusím nutně vědět, který den v červenci padla Bastilla. Jenže musím vědět, co hledat. A když nevím, co hledat, tak nic nenajdu.

S chatbotem je situace ještě závažnější. Bez tvrdé kontroly, založené na znalosti skutečnosti a konsenzuálně ustavených faktů, posloužit opravdu nedokáže. Pokud ale najde vzdělaného a přísného partnera do diskuse, může nabídnout řadu zajímavých inspirací.

🔥🗞️ Přidejte si INFO.CZ do svých oblíbených zdrojů na Google Zprávy. Díky.