Newsletter

Týdenní přehled nejdůležitějších zpráv
do vaší e-mailové schránky

Newsletter
Přihlásit se k odběru

Legenda J. Kelemen: Inteligence bez emocí je nanic. Jsou to jen blbé stroje

Legenda J. Kelemen: Inteligence bez emocí je nanic. Jsou to jen blbé stroje

Když si Jozef Kelemen v 70. letech vybíral téma své diplomové práce, zaujala ho umělá inteligence. Stal se tak jedním z průkopníků UI v tehdejším Československu. Během své více jak čtyřicetileté kariéry působil i na prestižním Massachusettském technologickém institutu (MIT). „S MIT je to jako s fotbalovými kluby. V porovnání s ostatními působišti je jejich nabídka tak velkorysá, že koho osloví, ten tam přijde. Vůbec jsem si na to nemohl zvyknout. Co jmenovka na dveřích tehdejší Laboratoře umělé inteligence, to pojem v umělé inteligenci. Připadal jsem si jak v nějakém panoptiku,“ popisuje svou zkušenost Kelemen. Zásadní otázkou současného výzkumu je podle něj vztah umělé inteligence a emotivity. „Na začátku je potřeba vyjasnit, co vlastně emotivita je. Protože jinak se bude umělá inteligence jen opičit: rozpláče se nebo rozesměje podle toho, jak se tváříme my. Ale já mám na mysli emotivitu založenou na hlubším poznání, na jakýchsi „vnitřních stavech“ těch uměle inteligentních systémů. A to jsou háklivé otázky. Je to zkoumání plné bažinatých oblastí,“ upozorňuje expert.

Umělou inteligencí jste se začal zabývat už v 70. letech. V tehdejším Československu jste patřil k průkopníkům. Jak se realita liší od toho, co jste si tenkrát ve vývoji UI představoval?

Upřímně jsem si to představoval trochu romantičtěji. Vývoj šel ale pragmatičtější cestou. Začala snaha aplikovat umělou inteligenci. Mnohdy ale nebylo příliš co aplikovat, protože základní vědecký výzkum ještě nebyl tolik rozpracovaný. Došlo tedy k zvláštnímu posunu: namísto aplikace umělé inteligence se začaly ad hoc vytvářet uměle inteligentní systémy. Pokud dokáží třeba rozpoznávat obrazce, už se nazývají UI. Takto se dosáhlo mnoha věcí. Nepřesvědčilo mě to ale o tom, že je za tím vědecké poznání, a ne pouze „programátorské triky“. Nemyslím to ale v pejorativním smyslu.

Inženýrská šikovnost podle vás převažuje?

Ano, máme málo fundamentálních poznatků o inteligenci. Dokonce si myslím, že se momentálně odklání pozornost od podle mě velmi důležitých věcí.

Jaké máte na mysli?

Bylo by potřeba věnovat se vztahu umělé inteligence a emotivity. Inteligence bez emocí není nic. To jsou jen blbé stroje. Jenže zkoumat emotivitu je obtížné. Dokonce jsem se setkal i s názory, že zkoumání emotivity by mělo být v podstatě zakázáno, že to do umělé inteligence nepatří. Ale podle mě se emotivita nedá od inteligence oddělit. Pak se objevují i nové přesahy mezi obory, třeba mezi naší vědou a uměním. To je další velice lákavá perspektiva. Jak ty nové stroje umělecky reflektovat? Třeba v takzvaném robotickém umění a podobně? A zase to souvisí s emocemi…

InfoLabInfoLabautor: Info.cz

Existuje dnes vůbec ještě výrazná hranice mezi člověkem a strojem? Podle knihy, kterou jste editoval, se čím dál více stírá. Například otázka emotivity, kterou jste zmínil: neměla by být strojům pak přiznána i určitá práva?

Vznáší to nejen etické otázky, ale někdy i o hodně praktičtější dotazy. Emotivitu potřebujete. My jsme si například sedli do pěkné restaurace. Nebyli jsme ani příliš hladoví. Kdybychom byli, tak bychom zašli i do restaurace 4. třídy a najedli bychom se tam. Ale jestli jsme moc hladoví nebo ne, tak taková rozhodnutí usměrňuje spíše emotivita než intelekt. Někteří lidé jsou vám sympatičtí. Také pak s nimi jednáte jinak než s těmi, kteří vám příjemní nejsou. I tam se objevuje emotivita. Kdybychom jednali jako čistě racionální bytosti, tak bychom ze života příliš neměli. Emotivita dodává životu šťávu.

S etikou to souvisí, nelze zkoumat jedno bez druhého. Ve sci-fi románech je to někdy přeexponované, ale rozhodně je potřeba této oblasti věnovat pozornost. Snaží se o to kognitivní věda, což je relativně nová oblast zkoumání. Byl bych rád, kdyby se na ni zaměřovala pozornost. Není to ovšem natolik zajímavé z hlediska investic ze strany soukromých firem nebo třeba armády.

V souvislosti s umělou inteligencí je často skloňovaný Turingův test. Ten by měl „odhalit“, zda člověk komunikuje s lidskou bytostí, nebo strojem. Dnes už se ale umělé inteligenci občas podaří rozhodčí ošálit, že?

Ano, záleží na tom, jaké téma rozhovoru zvolíte. Pokud se budeme bavit o motorech automobilů, tak se stroji může podařit třeba skrýt za motoristickou hantýrku. Pokud ale bude mluvit s matkou o jejím vztahu k jejím malým dětem nebo s dětmi o jejich vztahu k matkám, tak tam rozdíl rychle poznáte. Musíte však dávat pozor, aby v těch systémech nebylo uloženo příliš mnoho „politické korektnosti“.

S tím souvisí další věc, která mi ve výzkumu chybí: otázka učení se. Existují systémy, které se dokážou učit. Je to ale učení v lidském smyslu, nebo v nějakém jiném? Je to velmi komplikovaná otázka. Můžete si myslet, že se stroj učí výborně, protože postupuje stejně jako vy. Ale on možná jen imituje nějakou činnost, kterou jste do něj vložili při jeho konstrukci, aby byla jeho činnost ve svých důsledcích blíže k té vaši činnosti za podobných podmínek. Hodnocení toho, zda se učí dobře nebo ne, si necháváte pro sebe. Je tu ještě mnoho práce s vyjasňováním významů základních pojmů.

Kdo je Jozef Kelemen?
Jozef Kelemen se narodil v roce 1951 v Nových Zámkoch na Slovensku. Vystudoval matematiku se zaměřením na ekonometrii na Univerzitě Komenského v Bratislavě. Věnuje se problematice umělé inteligence a souvisejícím oblastem teoretické informatiky, kognitivní vědy, problematice znalostní společnosti, znalostnímu managementu a (převážně vědecké) esejistice. Přednášel na několika univerzitách v SR, v ČR a Maďarsku. Kratší přednáškové pobyty absolvoval i na Univerzitě Rovira i Virgili v Tarragoně (Španělsko) a na Technické univerzitě ve Vídni (Rakousko) a výzkumný pobyt v Laboratoři umělé inteligence na Massachusettském technologickém institutu v Cambridgi (USA). Je autorem nebo spoluautorem více než 100 vědeckých článků a kolem 20 knižních publikací různých literárních žánrů od vědeckých monografií, např. Grammar Systems (1994), Expertné systémy (1988), Kapitoly o znalostnej spoločnosti (2008), vysokoškolských učebnic, např. Základy umelej inteligencie (1992), Expertné systémy pre prax (1996), Tvorba expertních systemů v prostředí Clips (1999) až po publikace obsahující jeho esejistické texty, např. Strojovia a agenty (1994), Budoucí Altamira (1995), Postmoderný stroj (1998), Kybergolem (2001), Iné texty (2005), Myslenie a stroj (2010) atd. V současnosti je emeritním profesorem na Slezské univerzitě v Opavě, kde několik let působil a zasloužil se o vybudování všech tří stupňů vysokoškolského studia (Bc., Mgr. a Ph.D.) informatiky.

Vy sám se UI věnujete přes čtyřicet let. V 90. letech jste působil na prestižním Massachusettském technologickém institutu (MIT).

V roce 1993 jsem absolvoval na MIT půlroční pobyt, ještě předtím i potom několik kratších. Podmínky, jaké jsem tam zažil, v Evropě jednoduše nemáme, možná jen v institutech ve Švýcarsku, třeba v Lausanne na Polytechnice. Je to otázka peněz. Bez nich to ani v této oblasti nejde. Spojené státy mohou být v tomto ohledu díky svým soukromým vysokým školám mnohem velkorysejší.

Pro deník SME jste svou zkušenost s nadsázkou připodobnil k situaci, kdy se farář z vesnice dostane do Vatikánu.

Přesně takový pocit jsem tam měl. MIT je od té doby, kdy se oddělila z Harvardu, také soukromou univerzitou. O lidi je skvěle postaráno. Byl jsem překvapený i vstřícností svých kolegů. Vzhledem ke svým úspěchům mohli být klidně namyšlení, ale vůbec nebyli.

Čemu jste se přesně věnoval?

Konkrétně jsem vypracovával teoretický, tedy formální model distribuované umělé inteligence. Model, který dovoloval teoreticky studovat situace, když provádění výpočtu bylo rozčleněno na několik výpočetních zařízení. Později jsem zjistil, že ve Spojených státech už s tím svou experimentální zkušenost mají. Uplatnili to ve dvou praktických věcech. Při výpravě na Mars tehdy vypustili dva průzkumné roboty Sojourner a Pathfinder. Ti právě měli distribuovanou umělou inteligenci: každý dělal něco, a přitom měli vlastně společnou „mysl“. Nebyla však vhodná teorie, která by zachytávala tuto situaci.

Informace posílali roboti někam do centrály?

Právě, že žádné ústředí neexistovalo. Tvořili ho oni dva. Také se to uplatnilo během operace Pouštní bouře ve válce v Zálivu. Na stejném principu tam fungovala letadla. Operují ve formacích, z bezpečnostního hlediska ale není dobré, když je software na jedné palubě. Pokud ho sestřelí nepřítel, tak dojde k jeho zničení, nebo v horším případě ukradení. Na palubě každého letadla tak bylo něco. Bylo to tak šikovně vymyšlené, že i kdyby sestřelili všechna letadla, nebyli by z nich schopni sestavit celek.

Projekty na MIT podporovalo i americké ministerstvo obrany, peněz tedy bylo dost. Co mě velmi překvapilo, byl fakt, že na MIT byly ve velkém zastoupeny i evropské firmy. Přispívaly na výzkum.

Na MIT jste se seznámil s profesorem Marvinem Minskym, který stál u zrodu umělé inteligence. Jaké to pro vás bylo setkání?

Sblížili jsme se. Nemůžu použít slovo „skamarádili“. Byl mezi námi výrazný věkový rozdíl. On byl navíc superhvězda. Než jsem se s ním potkal, slýchal jsem o něm dost negativní informace. Lidé ho líčili jako arogantního člověka, ale ke mně se tak vůbec nechoval. Při jedné příležitosti jsme ho i s jeho manželkou hostili v Praze na ČVUT. Oni dva mě pak na oplátku provedli Bostonem. Navštívili jsme spoustu muzeí a rodný dům JFK a Harvardský klub. Mám odtamtud vtipnou vzpomínku, která se týká jídla. Objednali jsme si tenkrát humra, což je taková bostonská místní specialita, ale vůbec jsem netušil, jak ho jíst. Ani já, ale ani on. Museli jsme poprosit číšníka, aby nám ukázal, jak na to.

Obecně je postavení vědců ve Spojených státech jiné než v Česku.

Ano, to podstatně. Jsou to vlastně mediální hvězdy svého druhu. S výhodami i nevýhodami z toho plynoucími.

Pokud se vrátíme do současnosti, co vám přijde jako hlavní téma dnešního výzkumu v oblasti umělé inteligence?

Jak už jsem naznačil, myslím, že hlavním tématem příštích let by mohlo být zkoumání vztahu inteligence a emotivity. Některé skupiny odborníků už se na to začínají zaměřovat. Nyní jde o to, aby to nesklouzlo opět jen k tomu, že budeme dělat stroje, které jsou jakoby emotivní. Na začátku je potřeba vyjasnit, co vlastně emotivita je. Protože jinak se bude umělá inteligence jen opičit: rozpláče se nebo rozesměje podle toho, jak se tváříme my. Ale já mám na mysli emotivitu založenou na hlubším poznání, na jakýchsi „vnitřních stavech“ těch uměle inteligentních systémů. A to jsou háklivé otázky. Je to zkoumání plné bažinatých oblastí.

Jak daleko je v této oblasti výzkum?

Vnitřní emoce u umělé inteligence ještě neexistují.

Ale mohlo by to jít?

Podle mě by to mohlo být zajímavé, především v robotice. Jinak mohou nastat problémy. Nezapomínejme, že celé lidské bytí je založené na emocích. V emocemi podmíněných situacích se ocitáme neustále.

Není nebezpečné stroje „naučit“ emoce?

Pokud učiníme stroje emotivní stejným způsobem, jako jsme my, tak to může být nebezpečná cestička. Jenže takových cestiček v dnešním světě existuje mnoho. Nemuselo by to být neobvykle nebezpečné oproti vývoji ve zbrojařství, automobilové dopravě nebo ovlivňování psychiky. Bylo by zajímavé se zamyslet nad tím, zda by před případnými nebezpečími nemohla UI varovat. Řekla by: toto a toto nedělejte, to bude mít takové a takové následky. Stroj to může vyhodnotit velmi rychle. S předstihem bychom tak věděli, jaké bude mít naše rozhodnutí dopady.

To zní jako předpovídání budoucnosti.

Ano. Diskutoval jsem se s jedním nábožensky založeným člověkem, který studoval na kněze, a ten mi řekl: to, co se píše ve svatých knihách, je pravda. Když něco uděláme špatně, tak za to přijde trest. Jen nemusí přijít v našich životech. A stroje by nám mohly poslat zprávy: touto cestou nechoďte.

Ohledně umělé inteligence se ale objevují i závažná varování. Nedávno s jedním takovým přišel zakladatel společnosti SpaceX a Tesla Elon Musk za podpory dalších vědců. Varovali před využitím UI ve válečných konfliktech, tedy takovými roboty zabijáky. Oponoval mu šéf společnosti Facebook Mark Zuckerberg, který vidí budoucnost mnohem optimističtěji. Podle některých komentátorů nejde ale o starost o budoucnost lidstva, ale pouhé kolíkování byznysového prostředí. Co si o tom myslíte?

Je to přesně tak, jak říkají tito komentátoři. Je to takový ubohý pokus o reklamu. Sám to takto také rozklíčovávám.

Podobným varováním nevěříte?

Vždy za nimi lze vidět obchod. Je to upozorňování na sebe. Podobným protestům příliš nevěřím.

Přece jen: nevidíte oblast, kde byste našlapoval opatrně?

V celé technice je potřeba našlapovat opatrně, nehledě na to, zda jde o UI nebo něco jiného. Technika je naše dílo. Nevznikla přirozeným vývojem, své místo si hledá. Mám strach obecně z přetechnizovanosti, ale jestli jde o umělou inteligenci nebo moderní traktory, to je v podstatě jedno. Nemáme tu vývojovou zkušenost. A to nejlepší se hledá za cenu obrovských obětí.

Máte rád sci-fi?

Příliš ho v lásce nemám.

Mohly by nás jednou nahradit stroje, jak romány nebo filmy předpovídají?

Ano, je možné, že vyhyneme a budou naopak existovat stroje, které se dokáží samy reprodukovat. Možná se budou i vyvíjet, každá další generace bude lepší. Je potřeba věřit, že se tak nestane v blízké budoucnosti. Ale pokud ta doba jednou nastane, tak proč ne. Nikdy nezapomenu na hlášku mého dobrého známého Egona Bondyho. Řekl, že biologické formy se vyčerpaly. Už nebude lepší člověk. Nahradí ho něco jiného. On věřil tomu, že to budou stroje. Já si to v takto optimistickém směru nemyslím. Ale ani to nedokážu vyloučit. Myslím, že nás s UI nečeká ani utopie, ani dystopie. Každopádně už je ale dnes přítomná v našich životech.

 

Šokující zjištění vědců: Pokud nejíte sladké, ohrožujete vlastní zdraví

Diety chudé na sacharidy, jako je například Dukanova nebo Atkinsova dieta, jsou velmi módní, zvláště pro své rychlé a výrazné účinky. Tyto diety omezují či vylučují ze stravy všechny sacharidy, včetně rychle vstřebatelných cukrů (obsažených třeba v moučnících) a pomalu vstřebatelných cukrů (jsou například v chlebu, těstovinách či rýži). Stoupenci takové diety vyřazují z jídelníčku rovněž ovoce a zeleninu. Jejich strava naopak obsahuje hodně proteinů a tuků. To je ovšem nebezpečná volba.

Diety chudé na sacharidy, jako je například Dukanova nebo Atkinsova dieta, jsou velmi módní, zvláště pro své rychlé a výrazné účinky. Tyto diety omezují či vylučují ze stravy všechny sacharidy, včetně rychle vstřebatelných cukrů (obsažených třeba v moučnících) a pomalu vstřebatelných cukrů (jsou například v chlebu, těstovinách či rýži). Stoupenci takové diety vyřazují z jídelníčku rovněž ovoce a zeleninu. Jejich strava naopak obsahuje hodně proteinů a tuků. To je ovšem nebezpečná volba.

Výzkum profesora Macieje Banacha z Lodžské univerzity ukazuje, že dieta chudá na sacharidy představuje v dlouhodobé perspektivě riziko pro zdraví. Tým vědců sledoval 11 let více než 24.000 dobrovolníků, mužů i žen. Všichni drželi dietu, ale nikoli stejnou. Když vědci zjistili jejich zdravotní stav, životní styl a výživu, srovnávali rizika předčasné smrti.

Link

Účastníkům studie, kteří nejedli sacharidy, hrozilo o 32 procent vyšší nebezpečí, že zemřou o šest let dříve, než ti, jejichž strava obsahovala hodně sacharidů. Riziko, že člověk podlehne kardiovaskulární chorobě, vzrostlo o 50 procent, jestliže dotyčná osoba konzumovala málo sacharidů či dokonce žádné. U rakoviny bylo riziko o 30 procent vyšší.

Studie také ukázala, že osobám s normální váhou, které se rozhodly držet takovou dietu, hrozilo větší riziko předčasného úmrtí než lidem obézním. Výsledky se potvrdily i poté, co bylo přihlédnuto ke konzumaci alkoholu, kouření, fyzické aktivitě či chorobám jako je vysoký krevní tlak.

Podle autorů studie nejsou tyto výsledky spojeny jen s nízkým přísunem sacharidů. Souvisejí zřejmě i se zvýšenou konzumací proteinů a tuků. Podle Světové zdravotnické organizace (WHO) nadměrná konzumace červeného masa a uzenin bohatých na cholesterol a nasycené tuky přispívá ke vzniku některých druhů rakoviny, zejména střev a konečníku. Tyto látky mají rovněž na svědomí kardiovaskulární choroby. Navíc může hrát roli i snížená konzumace minerálních látek a vitamínů.

Link

Francouzská Národní agentura pro bezpečnost potravin (ANSES) varuje před "klinickými, biologickými a psychickými dopady" spojenými s odtučňovacími dietami. Vzhledem k nedostatku některých živin mohou nastat problémy s kostmi či s metabolismem. V dlouhodobé perspektivě tyto diety vedou k bludnému kruhu, kdy člověk znovu nabere shozené kilogramy.

Jestliže jsou diety chudé na sacharidy v krátkodobé perspektivě účinné, jsou dlouhodobě riskantní a neměly by být doporučovány, varuje profesor Banach. Je totiž důležité nevynechávat jeden druh potravy. Sacharidy, proteiny a tuky jsou pro stravování nezbytné. Podle nutričních poradců je výživová potřeba člověka pokryta, jestliže se strava skládá z asi 50 procent sacharidů, 20 procent proteinů a 30 procent tuků.

-1