Chci být rychlejší než Musk, říká přední český odborník na umělou inteligenci

EXPORT | Přední český odborník na umělou inteligenci Michal Pěchouček v rozhovoru pro časopis Moderní ekonomická diplomacie popsal svůj dlouhodobý cíl. Chtěl by vyvinout mentální antivirus, aby byl připraven na dobu, kdy Elon Musk vysoustruží mozkové implantáty. „Lidé nepotřebují mozkové implantáty k tomu, aby byli manipulováni,“ říká profesor Pěchouček, který je od roku 2019 technickým ředitelem Avastu.

Zabýváte se tím, jak může umělá inteligence pomoci kybernetické a počítačové bezpečnosti. Počítáte s tím, že umělá inteligence je také významnou zbraní v rukou kyberútočníků?

Ano. Jsou tu dvě dimenze. Za prvé platí, že škála takových útoků roste a výrazně jich přibývá. Už ani není v lidských silách připravit takové množství útoků ručně. Jsme svědky mamutí automatizace v psaní těchto útoků i v obfuskaci – tedy přizpůsobování těchto útoků tak, aby nebylo možné útočníka detekovat. K tomu všemu se používá umělá inteligence. Stejně jako v celém softwarovém průmyslu tady platí, že se virtuální část softwaru čím dál tím víc automatizuje. To platí v případě Googlu stejně jako u hackerské komunity. A pak je tu druhá dimenze – cílem útoku už často není ošálit nějaký firewall nebo ochranný počítačový systém, ale přímo člověka. Jde o phishingové útoky, kdy je člověk třeba prostřednictvím mailu vyzýván, aby na něco kliknul, udělal nějakou akci. Schopnost ošálit ho je vyšší prostřednictvím umělé inteligence, která pracuje s jeho profilem, daty a dokáže predikovat jeho chování a tužby. Předhodí mu uvěřitelný klik.

Obáváte se, že tyhle hrozby mohou vést k negativním postojům veřejnosti vůči umělé inteligenci jako takové?

Asi se to nestane. Lidé si dnes spojují negativní vlivy umělé inteligence s jinými hrozbami, o kterých píší komentátoři a o nichž mluví technologičtí lídři. Jen málo lidí mluví o negativních dopadech kyberútoků s využitím umělé inteligence.

Jaké hrozby máte na mysli?

Hodně se mluví o vzniku pokročilé, takzvané obecné umělé inteligence, která by mohla člověka ovládnout. Pak jsou to nebezpečí spojená s umělou inteligencí v dopravě, s autonomními vozidly. Zcela po právu se hodně mluví také o umělé inteligenci a manipulaci, což je velká hrozba, která se v mnohém podobá těm phishingovým útokům s využitím umělé inteligence. Je to takové příbuzné, sesterské nebezpečí. Myslím, že umělá inteligence bude mít problém se ve společenském diskurzu obhájit, ale nikoliv kvůli kybernetickým útokům.

AVAST MI SEDÍ

Vy se zabýváte oběma dimenzemi kybernetických útoků s využitím umělé inteligence a obranou proti nim?

Obojí skutečně řešíme. Proto jsem spojil svoji kariéru s Avastem. Jako intelektuál tady vidím nejpravděpodobnější cestu k úspěchu. Chtěl jsem zvýšit šanci, že mé nápady pomohou stamilionům uživatelů po celém internetu. Avast je pro mě ideální pracoviště, kde to můžu zkusit. Před časem jsem odmítl podobnou nabídku z Facebooku, ale Avast je přesně to, co mi sedí.

Poprvé jste propojil své nápady v oblasti umělé inteligence a kybernetické bezpečnosti s komerčním projektem ve startupu Cognitive Security. Navazujete tedy na to, do čeho jste se pustil už před více než deseti lety…

V té době jsem společně se svým tehdejším doktorandem Martinem Rehákem rozvinul základní myšlenku, že metody umělé inteligence, které se používají k rozpoznávání obrazů, se mohou použít i k rozpoznání síťového provozu. Stejně jako jsme schopni v obrazu detekovat černou kočku, která tam být nemá, jsme schopni v síťovém provozu detekovat útok, který tam také nemá být. Tuhle základní intelektuální premisu jsem si chtěl v praxi ověřit a zjistil jsem, že opravdu funguje. A že ta třída metod, která se používá ve zpracování obrazu, se dá použít pro nějakou třídu problémů ve zpracování síťového provozu. Na tom jsme postavili startup Cognitive Security, který později koupila americká společnost Cisco.

Dá se říct, že to byl velký průlom i v globálním měřítku?

Nechci si přisuzovat nějaké nezasloužené zásluhy, ale mohu říct, že před rokem 2013 bylo velmi obtížné prodat řešení v oblasti kybernetické bezpečnosti, které by bylo postavené na myšlenkách umělé inteligence, strojového učení. Od roku 2013, kdy náš startup koupilo Cisco, se k těmto metodám začalo otáčet celé odvětví. Dnes už se naopak jen těžko prosadíte s řešením kybernetické bezpečnosti, které by aspoň zčásti nebylo postaveno na metodách strojového učení.

I později jste mluvil o tom, že světy umělé inteligence a kybernetické bezpečnosti si nebyly až tak blízké a že by se měly více propojit. Daří se vám to?

Zlepšuje se to. Kybernetická bezpečnost má oproti jiným aplikačním oblastem k umělé inteligenci relativně daleko. Vyžaduje totiž mnohem odbornější expertízu ve srovnání s využitím umělé inteligence například v autonomním autě nebo při rozpoznávání fotek. Řízení auta není tak těžká věc a třídění fotek také není žádná věda. Když tady nahrazujete přirozenou inteligenci umělou, řešíte vlastně intuitivně přístupný problém. V případě kybernetické bezpečnosti řešíte extrémně interpolovaný náročný problém. Jen málo lidí na světě rozumí tomu, jakým způsobem se chová počítačový virus, co je kybernetický útok. V této oblasti máte málo benchmarků, málo expertů, kteří vám mohou pomoci, a málo lidí, kteří jsou ochotni vaše metody verifikovat. Je také velmi těžké zapojit akademickou komunitu. V jiných oblastech aplikace umělé inteligence existují datové množiny, které slouží jak pro strojové učení, tak pro verifikaci výsledků. A jsou veřejně dostupné. V kybernetické bezpečnosti se primárně jedná o osobní údaje, které je nutné chránit.

AUTONOMNÍ OBRANA A MENTÁLNÍ ANTIVIRUS

Co vás tedy naplňuje optimismem, pokud jde o vaši práci v Avastu? V čem jste se posunuli dál?

Mým velkým cílem je vytvořit autonomní obranu. Tedy účinný systém, který bude založený na symbióze výborných technologií a skvělých lidí. Tento softwarově-lidský systém by měl zajistit škálovatelnost – chránit před výrazně širší škálou útoků. V tom jsou lidští experti vlastně na obtíž. Ti neškálují. Snažím se pomocí umělé inteligence zajistit co nejvíc konjunktivní práce – tedy vyškálování obrany, aniž bych musel nutně zvyšovat počet lidí, kteří ten systém obsluhují. Čím dál tím větší množství rozhodnutí dělá umělá inteligence. Zatím se nám to daří. Ukazuje se, že složité, komplikované metody umělé inteligence, které předtím nikdo v oboru kybernetické bezpečnosti nepoužil, mohou dosáhnout stejně přesného rozhodování jako ti nejvzdělanější a nejsofistikovanější lidé. My tyto metody vymýšlíme, vyvíjíme, rozvíjíme.

Zajímalo by mne, jak váš přínos vnímá Avast. Vzniká díky vaší práci v Avastu něco nového velkého – nové produkty, které budou tak úspěšné jako klasické antivirové programy?

Kybernetickou bezpečnost je možné přirovnat ke zbrojení, soupeřící strany se snaží navzájem uzbrojit. My vidíme, že hackeři zbrojí dobře. Kdo přestane zbrojit, stane se časem irelevantním. Avast zbrojí pomocí umělé inteligence, nechce ztratit schopnost chránit uživatele internetu. Nebudeme tady vymýšlet třeba létající auto. Zabýváme se tím, jak dlouhodobě ochránit půlmiliardu nebo ještě více lidí v době, kdy se útoky mění a jsou samy založené na umělé inteligenci. A Avast se samozřejmě posouvá, rozšiřuje své portfolio schopností, díky nimž brání digitální bezpečí a digitální svobodu uživatelů internetu. Dnes chráníme před útoky nejen osobní počítače a telefony, ale také internet věcí. Také se zaměřujeme na ochranu soukromí. Máme technologie, které chrání identitu a umožňují uživatelům zjistit, jestli se náhodou jejich hesla a přístupové kódy někde neobchodují na černém internetu. Také máme vlastní prohlížeč. Bezpečnost musí být do budoucna založena na kombinaci různých prvků. Antivirus je jedním z nich. Dalším prvkem je síťová bezpečnost – schopnost chránit bezpečnost uživatele na routeru nebo někde v síti. Chceme ale chránit i prohlížeč, browser, který je dnes vlastně nejintimnějším prostředkem pro přístup do internetu. Náš browser má jedno z nejlepších zabezpečení na světě a například v Británii ho často využívají pro realizaci bankovních operací.

Mohl byste popsat, jaký je váš nejdůležitější krátkodobý i dlouhodobý cíl?

Vlastně ani moc neumím mluvit o těch krátkodobých, nezajímavých cílech, jichž je hrozně moc a které mi zabírají 80 procent času. Ale významný krátkodobý cíl je právě dokončení vývoje autonomní ochrany. Tím se v Avastu zabývá mnoho odborníků na umělou inteligenci, spolupracujeme s ČVUT i například s King's College v Londýně. A pokud jde o dlouhodobý cíl, chtěl bych porozumět tomu, co je to mentální antivirus. Abych byl připraven na dobu, kdy Elon Musk vysoustruží výborné mozkové implantáty a lidé si budou říkat – potřebujeme antivirus na mozkové implantáty. Chci mít mentální antivirus vyvinutý ještě dlouho předtím. Lidé nepotřebují mozkové implantáty k tomu, aby byli manipulováni. Na to ostatně stačí mobilní telefon, který mě může manipulovat stejně jako mozkový implantát. Potřebujeme se dostat na technicky úplně novou úroveň bezpečnosti na internetu, abychom dokázali použít umělou inteligenci pro vyšší nezávislost jeho uživatelů na manipulaci.

Tím se vracíme ke vnímání různých hrozeb, o kterých jsme mluvili na začátku. Co považujete za největší hrozbu vy?

Společensko-ekonomickou nevyváženost mezi světovou populací a dvaceti největšími technologickými firmami. Mám na mysli hlavně motivační nevyváženost. Dnes už mnozí lidé vidí, že ekonomický úspěch největších technologických firem je postavený na ovlivňování tužeb obrovské masy uživatelů internetu. Dvacet let to fungovalo relativně mírumilovně. Dalo by se říct, že v podstatě ku prospěchu všech. Reklama, živý internet… Umělá inteligence mi vybírá boty, které se mi budou líbit. Byl to vlastně takový společenský deal. V posledních čtyřech letech ale tato rovnováha mezi big tech a obyvateli planety fungovat přestala. Vidí to regulátor, vidí to veřejnost a vidí to i samy ty velké technologické firmy. Ukázalo se, že to jsou organizace, které zneužívají vztah s uživateli internetu k jiným účelům než prodeji bot. Manipulují se znalostmi, s názory, s projevy. Po internetu se šíří extrémní názory. Podle mě je to stejně velké nebezpečí jako klimatická hrozba.

Jste tedy optimistou v tom, že vaše práce pomůže tomuto nebezpečí čelit…

Proto to dělám. Takových lidí, kteří uvažují jako já, jsou po celém světě tisícovky. A dělají skvělé věci. Věřím, že spousta těchto lidí paradoxně pracuje přímo ve velkých technologických firmách. Byznys těchto společností je postavený na modelu vymyšleném před deseti lety. Není možné si jednoduše říct – přestaňme to dělat. Tento model je mocný, velký, robustní, navázaný na cenu akcií a burzovní indexy. Dostali jsme se do slepé uličky, pro každého je teď těžké se vrátit zpět. Největší chudák je regulátor. Chtěl by něco regulovat, ale vůbec se v tom nevyzná. Je dobře, že se snaží dělat svou práci, ale za technologickými firmami bude vždy intelektuálně pozadu. Nebude schopen predikovat to, co budou tyto firmy realizovat. To je hrozně těžký problém.

ŽÁDNÝ TAJNÝ VÝZKUM

O kybernetickou bezpečnost a umělou inteligenci se hodně zajímají armády. Také váš výzkum v minulosti spolufinancovala americká armáda, letectvo. Není hrozbou i to, že by někdo zneužil umělé inteligence ve vyhroceném globálním soupeření vojenských velmocí?

Můj výzkum dvacet let financovaly americké obranné složky. Bez ohledu na poslední čtyři nešťastné roky v americké politice jsem hrdý na to, že jsem mohl pomáhat řešit hrozby globálního světa za přispění sponzoringu Spojených států. Zároveň jsem se nikdy neúčastnil a ani nechtěl účastnit ničeho utajovaného, každý výsledek mého výzkumu je veřejně přístupný a najdete ho v nějakém vědeckém článku. O utajovaném výzkumu ani nic nevím, takže všechno, co bych říkal, by byly spekulace. Budu rád spekulovat o tom, jestli Elon Musk začne vyvíjet implantáty do mozku, ale nechci moc spekulovat o národní bezpečnosti.

Moje otázka směřovala i k tomu, jestli vás hrozba zneužití v globálním mocenském souboji nějak neznejisťuje. Jestli výzkum umělé inteligence nemůže směřovat někam, kam byste nechtěl.

Hluboce doufám, že ani Spojené státy, ani státy Evropské unie nebudou nikdy zeměmi, které by masivním způsobem používaly umělou inteligenci třeba k tomu, aby manipulovaly volby v jiných státech. Nikdy bych nepracoval pro Rusko, které to dělá. Dělá to úspěšně a daří se mu znejišťovat politický diskurz. Rozvoj umělé inteligence některým vládám pomáhá ve vytváření chaosu. Proto je třeba podporovat jiné vlády, včetně vlády České republiky, nebo obranu Evropské unie – abychom se i s pomocí umělé inteligence dokázali bránit kyberneticko-manipulační válce, která se vede například z ruských trollích farem. Takovou obranou se musí zabývat státy, infrastrukturní společnosti i firmy, které chrání drobné uživatele. Mám vášeň pro drobné uživatele internetu. Ti mě opravdu zajímají. Víte proč? Protože jich je nejvíc.

Když se mluví o zneužití umělé inteligence, mnozí si vzpomenou na Karla Čapka a jeho inteligentní roboty, kteří nakonec ovládnou svět. Zaznamenal jsem váš názor, že vývoj nějaké superinteligence vlastně nemá byznys case, byznysové využití. Nemůže být tahounem jejího vývoje právě soupeření velmocí, které se ve všem snaží být o krok dál než jejich rivalové?

Nějací brutální vůdci si mohou představovat, že když získají obecnou umělou inteligenci, zotročí svět. Myslím si ale, že to je nesmysl. A že ani tady neexistuje use case, možnost využití. Jsem přesvědčen, že obecná umělá inteligence ještě dlouho nevznikne. Dřív nám možná shoří naše planeta. I kdyby ale vznikla, nevidím důvod, proč by nějaký diktátor někde ve světě chtěl útočit třeba na Evropskou unii pomocí silné umělé inteligence. Aby tady zlikvidoval obyvatelstvo? Spíše by chtěl Evropu ovládat než ji likvidovat. Těmi skutečnými rizikovými tématy spojenými s geopolitickými střety jsou manipulace, včetně manipulace voleb, chaos, násilí, vzpoury, protesty. Nikoliv vymýcení lidstva tím, že někdo vyvine roboty, kteří udělají lidi zbytnými.

MUSÍME SOUTĚŽIT

Vrátil bych se k ekonomice – především k té české. Když se řekne Česko a kybernetická bezpečnost, mnoho lidí si vzpomene na značky jako Avast nebo AVG. Když se řekne Česko a umělá inteligence, je to s podobnými asociacemi horší. Může se Česko více prosadit i v tom oboru?

Ačkoliv všichni víme, že nemůžeme zvítězit, musíme pořád soutěžit, snažit se. I během této soutěže můžeme hodně získat. Česká republika má skvělé předpoklady. Za prvé pořád platí to, co tady zaseli komunisti – máme relativně dobře vzdělanou technickou inteligenci. Ve srovnání s průměrem EU jsme na tom skvěle. Za druhé je Česko jako průmyslová země plná potenciálních use cases, možností využití umělé inteligence. Je třeba se těmto možnostem věnovat, strategicky zainvestovat. A za třetí je Česká republika melting pot. Praha zvlášť. Do Prahy jezdí lidé ze severu, z jihu, z východu, ze západu. Kdyby se naše země ještě víc otevřela imigraci a přitáhla sem špičkové talenty, mohla by být Kanadou, Novým Zélandem nebo Austrálií nejen střední Evropy, ale celé Evropy. Když tu bude skvělá a dobře placená práce, atraktivní byznysové prostředí a vláda otevřená imigraci inteligentních lidí, mohlo by nás to do padesáti let katapultovat mezi dvacet nejvyspělejších zemí světa. Jsem přesvědčen, že umělá inteligence může Českou republiku proměnit. Je to unikátní šance, která tu ještě nebyla.

Zatím ale jenom šance?

Bohužel zatím přešlapujeme. Podpora rozvoji umělé inteligence tady není ani z veřejné sféry, ani ze strany velkých firem nijak třeskutá. Nevidím, že by se třeba velké banky spojily a vytvořily velký fond, který by financoval revoluci v umělé inteligenci a fintechu, finančních technologiích. Neslyším volání zpracovatelského průmyslu po umělé inteligenci, která by jim pomohla škálovat a automatizovat výrobu. Máme jedny z nejlepších podmínek na zeměkouli, ale moc toho nevyužíváme.

Jste vědec a zároveň podnikatel, čímž také dokazujete, že v Česku může být celý inovační řetězec od výzkumu, vývoje až po založení a rozvoj komerční firmy. Češi se ale jinak pořád s přechodem od výzkumu do komerční sféry dost potýkají. Máte pocit, že se to zlepšuje?

Je to obecně těžké a v Česku dvojnásobně těžké. Není vůbec triviální dělat kvalitní vědeckou práci a pak ještě založit startup. Potřebujete udržet kvalitu na obou stranách. To, že u nás výborně vzdělaní absolventi magisterského studia nechodí do inkubátorů a nezakládají startupy, ale radši přijmou dobře placenou práci ve firmách jako Microsoft, Kiwi, Seznam nebo Avast, je škoda. Ti chytří kluci, kteří mají nápady, by měli zakládat startupy. Když startupy zakládají lidé z univerzity, je to hodně složité. Kvalitní vědec, který se celý život věnuje nějakému bádání a dosahuje pokroků, nechce tříštit pozornost, ztrácet čas a snižovat kvalitu své vlastní vědecké práce. Pak je tu spousta lidí, kteří jsou ve vědě neúspěšní, a proto se zabývají nějakými aplikacemi, startupy. A to už vůbec nepovažuji za dobré. Navzdory tomu, co jsem řekl, je podle mě ideální, když lidé, kteří něco dokázali ve vědě, ještě dokážou vybudovat úspěšný startup.

Proč je to v Česku dvojnásobně těžké?

Když tady jako vědec zakládáte startup, část vašich kolegů to nepřijme. Říkají si – on asi ve vědě neuspěl, proto vytváří startup. Automaticky vás zařadí mezi nekvalitní vědce, mezi ty, o nichž jsem mluvil před chvílí. Tohoto stigmatu, které si samozřejmě nesu i já, se spousta lidí bojí. Exit z takové té stoprocentní vědy se v Čechách moc nenosí. Dalším velkým problémem je náš vztah k úspěchu a neúspěchu. My Češi odsuzujeme úspěch i neúspěch. Přitom bychom měli odsuzovat průměr. Lidé se bojí rozlétnout, pustit se do velkých věcí a mít velké sny, protože se bojí neúspěchu a vlastně je ani příliš neláká úspěch.

Izraelci, kteří jsou celosvětově proslulí jako startup nation, v posledních letech diskutují o tom, že by se měli stát také scale-up nation. Jde jim o to, aby všechny izraelské startupy nekončily už poměrně brzy v rukou amerických majitelů, ale aby z nich přímo v Izraeli vyrostly velké společnosti. Bylo by možné se podobnou optikou dívat na váš velmi úspěšný startup Cognitive Security, který později koupila společnost Cisco? Nebylo možné vybudovat z Cognitive Security takový druhý Avast – nadnárodní firmu, která by měla sídlo v Praze?

Na to mám silný názor. Jedním z investorů v Cognitive Security byl Eduard Kučera, zakladatel Avastu. A byl velmi zklamaný, že jsme nevytvořili druhý Avast. Každý ale nemůže být tak úspěšný jako Eda Kučera. Je řada zemí, v nichž vyrostl nějaký unicorn, mimořádně úspěšný startup – v Česku to byl Avast, v Rumunsku UiPath, v Estonsku Skype. Žádná z těchto zemí ale není startup nation. Opravdové startupové národy jsou jenom dva – Izrael a Kalifornie. Je tam obrovské množství startupů a také relativně hodně unicornů. Myslet si, že budu nějakým způsobem regulovat startupy, abych z nich měl scale-upy – to je taková iracionální politická chiméra.

Izraelská diskuse tedy není pro Česko relevantní?

Izraelci mohou mluvit o tom, že chtějí strategii scale-upů, protože mají spoustu startupů. Pro ně to je sofistikovaná politická diskuse – jak motivovat startupy, aby vytvářely větší hodnotu v Izraeli předtím, než se dostanou do amerického spoluvlastnictví. V Česku to je ale absurdní diskuse. Vlastně by bylo skvělé, kdyby velkou část z třiceti nejúspěšnějších českých startupů kupovaly firmy jako Cisco, Twitter, Google, některé by koupil třeba Avast a pak by si zakladatel nějakého dalšího startupu řekl, že bude úspěšnější než Pěchouček a bude mi chtít ukázat, že dokáže vybudovat unicorn. To ale nikdy nepůjde bez toho velkého množství startupů. A prodej startupu do zahraničí je validace jeho úspěchu. Teprve až bude takových hodně, rozhodnou se tady některé z nich zůstávat.

V Česku se v posledních letech rodí různé iniciativy, které se hlásí k rozvoji umělé inteligence. Vy také vedete jedno z center umělé inteligence…

Pojem centrum umělé inteligence je teď politicky nadužívaný. Já jsem založil centrum umělé inteligence na Fakultě elektrotechnické ČVUT před dvaceti lety a v té době nikdo z českých politiků ani nepomýšlel na to, že by se něco podobného někdy mohlo stát politikem. Dnes se na činnosti tohoto centra podílí 70 vědců. Je to úspěšné pracoviště, které spolupracuje s průmyslem. S těmi novými centry excelence v oblasti umělé inteligence nemám nic moc do činění a vím o nich jen velmi málo.

Těch různých iniciativ je tedy až příliš?

Řekl bych, že ano. Některé z těchto iniciativ jsou skvělé, některé jsou průměrné. Česká republika je zralá na větší spolupráci a koncentraci úsilí ve vědě v oblasti umělé inteligence. Já se o to snažím tím, že jsem inicioval poradní orgán rektora ČVUT. Ten by měl právě takové soustředěné úsilí podporovat.

Rozhovor vyšel na serveru Export.cz o moderní ekonomické diplomacii při Ministerstvu zahraničních věcí ČR

SDÍLET
sinfin.digital