Pozor na roboty zabijáky, varuje německý ministr. Jednička v umělé inteligenci může ovládnout svět
Německo tlačí na vytvoření mezinárodních pravidel, která by omezila používání moderních autonomních zbraní. Požadavky na regulaci znějí nejen od představitelů Evropské unie, ale přidal se k nim také německý ministr zahraničí Heiko Maas. Autonomní zbraně mají potenciál změnit sílu jednotlivých armád a ruský prezident Vladimir Putin dokonce prohlásil, že lídr v oblasti umělé inteligence se stane vůdcem světa.
Úterní jednání ministrů zahraničí států NATO svět vnímal hlavně skrze reakci aliance na eskalaci konfliktu mezi Ukrajinou a Ruskem. Německý ministr Heiko Maas ale chtěl řešit i jinou věc. NATO by se podle něj mělo zabývat rozvojem moderních zbraňových technologií, jelikož tzv. „roboti zabijáci“ se už brzy mohou stát realitou.
„Naše pravidla musí udržet krok s technologickým vývojem nových typů zbraňových systémů,“ prohlásil před schůzkou Maas. Německo tlačí na evropské spojence, které zajímají spíše chemické a jaderné zbraně, aby se věnovali také umělé inteligenci a vesmírným projektům. „Není to jen o konvenčních raketách a bombách, ale také o bitech a bajtech. Některé věci mohou stále znít jako sci-fi, například vesmírné zbraně, ale když nebudeme myslet dopředu, sci-fi se brzy stane krutou realitou. Mám na mysli i plně automatizované systémy, které mohou zabíjet nezávisle na lidské kontrole,“ doplnil Maas.
Současná pravidla mají podle Maase trhliny a svět musí udělat všechno, aby zastavil tendence zlepšovat výzbroj. Podobně jako německý ministr mluví i šéfka evropské diplomacie Federica Mogheriniová, podle níž je nezbytné, aby došlo ke spolupráci vlád, průmyslu a občanské společnosti.
„Víme, že umělá inteligence představuje nové bezpečnostní výzvy. Vstupujeme do světa, v němž mohou drony nezávisle vyhledávat cíle a zabíjet bez lidského zásahu. Umělá inteligence může rozhodovat o životě a smrti bez přímé kontroly lidí. Lidé si musí ponechat kontrolu nad použitím takové smrtící síly,“ pravila Mogheriniová minulý týden na výroční konferenci Evropské obranné agentury.
Čína je nejaktivnější, využívá tajných služeb
NATO o potřebě reagovat na vývoj zbraňových systémů ví. Šéf aliance Jens Stoltenberg před měsícem konstatoval, že Čína do nich investuje velké prostředky, přičemž jí vyvíjené technologie zahrnují i rakety, které by neodpovídaly podmínkám Smlouvy o likvidaci raket středního a kratšího doletu uzavřené USA a Sovětským svazem v roce 1987. NATO prosazuje, aby se smlouva do budoucna vztahovala i na Peking.
Kroky aliance jsou však zatím laxní a neodpovídají tempu, jakým pracuje například zmíněná Čína. To konstatovali i analytici Atlantické rady, think tanku zaměřeného na oblast mezinárodních vztahů. Čína plánuje stát se do roku 2030 světovým lídrem v segmentu umělé inteligence. Vyvinula několik civilních sítí senzorů a nyní se zabývá jejich využitím pro vojenské účely.
„Pokud aliance, nebo samy národy, nestanoví jasnou strategii a nepovedou skutečnou diskusi o implementaci a zneužívání umělé inteligence, existuje reálné riziko, že Čína bude určovat právní a technické standardy jejího používání,“ varuje Atlantická rada.
Čína má navíc obrovskou výhodu v tom, že světoví technologičtí giganti často vycházejí vstříc jejím požadavkům. Například Apple má jiné nastavení soukromí pro čínské uživatele iPhonů. Data uživatelů musejí být uložena na čínských serverech, což fakticky znamená, že k nim mají přístup tamní zpravodajské služby.
Autonomní ponorky v Baltském moři
Kromě Číny se o vývoj moderních zbraňových technologií zajímá i Rusko. Podle ruského prezidenta Vladimira Putina může umělá inteligence zcela překopat rozložení sil na mezinárodním poli. „Umělá inteligence je budoucnost, nejen pro Rusko, ale pro celé lidstvo. Kdokoli se stane lídrem v této oblasti, stane se vládcem světa,“ prohlásil Putin.
Jak by mohla Moskva technologie využít, naznačila analýza think-tanku Brooking Institution, která se zaměřila na možný rozvoj umělé inteligence do roku 2040. Podle ní se nemusí jednat jen o „roboty zabijáky“ nebo rakety, ale také o velké množství chytrých ponorek nebo podmořských min, které by Rusko v případě konfliktu mohlo umístit například do Baltského moře a ohrožovat alianční nebo jiné lodě. „Rusko je už nyní silné v této oblasti a v následujících letech může tuto technologii ovládnout,“ konstatuje Brookings Institution.
Možnosti autonomních zbraní už začaly zkoumat i Spojené státy. Ministerstvo obrany rozjelo tzv. Maven project, neboli snahu využít technologie vyvíjené v proslulém centru Silicon Valley pro vojenské účely. Projekt se však setkal s vlnou odporu v soukromém sektoru. Pentagon zároveň oznámil, že chystá speciální centrum, v němž by s umělou inteligencí pracovala přímo armáda.
