Musíme změnit zákony, abychom umožnili pokrok, říká pro INFO.CZ expertka na umělou inteligenci | info.cz

Newsletter

Týdenní přehled nejdůležitějších zpráv
do vaší e-mailové schránky

Newsletter
Přihlásit se k odběru

Musíme změnit zákony, abychom umožnili pokrok, říká pro INFO.CZ expertka na umělou inteligenci

Musíme změnit zákony, abychom umožnili pokrok, říká pro INFO.CZ expertka na umělou inteligenci

„Stojíme před nutností řešit celou řadu právních otázek a v Evropě na to nejsme připraveni,“ říká v rozhovoru pro INFO.CZ mladá vědkyně Alžběta Krausová, která se v Akademii věd ČR zabývá právem umělých bytostí. Měli by mít roboti nést odpovědnost za své chování? Jak nastavit pravidla na situaci, kdy autonomní vozidlo selže a připraví někoho o život, jak se to nedávno stalo? A v jakých oblastech má v EU smysl zavádět regulace a kde naopak ne? I o tom se vedl rozhovor, který původně vyšel v prvním čísle magazínu INFOLAB vydávaném zpravodajským portálem INFO.CZ.

V poslední době se objevují diskuse i mezi vlivnými osobnosti ohledně toho, zda by se měla robotika a umělá inteligence regulovat. O čem to vypovídá?

Vypovídá to o tom, že umělá inteligence čím dál víc ovlivňuje společnost. Nedávná diskuse mezi Elonem Muskem a Markem Zuckerbergem, kterou máte na mysli, byla ale podle mne nepochopena, protože každý mluví trochu o něčem jiném. Zuckerberg hovoří o tom, že umělá inteligence jako vědní obor by neměl být regulován, protože nás přivádí k dalšímu poznání. Musk s tím souhlasí, protože i podle něj je potřeba nadále umělou inteligenci rozvíjet a zjišťovat, kam nás posune. Zároveň však upozorňuje na to, že může vzniknout aplikace, která se zcela vymkne kontrole a to bude znamenat problém. Varuje vlastně před tím, aby se z nástroje nestala neovladatelná síla. A také chce mít jasné mantinely, v nichž se bude moci při vývoji pohybovat.

Kam se v této výměně názorů stavíte?

Regulace v oblasti aplikací je nezbytná. Stojíme před nutností řešit celou řadu právních otázek a v Evropě na to nejsme připraveni. Hlavní dokument, který existuje a ještě ke všemu není právně závazný, je usnesení Evropského parlamentu o doporučeních o občanskoprávních pravidlech pro robotiku ze začátku letošního roku.

Co přesně by se mělo v Evropě regulovat a proč?

Nejaktuálnější je oblast autonomních vozidel, která je nyní snad nejviditelnější aplikací umělé inteligence. Vezměte si třeba Česko. Dnes platí, že se řidič musí plně věnovat řízení vozidla. To ale popírá smysl existence samořídících vozidel. Potřebujeme proto nutně změnit legislativu, abychom vůbec umožnili pokrok.

Dále také třeba musíme zvážit, jak bude efektivní stávající právo na ochranu osobních údajů. Při řízení může auto monitorovat, zda řidič dodržuje rychlostní omezení nebo třeba jak brzdí a reaguje. Takové informace jsou důležité pro pojišťovny. Kde je míra mezi ochranou zájmů řidiče a pojišťoven? Na jaké informace by kdo měl mít právo? Určitě bude třeba spoustu pravidel vyložit právě ve specifickém kontextu autonomních vozidel.

Kdo je Alžběta Krausová?
Alžběta Krausová se narodila v Nymburce. Vystudovala Právnickou fakultu Masarykovy univerzity v Brně a v izraelské Haifě absolvovala magisterské studium patentového práva. V současnosti působí v Ústavu státu a práva AV ČR, kde se specializuje na informační a komunikační technologie. Je rovněž doktorandkou v Ústavu práva a technologií na Masarykově univerzitě. Přednáší na Karlově univerzitě a ČVUT.

Kde dále potřebujeme regulaci?

V první řadě se musíme soustředit na otázku právní odpovědnosti například při způsobení škody. Umělá inteligence je autonomní, sama se rozhoduje, a proto je její chování do určité míry nepředvídatelné. Také má schopnost se učit. Co když robot někomu ublíží? Nebo autonomní vozidlo selže a připraví někoho o život?

Jaké je tedy řešení?

Jedním z řešení je vytvořit zvláštní pravidla odpovědnosti. Současný přístup je totiž problematický. Dnes se na roboty díváme jako na výrobky, které musí splňovat určité parametry, bezpečnostní standardy atd. Pokud způsobí škodu, hledá se odpovědnost zpravidla u výrobce. Je ale nutné prokázat, že robot způsobil škodu, protože byl vadně vyroben či naprogramován. Jenže umělá inteligence se neustále vyvíjí a reaguje na nové podněty. Výrobce může říct, že majitel umělou inteligenci ovlivnil. Můžeme si pomoct paralelou mezi majitelem a jeho zvířetem, která se v souvislosti s umělou inteligencí často používá. Slepecký pes napadne dítě v rodině. Chovatelka tvrdí, že předala vychovaného psa, ale majitelé ho zkazili. Ti se hájí tím, že už „zkaženého“ psa dostali. S dokazováním je pak velký problém.

Jak k tomu tedy u umělé inteligence přistupovat?

Jedním z řešení, ke kterému sáhli například i v Japonsku, je tzv. objektivní forma odpovědnosti. Podle ní je odpovědný vždy výrobce.

Jak se k tomu staví Evropa? Chce jít touto cestou?

EU zvažuje, že se vydá jinudy. Chce pokrýt celý proces od vzniku robota až ke chvíli, kdy byla způsobena nějaká škoda. Připouští, že chybu mohl udělat nejen výrobce, ale i dodavatel softwaru, majitel či uživatel. Uvědomuje si, že pokud ukážeme prstem pouze na výrobce, tak se může stát, že ten přestane roboty vyrábět. To Evropa nechce. Potřebuje, aby se nový trh rozvíjel.

Mluvíte o zavedení elektronické osoby?

Ano. Podle doporučení Evropského parlamentu bychom sice měli mít primárně pravidla pro určení odpovědnosti člověka, ale nejsložitější autonomní roboti by mohli mít svůj status. Na tento status by bylo navázáno speciální pojištění, do kterého by přispívaly všechny subjekty, které jsou do cyklu zapojeny. Z něho by se kryla škoda. Proti zvláštnímu statusu se ale postavil Evropský hospodářský a sociální výbor (poradní instituce EU složená ze zástupců organizací pracovníků a zaměstnavatelských organizací a dalších zájmových skupin; pozn. red.).

Byla by s tím spojena trestní odpovědnost robotů?

To je důležitá otázka. Trestní odpovědnost u robotů podle mne nemá smysl, pokud jde o odrazování od konání zla. Robot necítí vinu. Trestem by mohlo být jen přeprogramování nebo likvidace. Trestní odpovědnosti robota by také mohli chtít zneužít různé osoby k tomu, aby na něj přenesly svoji vlastní odpovědnost.

Kde dále potřebujeme regulaci?

Rozhodně v oblasti duševního vlastnictví. Pokud umělá inteligence vytvoří nějaké dílo, nevíme, kdo získá peníze z licencí. České právo říká, že autorem díla může být pouze fyzická osoba. Ale co když ho vytvoří umělá inteligence? Je jen nástrojem nebo autorem? Je to podobné jako v soudním případu fotografa Davida Slatera, který se řeší v USA. Opice sebrala fotografovi fotoaparát a udělala si snímek. Komu patří práva? Fotografovi, který umožnil scénu, nebo opici, která zmáčkla spoušť? Nebo nikomu, protože zvíře nemůže mít autorské právo? Pravidla musí být stanovena dopředu, abychom se vyhnuli právním sporům.

S rozvojem robotiky a umělé inteligence se nepojí pouze právní otázky, ale i etika. Co považujete za největší etická témata, na která se musíme soustředit?

Velký problém vidím v tom, že nové technologie mají vysoký informační potenciál a dokáží najít souvislosti tam, kde by je člověk nikdy nehledal. Můžeme to využít v pozitivním slova smyslu, ale může to být i nebezpečné. Do budoucna musíme určitě ošetřit možnost podjatého rozhodování u umělé inteligence a také škatulkování lidí. Umělou inteligenci lze už dnes použít ke klasifikaci lidí, například pro zjištění jejich schopností. Musíme zabránit tomu, aby nikdo nebyl diskriminován.

V EU jsme s právní regulací na samém začátku. Je vůbec potřeba regulace na celoevropské úrovni?

EU jako celku by stanovení jasných mantinelů prospělo, je to ale složité. Pokud by EU zavedla harmonizovaná pravidla, usnadní se vývoj nových technologií a Evropa se stane vůči světu konkurenceschopnější. Pokud to neudělá, příležitosti se mohou chopit jednotlivé státy, nastavit si svou legislativu a zkusit předběhnout ostatní. V Česku sídlí automobilky, takže pokud bychom měli funkční zákony o testování autonomních vozidel, získali bychom jasnou výhodu.

Co by se stalo, pokud by oblast zůstala neregulovaná?

Poškodilo by to běžného občana. Ať už v oblasti sporů o náhradu škody, nebo třeba při změnách na trhu práce. Automatizace umožňuje to, aby se síla soustředila jen v některých rukou. Je na místě hledat nové způsoby fungování společnosti tak, aby v ní byla zajištěna rovnováha. Úkolem regulace je tomu pomoci.

Může se Evropa při diskusích o potřebě regulace právního prostředí inspirovat jinde ve světě? V čem?

Každá země má svá kulturní východiska. Japonsko je jiné než Amerika a Amerika je jiná než Evropa. V Japonsku mají k robotům velmi vstřícný přístup a vidí v nich hlavně pozitiva. USA zase razí tržní přístup. Evropa je celkově konzervativnější a opatrnější. Určitě se ale může inspirovat jinde, například v americké legislativě regulující autonomní vozidla. Zároveň by si však měla najít vlastní cestu.

Pokud připouštíte, že by se Evropa mohla inspirovat a poučit jinde, znamená to, že je pozadu?

Určitě ne. Říkám tím jen, že je hodně nezodpovězených otázek a my se můžeme poučit z řešení ostatních a adaptovat je na naše kulturní podmínky. Učit se lze totiž vždy a ze všeho.

 

 

Volby 2018

Senátní volby 2018

Termín senátních voleb Kandidáti do Senátu Voličský průkaz

Komunální volby 2018

Termín komunálních voleb Jak volit do zastupitelstva

V rámci voleb do Senátu není třeba volební lístek nijak upravovat, stačí lístek s vybraným kandidátem vložit do příslušné obálky a vhodit do volební urny. Volby do zastupitelstev fungují jinak, je možné udílet preferenční hlasy. Všechny kandidující subjekty jsou na jednom velkém hlasovacím lístku.

Základní shrnutí informací pro VOLBY 2018 -  Senátní i komunální >>>

Čekají nás teploty nad 40 stupňů, oteplování nejde zastavit, varuje klimatolog z Matfyzu

Vlna veder, která zasáhla v posledních dnech Českou republiku, je důkazem, že klimatická změna dorazila i k nám. Peter Huszár z Matematicko-fyzikální fakulty Univerzity Karlovy tvrdí, že oteplování lze zastavit jen drastickým snížením emisí. I kdyby se to ale podařilo, nepůjde to hned. Huszár zároveň předpovídá, že pokud nastavený trend bude pokračovat, budeme se stále častěji setkávat s extrémními projevy počasí, a teploty nad 40 stupňů už ani v Česku nebudou výjimkou. Jak nebezpečné je sucho? Proč je ve střední Evropě aktuálně takové vedro? A proč mají lidé dojem, že přicházíme o jaro a podzim? Podívejte se na rozhovor.