Newsletter

Týdenní přehled nejdůležitějších zpráv
do vaší e-mailové schránky

Newsletter
Přihlásit se k odběru

Musíme změnit zákony, abychom umožnili pokrok, říká pro INFO.CZ expertka na umělou inteligenci

Musíme změnit zákony, abychom umožnili pokrok, říká pro INFO.CZ expertka na umělou inteligenci

„Stojíme před nutností řešit celou řadu právních otázek a v Evropě na to nejsme připraveni,“ říká v rozhovoru pro INFO.CZ mladá vědkyně Alžběta Krausová, která se v Akademii věd ČR zabývá právem umělých bytostí. Měli by mít roboti nést odpovědnost za své chování? Jak nastavit pravidla na situaci, kdy autonomní vozidlo selže a připraví někoho o život, jak se to nedávno stalo? A v jakých oblastech má v EU smysl zavádět regulace a kde naopak ne? I o tom se vedl rozhovor, který původně vyšel v prvním čísle magazínu INFOLAB vydávaném zpravodajským portálem INFO.CZ.

V poslední době se objevují diskuse i mezi vlivnými osobnosti ohledně toho, zda by se měla robotika a umělá inteligence regulovat. O čem to vypovídá?

Vypovídá to o tom, že umělá inteligence čím dál víc ovlivňuje společnost. Nedávná diskuse mezi Elonem Muskem a Markem Zuckerbergem, kterou máte na mysli, byla ale podle mne nepochopena, protože každý mluví trochu o něčem jiném. Zuckerberg hovoří o tom, že umělá inteligence jako vědní obor by neměl být regulován, protože nás přivádí k dalšímu poznání. Musk s tím souhlasí, protože i podle něj je potřeba nadále umělou inteligenci rozvíjet a zjišťovat, kam nás posune. Zároveň však upozorňuje na to, že může vzniknout aplikace, která se zcela vymkne kontrole a to bude znamenat problém. Varuje vlastně před tím, aby se z nástroje nestala neovladatelná síla. A také chce mít jasné mantinely, v nichž se bude moci při vývoji pohybovat.

Kam se v této výměně názorů stavíte?

Regulace v oblasti aplikací je nezbytná. Stojíme před nutností řešit celou řadu právních otázek a v Evropě na to nejsme připraveni. Hlavní dokument, který existuje a ještě ke všemu není právně závazný, je usnesení Evropského parlamentu o doporučeních o občanskoprávních pravidlech pro robotiku ze začátku letošního roku.

Co přesně by se mělo v Evropě regulovat a proč?

Nejaktuálnější je oblast autonomních vozidel, která je nyní snad nejviditelnější aplikací umělé inteligence. Vezměte si třeba Česko. Dnes platí, že se řidič musí plně věnovat řízení vozidla. To ale popírá smysl existence samořídících vozidel. Potřebujeme proto nutně změnit legislativu, abychom vůbec umožnili pokrok.

Dále také třeba musíme zvážit, jak bude efektivní stávající právo na ochranu osobních údajů. Při řízení může auto monitorovat, zda řidič dodržuje rychlostní omezení nebo třeba jak brzdí a reaguje. Takové informace jsou důležité pro pojišťovny. Kde je míra mezi ochranou zájmů řidiče a pojišťoven? Na jaké informace by kdo měl mít právo? Určitě bude třeba spoustu pravidel vyložit právě ve specifickém kontextu autonomních vozidel.

Kdo je Alžběta Krausová?
Alžběta Krausová se narodila v Nymburce. Vystudovala Právnickou fakultu Masarykovy univerzity v Brně a v izraelské Haifě absolvovala magisterské studium patentového práva. V současnosti působí v Ústavu státu a práva AV ČR, kde se specializuje na informační a komunikační technologie. Je rovněž doktorandkou v Ústavu práva a technologií na Masarykově univerzitě. Přednáší na Karlově univerzitě a ČVUT.

Kde dále potřebujeme regulaci?

V první řadě se musíme soustředit na otázku právní odpovědnosti například při způsobení škody. Umělá inteligence je autonomní, sama se rozhoduje, a proto je její chování do určité míry nepředvídatelné. Také má schopnost se učit. Co když robot někomu ublíží? Nebo autonomní vozidlo selže a připraví někoho o život?

Jaké je tedy řešení?

Jedním z řešení je vytvořit zvláštní pravidla odpovědnosti. Současný přístup je totiž problematický. Dnes se na roboty díváme jako na výrobky, které musí splňovat určité parametry, bezpečnostní standardy atd. Pokud způsobí škodu, hledá se odpovědnost zpravidla u výrobce. Je ale nutné prokázat, že robot způsobil škodu, protože byl vadně vyroben či naprogramován. Jenže umělá inteligence se neustále vyvíjí a reaguje na nové podněty. Výrobce může říct, že majitel umělou inteligenci ovlivnil. Můžeme si pomoct paralelou mezi majitelem a jeho zvířetem, která se v souvislosti s umělou inteligencí často používá. Slepecký pes napadne dítě v rodině. Chovatelka tvrdí, že předala vychovaného psa, ale majitelé ho zkazili. Ti se hájí tím, že už „zkaženého“ psa dostali. S dokazováním je pak velký problém.

Jak k tomu tedy u umělé inteligence přistupovat?

Jedním z řešení, ke kterému sáhli například i v Japonsku, je tzv. objektivní forma odpovědnosti. Podle ní je odpovědný vždy výrobce.

Jak se k tomu staví Evropa? Chce jít touto cestou?

EU zvažuje, že se vydá jinudy. Chce pokrýt celý proces od vzniku robota až ke chvíli, kdy byla způsobena nějaká škoda. Připouští, že chybu mohl udělat nejen výrobce, ale i dodavatel softwaru, majitel či uživatel. Uvědomuje si, že pokud ukážeme prstem pouze na výrobce, tak se může stát, že ten přestane roboty vyrábět. To Evropa nechce. Potřebuje, aby se nový trh rozvíjel.

Mluvíte o zavedení elektronické osoby?

Ano. Podle doporučení Evropského parlamentu bychom sice měli mít primárně pravidla pro určení odpovědnosti člověka, ale nejsložitější autonomní roboti by mohli mít svůj status. Na tento status by bylo navázáno speciální pojištění, do kterého by přispívaly všechny subjekty, které jsou do cyklu zapojeny. Z něho by se kryla škoda. Proti zvláštnímu statusu se ale postavil Evropský hospodářský a sociální výbor (poradní instituce EU složená ze zástupců organizací pracovníků a zaměstnavatelských organizací a dalších zájmových skupin; pozn. red.).

Byla by s tím spojena trestní odpovědnost robotů?

To je důležitá otázka. Trestní odpovědnost u robotů podle mne nemá smysl, pokud jde o odrazování od konání zla. Robot necítí vinu. Trestem by mohlo být jen přeprogramování nebo likvidace. Trestní odpovědnosti robota by také mohli chtít zneužít různé osoby k tomu, aby na něj přenesly svoji vlastní odpovědnost.

Kde dále potřebujeme regulaci?

Rozhodně v oblasti duševního vlastnictví. Pokud umělá inteligence vytvoří nějaké dílo, nevíme, kdo získá peníze z licencí. České právo říká, že autorem díla může být pouze fyzická osoba. Ale co když ho vytvoří umělá inteligence? Je jen nástrojem nebo autorem? Je to podobné jako v soudním případu fotografa Davida Slatera, který se řeší v USA. Opice sebrala fotografovi fotoaparát a udělala si snímek. Komu patří práva? Fotografovi, který umožnil scénu, nebo opici, která zmáčkla spoušť? Nebo nikomu, protože zvíře nemůže mít autorské právo? Pravidla musí být stanovena dopředu, abychom se vyhnuli právním sporům.

S rozvojem robotiky a umělé inteligence se nepojí pouze právní otázky, ale i etika. Co považujete za největší etická témata, na která se musíme soustředit?

Velký problém vidím v tom, že nové technologie mají vysoký informační potenciál a dokáží najít souvislosti tam, kde by je člověk nikdy nehledal. Můžeme to využít v pozitivním slova smyslu, ale může to být i nebezpečné. Do budoucna musíme určitě ošetřit možnost podjatého rozhodování u umělé inteligence a také škatulkování lidí. Umělou inteligenci lze už dnes použít ke klasifikaci lidí, například pro zjištění jejich schopností. Musíme zabránit tomu, aby nikdo nebyl diskriminován.

V EU jsme s právní regulací na samém začátku. Je vůbec potřeba regulace na celoevropské úrovni?

EU jako celku by stanovení jasných mantinelů prospělo, je to ale složité. Pokud by EU zavedla harmonizovaná pravidla, usnadní se vývoj nových technologií a Evropa se stane vůči světu konkurenceschopnější. Pokud to neudělá, příležitosti se mohou chopit jednotlivé státy, nastavit si svou legislativu a zkusit předběhnout ostatní. V Česku sídlí automobilky, takže pokud bychom měli funkční zákony o testování autonomních vozidel, získali bychom jasnou výhodu.

Co by se stalo, pokud by oblast zůstala neregulovaná?

Poškodilo by to běžného občana. Ať už v oblasti sporů o náhradu škody, nebo třeba při změnách na trhu práce. Automatizace umožňuje to, aby se síla soustředila jen v některých rukou. Je na místě hledat nové způsoby fungování společnosti tak, aby v ní byla zajištěna rovnováha. Úkolem regulace je tomu pomoci.

Může se Evropa při diskusích o potřebě regulace právního prostředí inspirovat jinde ve světě? V čem?

Každá země má svá kulturní východiska. Japonsko je jiné než Amerika a Amerika je jiná než Evropa. V Japonsku mají k robotům velmi vstřícný přístup a vidí v nich hlavně pozitiva. USA zase razí tržní přístup. Evropa je celkově konzervativnější a opatrnější. Určitě se ale může inspirovat jinde, například v americké legislativě regulující autonomní vozidla. Zároveň by si však měla najít vlastní cestu.

Pokud připouštíte, že by se Evropa mohla inspirovat a poučit jinde, znamená to, že je pozadu?

Určitě ne. Říkám tím jen, že je hodně nezodpovězených otázek a my se můžeme poučit z řešení ostatních a adaptovat je na naše kulturní podmínky. Učit se lze totiž vždy a ze všeho.

 

 

Migrant do každé rodiny? Do Česka míří projekt „Uprchlíci, vítejte“

Do Česka přichází poněkud se zpožděním projekt „Uprchlíci, vítejte“. Ten zprostředkovává bydlení lidem na útěku v zemích, kde našli útočiště; pokud možno co nejblíž starousedlíkům, tedy rovnou u nich doma. S českou verzí projektu pomáhá Michal Sikyta, který byl před třemi lety u zrodu stejné platformy v Rakousku. „Nejsme sluníčkáři. My jenom nevítáme, ale nabízíme řešení,“ říká v rozhovoru pro HlídacíPes.org.

Ačkoli se migrační krize z roku 2015 Česku prakticky úplně vyhnula a počet lidí, kterým ČR ročně udělí azyl, se počítá jen na desítky, rozdělila migrace českou společnost.

„V Česku je migrace jistě kontroverzní. Ale nemyslím, že to, jak k ní přistupují politici, naprosto odráží rozpoložení ve společnosti,“ říká Michal Sikyta. Podle něj jsou Češi schopní si uvědomovat, že nic není černobílé, ani otázka přijímání uprchlíků.

Link

Sám má zkušenosti z Rakouska, které v roce 2015 přijalo necelých 100 tisíc lidí. Tamní verze projektu je proto taky mnohem větší než kdy asi bude ta česká, kterou zaštiťuje Sdružení pro integraci a migraci.

„To, že teď přichází méně uprchlíků. neznamená, že se to nemůže rychle a dramaticky změnit. A pak tu budeme mít funkční platformu, která v takové situaci nabídne řešení,“ říká.

Spolubydlení uprchlíků s domácími podle jeho zkušenosti urychluje integraci, pomáhá uprchlíkům najít práci a naučit se rychleji jazyk. V Česku chce zatím „Uprchlíci, vítejte“ ubytovat řádově jednotky až desítky osob.

Link

Proč v Česku s projektem začínáte až tři roky po poslední migrační vlně? Není to pozdě?

Myslíme si, že to téma je aktuální pořád, i když už se tolik neobjevuje v médiích. Situace v Česku se zas tak moc nezměnila – pořád je tu hodně lidí s uděleným azylem nebo doplňkovou ochranou, kteří mají problém najít adekvátní bydlení. Týká se to počtu lidí v řádu několika stovek.

Druhá věc je integrace uprchlíků – myšlenkou projektu je umožnit jim sdílet domácnost s místními lidmi. Podle nás je to klíč k úspěchu – je pro ně pak mnohem jednodušší naučit se češtinu, najít si zaměstnání, zorientovat se v novém prostředí a navázat sociální vazby.

Převzali jste název projektu z původní německé verze tak, jak byl – tedy „Uprchlíci, vítejte“. Nemůže vás to v očích řady Čechů diskvalifikovat už od začátku? Tenhle národ se rozdělil na „vítače“ a „odmítače“, jakoby nic jiného ani neexistovalo…

Samozřejmě je to určitý politický statement, ale na druhé straně to vyjadřuje, že ten projekt je konstruktivní odpovědí na celou tuhle problematiku. Tím, že se snažíme uprchlíkům zprostředkovat bydlení. Takže podle mě je to hlavně odpovědný přístup.

Když jsme u těch vítačů a odmítačů…. Jste sluníčkář?

Já vlastně nevím, co to je. Možná to má popisovat určitou naivitu – ale náš projekt rozhodně naivní není. My ty uprchlíky jenom nevítáme, my nabízíme řešení. Konstruktivní a odpovědný přístup. Ne, že řekneme „všechny vás vítáme“, ale taky to vítání nějak aplikujeme. Tím, že umožníme uprchlíkům bydlet s místními.

Link

Vy jste se podílel na rozjezdu stejné platformy v Rakousku v roce 2015. Jak to zafungovalo tam?

Na začátku nás bylo jen pár, ale pak se to začalo velmi dynamicky rozrůstat a před pár dny jsme ubytovali pětistého člověka, takže myslím, že to funguje velmi dobře.

Situace v současném Česku je ale jiná, nepřichází sem desítky tisíc lidí jako tehdy do Rakouska a Česko má kapacity, jak uprchlíky, kteří sem při současných počtech přijdou, ubytovat.

Nějaké ubytovací kapacity tu jsou, ale musíme se ptát, jakou mají úroveň a jestli není lepší, aby uprchlíci byli spíš v centru společnosti a sdíleli domácnosti s místními lidmi.

Není ale tenhle přístup jen střídání dvou extrémů? Na jedné straně může být přetížená státní infrastruktura pro uprchlíky, nedostatečná empatie státních institucí vůči nim. Na straně druhé ale vy nabízíte nastěhovat si uprchlíky domů. Nejde to ještě jinak?

Je potřeba si říct, co tomu předchází – nejde jen o to, že zprostředkujeme kontakt mezi majitelem bytu a uprchlíkem. Obě strany se registrují na našich stránkách a my se pak od nich snažíme získat podrobnější informace, jak tráví volný čas, jaké mají představy o sdílení jedné domácnosti a podobně. Tenhle „screening“ trvá několik týdnů.

Link

Jak obě strany kontaktujete – po telefonu, nebo s nimi děláte osobní pohovory.

Jako první krok vyplní poměrně obsáhlý registrační formulář, pak přichází komunikace po telefonu nebo mailem. A nakonec osobní setkání v bytě, kde se znovu probírá, jak by vypadalo to případné soužití, obě strany si vyzkouší, jestli jsou tam řekněme nějaké vzájemné sympatie a jestli by do toho vlastně chtěli jít. Teprve pak se rozhodnou.

Naše Podpora tím nekončí. Třeba v Rakousku existuje i psychosociální tým, takže pokud se objeví nějaké problémy, můžou se na nás obrátit. Klienti tedy mají k dispozici rozsáhlé poradenství.

Jaký je ideální profil uprchlíka pro tenhle program?

Jsou to lidé s uděleným azylem nebo doplňkovou ochranou, můžou to být i lidé, kterým ještě běží azylové řízení. Ta nemožnost najít adekvátní bydlení, se v Česku týká i řady lidí, kteří tu žijí už řadu měsíců a třeba už i umí trochu česky. Pro ně je ten projekt určený, naopak lidé, kteří jsou v Česku úplně čerstvě, nejsou naše primární cílová skupina.

Cítíte už po takovém ubytovávání uprchlíků v Česku poptávku – z obou stran?

Kdybychom ji necítili, nikdy bychom s tím projektem nezačali. Máme už pár registrací, zatím v řádu jednotek zájemců.

Link

Kdo může ubytovat uprchlíka u sebe doma? Jsou tam nějaké minimální požadavky?

Může to být naprosto kdokoli – třeba studentské spolubydlení nebo rodina. Pro nás je důležité, aby to byl samostatný pokoj, aby ten pokoj byl nabídnutý minimálně na šest měsíců, ideálně na rok nebo déle, a to kvůli určité stabilitě pro uprchlíka.

Kromě té samotné klíčové myšlenky – integrace soužitím – máte v projektu ještě nějaké jiné nástroje, jak uprchlíka motivovat k tomu, aby se o integraci opravdu aktivně snažil?

V Rakousku, kde je projekt nesrovnatelně větší, a je vlastně součástí celé sítě projektů, jsou v rámci podpůrného týmu k dispozici třeba i sociální pracovníci, kteří dotyčnému můžou pomoct s hledáním práce, jsou tam zdravotníci, je tam školní projekt a tak dál. Celou tuhle infrastrukturu mají k dispozici jak uprchlíci, tak jejich hostitelé, u kterých bydlí.

Co se stalo s uprchlíky, kteří programem prošli v Rakousku? Jsou nějaká spolehlivá data k tomu, jak dopadla jejich integrace?

My s těmi lidmi zůstáváme v kontaktu, děláme společné aktivity. Jeden příklad z mojí zkušenosti – mladík, kterému jsme zprostředkovali ubytování, začal studovat ve Vídni ekonomii a založil organizaci, která pomáhá lidem v Somálsku, odkud on sám pochází, s podporou vzdělávání a škol. V Česku se hodně zdůrazňuje, že je potřeba pomáhat v zemích, odkud lidé utíkají, spíše než pomáhat jim tady v Evropě. Tohle je dobrý příklad toho, jak člověk, který sám utekl, té zemi zpětně pomáhá, aby neutíkali ostatní.

Link

Jak často jste museli řešit ve spolubydlení Rakušanů s uprchlíky nějaké konflikty?

Velice málo, to mě dost překvapilo. Sám bydlím ve studentském bytě a ta míra konfliktů tam je poměrně vysoká – a s tím i fluktuace. Znám spoustu lidí, co takové bydlení mění po roce i dříve. Bavíme se tady o zhruba pěti stech zprostředkovaných spolubydlení a ta míra konfliktů byla velmi nízká.

Vídeň je specifické město, zvyklé na migraci, sociálně nebývale soudržné, s vysokou kvalitou života. Sousedským projektům se tam daří, včetně těch na integraci cizinců. Jsou tyhle podmínky vůbec přenositelné do Česka?

Proč by ne? Projekt „Uprchlíci, vítejte“ v současnosti běží ve 13 evropských zemích, nově také ve Francii, a dále v Austrálii a Kanadě. Samozřejmě, že realita z hlediska zákonů a dalších věcí je v těch jednotlivých státech odlišná. Ale ta základní myšlenka zůstává stejná.

V Česku je to jistě kontroverzní téma. Ale nemyslím, že to, jak k němu přistupují politici, naprosto odráží rozpoložení ve společnosti.

Takže Češi jsou ve skutečnosti k uprchlíkům méně nepřátelští, než se obecně předpokládá?

Ano, do určité míry. Minimálně ve schopnosti uvědomit si, že to téma není černobílé. Ani my neříkáme, že v integraci nejsou problémy. Ale snažíme se to řešit konstruktivně. Zprostředkovávat kontakty a pak ty nové vazby podporovat.

Článek původně vyšel na webu HlídacíPes.org. INFO.CZ ho publikuje se souhlasem redakce.

-1