Život za život? Čeští vědci řeší problém „Sofiiny volby“ u autonomních vozidel | info.cz

Články odjinud

Život za život? Čeští vědci řeší problém „Sofiiny volby“ u autonomních vozidel

Tragická nehoda vozidla Tesla X s autopilotem v Kalifornii opět na celém světě vyvolala diskusi o tom, zda takzvaná samořiditelná vozidla mohou plně nahradit klasické automobily. V hledání odpovědi na tuto otázku se přitom významným způsobem angažují i čeští vědci.

 Firma Tesla čelí od začátku května žalobě, kterou na ni podala rodina jednoho z inženýrů společnosti Apple Waltera Huanga. Ten se loni 23. března zabil při havárii „samořiditelné“ Tesly na jedné z kalifornských dálnic. Právníci jeho rodiny nyní tvrdí, že to bylo kvůli selhání autopilota.

Poloautomatický systém totiž údajně nesprávně vyhodnotil značení na silnici. Auto před srážkou, v němž seděl Huang, prudce zrychlilo a narazilo do betonové bariéry. Řidič neměl šanci srážku přežít. Jeho manželka Sevonna později právníkům řekla, že si manžel už předtím několikrát na auto stěžoval, údajně měl autopilot i dříve stáčet vozidlo k bariéře. 

Právníci obvinili firmu Tesla, že „testuje svůj software na živých řidičích,“ které ohrožuje na životě. „Rodina pana Huanga chce zabránit tomu, aby se ostatním řidičům Tesly nebo jiných vozidel s poloautonomním řídicím systémem nestala podobná tragédie,“ uvedl podle serveru Business Insider jeden z právníků rodiny Marc Fong.

Tesla se zatím k žalobě detailněji nevyjádřila, její zástupci pouze vyjádřili lítost nad smrtí Waltera Huanga. Firma ale odmítá, že by za nehodou mohlo stát selhání autopilota. Řidič má možnost prakticky okamžitě přejít z automatického řízení na běžné, volant preventivně drží, i když za něj řídí autopilot. Systém využívá zvukovou a vizuální výstrahu, pokud se ruce řidiče na delší dobu vzdálí od volantu.

I když projednávání žaloby zřejmě potrvá dlouho, případ znovu poukázal na slabiny vývoje samořiditelných aut. Prakticky všechny velké automobilky na zeměkouli ohlašují zahájení programu výrobu vozidel, schopných jezdit bez řidiče. Ovšem tato chystaná revoluce v dopravě naráží nejen na technické, ale zejména etické problémy.

Nejde totiž zdaleka jen o to, aby lidé uměli vyrobit autonomní vozidlo, to dokáží už dnes. Otázkou však zůstává, kdo a jak ponese odpovědnost za případné nehody, kterým ani sebedokonalejší řídicí systém nedokáže nikdy úplně zabránit. Právníci rodiny Waltera Huanga tvrdí, že autopilot špatně vyhodnotil značení na silnici a narazil do svodidel. Podobná auta se přitom v budoucnu mohou dostat do ještě mnohem složitějších situací.

„Vezměte si, že se samořiditelné auto dostane náhle do situace, kdy se musí rozhodnout, zda vjede do skupiny dětí, které právě nečekaně vkročily do silnice, nebo se dětem vyhne, ale nevyhnutelně narazí do stromu a zřejmě tak zabije svou posádku,“ řekl INFO.CZ Daniel Novotný, proděkan pro zahraniční vztahy českobudějovické Teologické fakulty. 

Život za život

Teologická fakulta se podílí na projektu „Etika provozu autonomních vozidel“, který by měl dát na otázky spojené s provozem autonomních vozidel alespoň částečnou odpověď. A to se zcela pragmatickými úmysly. Pokud mají být, jak předpokládají automobilky i mnozí politici, autonomní vozidla budoucností dopravy, pak je nutné vyřešit i mnohá dilemata etického a morálního charakteru. A to v některých případech i taková, jakými jsou třeba otázky sebeobětování a hodnoty lidského života.

Smířili bychom se s tím, že autobus plný lidí by měl vždy přednost před naším autem s naší méně početnou rodinou? Kupovali bychom auta, která by se vždy a za každých okolností snažila zachránit posádku bez ohledu na ztrátu jiných životů? Součástí projektu je i studium morálních intuic, vycházející z unikátního průzkumu veřejného mínění, kterého se zúčastnilo takřka 4500 Čechů a Češek.

A výsledek? Autoři výzkumu rozdělili autonomní vozidla podle možného typu řídícího softwaru do třech kategorií. První kategorií byly takzvané tanky, tedy auta, která vždy chrání svou posádku a neohlížejí se na okolí. Nedůležitější je zachránit život posádce, i kdyby to mělo stát život třeba deseti dětí z mateřské školky.

Druhým typem pak bylo vozidlo, zvané počítadlo. Řídicí systém tohoto auta je naprogramován tak, aby zohlednil počet možných obětí bez ohledu na to, zda se nacházejí ve vozidle nebo mimo něj. Pokud by například před auto s čtyřčlennou posádkou náhle spadl strom a jedinou možností záchrany posádky by byl vjezd na chodník, kde stojí tři děti, automobil by zvolil cestu po chodníku. Tři potenciální oběti jsou méně než čtyři. V takovém případě by pak platilo, že čím více lidí ve vozidle jede, tím větší by byla jejich výhoda v případě nehody.

Konečně třetím typem vozidel, zmíněným v průzkumu, byli takzvaní rytíři. Pokud by tato vozidla mohla zachránit posádku náhlou změnu směru jízdy do míst, kde stojí nebo se pohybují jiní lidé, směr by nezměnila.

Pokud měli respondenti volit, jaké vozidlo by preferovali, kdyby si ho měli sami koupit, případně jaká autonomní vozidla by měli jako jediná možná schválit k provozu politici, začala se naplno ukazovat složitost celého problému. Naprostá většina dotázaných (přes 60 %) by při tajném hlasování v parlamentu povolila typ počítadlo. Pro tank, chránící za každou cenu posádku, by zvedlo ruku jen 20 % respondentů, pro rytíře ještě méně.

Pokrytecká morálka

Jenže když se měli lidé rozhodnout, jaké vozidlo by si sami koupili, kdyby nebylo možné na první pohled zjistit, o jaký typ se jedná, pořadí vozidel bylo zcela jiné. Nejvíce lidí by si totiž koupilo tank. Pokud by měli respondenti kupovat vozidlo pro své potomky, tanky by kupovalo dokonce 60 % respondentů, tedy zhruba dvakrát tolik než počítadla. A rytíře jen 10 %.

Autoři výzkumu se však zeptali i na to, jaké vozidlo by si lidé kupovali, kdyby na něm bylo na první pohled patrné, o jaký typ se jedná. Každý by tedy věděl, kdo jezdí tankem a kdo počítadlem. A výsledek? Leckdo by to mohl považovat za pokrytectví, ale pořadí na prvních dvou místech se rázem obrátilo. Počítadla se 60 % drtivě zvítězila, tanky se propadly na 30 %.

„Ukazuje to, že naše preference mohou být výrazně odlišné od toho, jak chceme vypadat před ostatními. Většina lidí by preferovala tanky, nechce ale zároveň, aby se o nich říkalo, že jsou sobci,“ říká Daniel Novotný.

Výzkum, který stále pokračuje, obsahuje ještě jiné okruhy zajímavých otázek, z nichž ale vyplývají další otázky.  Není možnost přenosu naší často nekonzistentní „morálky“ na stroje tak nesmírně složitá, že je vlastně neuskutečnitelná? Bude vůbec možné někdy v budoucnu naprogramovat autonomní vozidla „morálkou“, s níž si nejen běžní lidé, ale ani odborní filozofové sami neví rady? Není lepší zůstat u aut, řízených alespoň v některých situacích lidmi, a smířit se s nehodami, za které je odpovědný člověk nebo náhoda?

Jedna věc se přitom zdá jistá. Přes všechny problémy, která provoz autonomních vozidel provázejí, se na tento základní zlom v dopravě intenzivně připravuje i automobilový průmysl. Nejen politici či ekologové, ale i ti, kteří auta vyrábějí, tedy považují současný způsob automobilové dopravy za neudržitelný.

Samořídící vozidla by přinesla větší efektivitu jízdy, a tedy i méně zplodin, usnadnila by sdílení aut či pomohla vyřešit narůstající problém s parkováním. Podle některých studií by ale doprava, řízená místo řidičů autonomními systémy, především snížila počet úmrtí při dopravních nehodách až o 90 %.

Zbývá zdánlivě jediné. Vyřešit z morálního, etického i praktického hlediska odpovědnost za následky těch nehod, kterým ani „roboti“ s umělou inteligencí nedokáží úplně zabránit. Průmysl se přitom tváří, jako by vyřešení této základní otázky bylo jen otázkou času. Do vývoje samořídících aut investují prakticky všechny velké automobilky i velké internetové firmy, včetně společnosti Google.

„Rozšíření autonomních vozidel je, zdá se, nevyhnutelné. Proto je velmi důležité, abychom si s předstihem dokázali odpovědět alespoň na některé otázky, které s těmito vozidly bytostně souvisejí. Nakonec totiž jako společnost budeme nejen profitovat z pozitivních důsledků, které tato technologie přinese, ale budeme se muset i vyrovnat s důsledky negativními, které je třeba pokud možno preventivně minimalizovat,“ uvedl Daniel Novotný.

Výzkumný projekt „morálních intuic potenciálních uživatelů autonomních vozidel“ zastřešuje Akademie věd ČR a kromě Teologické fakulty Jihočeské univerzity se na něm podílejí Ústav státu a práva AV ČR, Filozofický ústav AV ČR a Přírodovědecká fakulta Univerzity Karlovy. Podporuje ho rovněž Technologická agentura ČR.

 
Přejít na homepageVíce z kategorie

Články odjinud