Amazon může dodávat americké policii systém na rozpoznání obličeje. Kritici před tím varují | info.cz

Články odjinud

Amazon může dodávat americké policii systém na rozpoznání obličeje. Kritici před tím varují

Americká firma Amazon bude poskytovat svůj software Amazon Rekognition na rozpoznávání obličejů americké policii. Umožnilo jí to středeční rozhodnutí akcionářů. Kritici upozorňují, že tento nástroj není dokonalý a může dostat do problémů nevinné lidi. Vadí jim také narušování soukromí.

Kontrakt s policií prosazoval šéf firmy Jeff Bezos. Akcionáři ve středu hlasovali o zákazu spolupráce. Návrh ale neprošel stejně jako nezávislá studie, která by zkoumala, jestli zmíněná aplikace neohrožuje práva a soukromí Američanů. Právě to je jedna z hlavních výtek kritiků. Ti varují, že software bude zneužívaný a umožní masové sledování lidí. „Nechceme, aby to používaly policejní orgány. Může to omezich ochotu lidí chodit na veřejná místa, když si budou myslet, že je mohou vystopovat,“ argumentovala pro BBC ve prospěch zákazu Mary Beth Gallagherová z Koalice pro zodpovědné investování.

Kritici se obávají zneužití aplikace například proti politickým oponentům. V otevřeném dopise používání softwaru kritizovala například organizace Human Rights Watch. Amazon se ale ohradil, že dosud neeviduje případ zneužití jeho nástroje k potlačení práv Američanů. Systém si chválí i policie, která tvrdí, že díky němu dokázala odhalit zloděje nebo sexuální násilníky.

Ani pokud by policie využívala systém naprosto nezávadně k dopadení skutečných zločinců, kritiky by to neuklidnilo. Upozorňují totiž, že Amazon nemá software natolik propracovaný, aby zaručil jeho bezchybnost. Prokázalo se to například po teroristických útocích na Srí Lance, kde systém chybně vyhodnotil jako podezřelou vyskoškolskou studentku žijící v Baltimoru.

Software neobstál ani v testu neziskové organizace ACLU. Ta jej nechala přezkoumat 535 tváří amerických zákonodárců. Systém 28 z nich označil za zločince vedené v policejních databázích. Daleko vyšší chybovost přitom vykazoval u menšin. V případě Afroameričanů či Hispánců se spletl ve 39 procentech případů, u bělochů jen v 5 procentech. Amazon vyzval policii, aby nástroj využívala až v okamžiku, kdy dosáhne 99procentní spolehlivosti.

Systém funguje tak, že porovnává obličeje lidí z fotek nebo videí s těmi, které má ve své databázi. Tam je momentálně 20 milionů osob. Rozezná muže od ženy a podle Amazonu i jednotlivé druhy emocí. Odhalí též nebezpečný obsah či nahotu.

Jestliže si policie nástroj chválí, někteří američtí politici jsou k technologii obezřetnější. Prvním městem, které zakázalo používání softwaru k rozpoznávání obličeje, bylo před pár dny San Francisko. Zákaz zvažují také další města v Kalifornii i jiných státech USA.

 
Přejít na homepageVíce z kategorie

Články odjinud