Články odjinud

Vědci učí umělou inteligenci vidět to nejhorší. Psychopata „Normana“ vychovávají obrázky z Redditu

Vědci učí umělou inteligenci vidět to nejhorší. Psychopata „Normana“ vychovávají obrázky z Redditu

Vědci z MIT Media Lab vyvinuli Normana, psychopatickou umělou inteligenci, která na rozdíl od svých kolegů vidí svět opravdu negativně.

K výcviku Normana používali vědci dokumenty, obrázky a videa spojené se smrtí, které našli v nejzapadlejších koutech sítě Reddit. Tým pak pomocí takzvaného Rorschachova testu reakce nejen Normana, ale také běžné umělé inteligence, která na rozdíl od něj podstoupila standardní výcvik.

Rorschachův testRorschachův test

Algoritmus, který už měl se zobrazením smrti zkušenost, reagoval na skvrny opravdu jinak než jeho „kolegové“. Tam, kde Norman vidí smrtelně zraněného člověka a tak běžný algoritmus nachází květiny nebo svatební dort. „Norman zná jen hrozivé výjevy smrti, takže ji vidí na jakémkoli obrázku, na které se podívá,“ vysvětlili vědci z MIT serveru CNN.

Norman, pojmenovaný podle hlavní postavy slavného hororu Psycho Alfréda Hitchcocka, tak pro odborníky představuje jakousi případovou studii, na které je možné dokázat nebezpečí umělé inteligence. Tedy za předpokladu, že se algoritmům nabídnou zkreslená data.

Podobným příkladem může být i Twitterový chatbot, Tay měl být podle tehdejšího vyjádření společnosti Microsoft společenský, kulturní a technický experiment. Uživatelé Twitteru ale začali Taye provokovat a nabádat ho k rasistickým a jinak nevhodným výpovědím. Chatbot ale nebyl proti podobným útokům imunní a tak jednoduše přebíral jazyk od svých spoludiskutujících.

Institut MIT ale nepracuje jen na psychopatickém Normanovi. Už v minulosti zkoumal, zda je pomocí dat a strojového učení stroje možné, aby algoritmus přetvořil obrázky taky, aby vypadaly jako z hororového filmu. Cílem bylo zjistit, zda je možné, aby stoje začaly děsit lidi.

 

Články odjinud