I když zásadně přispěl k rozvoji umělé inteligence (AI) a toto úterý za to získal Nobelovu cenu za fyziku, varuje vědec Geoffrey Hinton opakovaně před jejími riziky, včetně možného zániku lidstva. Nechal se proto slyšet, že své celoživotní práce částečně lituje.
„Pokud vím, nejsou teď inteligentnější než my. Ale myslím, že brzy budou,“ řekl loni v rozhovoru s BBC o chatbotech postavených na AI. Dodal, že některá rizika s nimi spojená jsou „docela děsivá“. Jednou z obav, kterou britsko-kanadský vědec má, je možnost, že obrázky a texty vytvořené umělou inteligencí zaplaví internet a lidé už nebudou „schopni poznat, co je pravda“.
Starosti šestasedmdesátiletému muži, kterému se přezdívá „kmotr AI“, dělá také možné zneužití technologie špatnými lidmi. Jako příklad dává to, že by se ruský prezident Vladimir Putin rozhodl dát robotům možnost stanovovat si vlastní dílčí cíle při snaze o dosažení hlavního jim svěřeného úkolu.
„Ani na okamžik si nemyslete, že by Putin nevyrobil hyperinteligentní roboty s úkolem zabíjet Ukrajince,“ řekl loni v rozhovoru se serverem MIT Technology Review. „Neváhal by. A pokud chcete, aby v tom byli dobří, nechcete je mikromanažovat – chcete, aby sami přišli na to, jak to udělat.“
Jenže jedním z dílčích cílů robotů by se podle něj mohlo stát třeba to, že budou chtít získat větší moc, aby hlavní úkol snáze splnili, nebo dospějí k tomu, že nejlepší cestou, jak hlavní úkol splnit, je získat více energie pro své čipy nebo udělat řadu kopií sebe sama. „Zní to dobře?“ kladl si řečnickou otázku.
Odchod z Googlu kvůli obavám o bezpečnost AI
Obavy Hintona, který Nobelovu cenu dostal spolu s americkým vědcem Johnem Hopfieldem, byly jedním z důvodů, proč loni po více než desetileté práci pro Google od této firmy odešel. „Chci mluvit o otázkách bezpečnosti umělé inteligence, aniž bych se musel starat o to, jak se to dotkne byznysu Googlu,“ řekl tehdy MIT Technology Review.
V témže rozhovoru připustil, že řada expertů má výrazně pozitivnější pohled na budoucnost AI. Záleží to podle něj zejména na tom, jestli jsou optimisté, nebo pesimisté. „Když se lidí zeptáte, jaká jsou rizika, že se stane něco špatného, například jaká je pravděpodobnost, že někdo z vaší rodiny opravdu onemocní nebo že ho srazí auto, optimista řekne pět procent a pesimista řekne, že se to zaručeně stane. Ale mírně depresivní člověk řekne, že pravděpodobnost je možná kolem 40 procent a obvykle má pravdu,“ poznamenal s tím, že i on je teď „mírně depresivní“.
Loni se Hinton podepsal pod text mnoha vědců, podle kterého umělá inteligence může znamenat zánik lidstva. „Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou vedle dalších rizik celospolečenského dosahu včetně pandemií a jaderných válek,“ stálo v prohlášení.
A varovným doporučením loni ukončil také rozhovor pro MIT Technology Review. „Užívej si, protože ti možná nezbývá moc času,“ řekl novináři, když od něj odcházel.
