Na právě probíhajícím akčním summitu o umělé inteligenci (AI) v Paříži vyvolal kontroverzi návrh závěrečné deklarace. Podle britského deníku The Times dokument, který unikl do médií před oficiálním zveřejněním, vzedmul vlnu kritiky od odborníků na AI, a to kvůli odklonu od bezpečnostních závazků z minulosti.
Malý důraz na bezpečnost přitom vzbuzoval obavy již před summitem, jak napsaly The Times, a to především kvůli rozdílnému přístupu oproti předchozím summitům v britském Bletchley Park a jihokorejském Soulu. Na těch bylo zajištění bezpečnosti a kontroly pokročilých systémů umělé inteligence hlavním tématem.
Profesor Stuart Russell z Kalifornské univerzity v Berkeley označil pařížské prohlášení za výsledek „nepředstavitelné nedbalosti“ a upozornil, že návrh opomíjí explicitní závazky týkající se rizik v oblastech kybernetické obrany, biotechnologií a dezinformací. Russella zvláště popudila část, kde se píše, že bezpečnost bude zajištěna skrze „otevřený, mnohostranný a inkluzivní přístup“. Tuto formulaci označil za „bezvýznamnou“.
Podobně ostrý tón zvolil i profesor Max Tegmark, prezident Institutu pro budoucnost života. Podle něj by přijetí prohlášení v této podobě představovalo „promarněnou příležitost“ pro lídry. Tegmark se domnívá, že lídrům tak uteče šance vést mezinárodní debatu o kontrole pokročilých systémů umělé inteligence. „Toto prohlášení se o rizicích ani nezmiňuje a neuvádí žádné konkrétní návrhy, jak zajistit, aby mocné AI systémy zůstaly pod kontrolou a byly prospěšné. Toto alarmující opomenutí svědčí o zásadním nepochopení vědeckých poznatků a je receptem na katastrofu,“ varoval Tegmark v oficiálním prohlášení.
Na sociálních sítích byl ještě rezolutnější: „Návrh deklarace pařížského summitu o AI, který unikl na X, je zřejmě optimalizován tak, aby si znepřátelil jak vládu USA (svým zaměřením na diverzitu, gender a dezinformace), tak vládu Spojeného království (tím, že zcela ignoruje vědecký a politický konsenzus ohledně rizik systémů umělé inteligence, který byl dohodnut na summitu v Bletchley Park). Země by se neměly pod deklaraci podepsat, protože to zcela ignoruje vědecké poznatky,“ dodal Tegmark.
Tegmarkův postřeh zřejmě trefil do živého. Politico v pondělí informovalo, že „Spojené království nepodepíše diplomatickou deklaraci, která má v úterý zakončit pařížský summit o opatřeních v oblasti AI“. „Deklarace, která se zavazuje pracovat na ‚inkluzivní a udržitelné umělé inteligenci‘, nemá podporu USA a bez ní se také Britové zdráhají posvětit ji,“ dodal list k postoji Spojeného království.
Francouzský prezident Emmanuel Macron, který dvoudenní summit inicioval, ho nazval „akčním“, neboť francouzské setkání má nastolit odlišný přístup k umělé inteligenci. V podobném stylu reagovala francouzská strana na odpor některých signatářů. Jeden nejmenovaný francouzský představitel význam podpisů mírnil a pro Politico uvedl, že „na velkých diplomatických deklaracích nezáleží“. Zdůraznil, že Francie by raději „posunula perspektivu a konverzaci“.
Francouzské přehlížení otázky bezpečnosti čelilo kritice již před začátkem summitu, jak upozornil komentář v časopise Time. Ke kritice se tehdy vyjádřila zvláštní zmocněnkyně francouzského prezidenta pro umělou inteligenci Anne Bouverotová. „Mám jeden citát od Marie Curie-Sklodowské, který se mi moc líbí,“ prohlásila. „V životě se není třeba ničeho bát, je třeba to jen pochopit.“
Autor komentáře Harry Booth reagoval na Bouverotovou a připomněl, že francouzskou chemičku Curie-Sklodowskou její práce nakonec stála život – zemřela poměrně brzy v 66 letech na vzácné onemocnění krve, které pravděpodobně způsobilo dlouhodobé vystavování se radiaci.
