Umělá inteligence rychle proniká do medicíny. Pomáhá zatím hlavně s diagnózami, které spočívají ve vizuálním odhalení příznaků. U některých druhů diagnóz je AI v odhalování podle prvních výzkumů už úspěšnější než lidé. Nová studie teď ale upozornila na problém: lékaři, kteří tyto systémy využívají, se na nich zřejmě rychle stávají závislými a přicházejí o schopnosti, které si celé roky osvojovali.
Výzkum vyšel v odborném časopise Lancet Gastroenterology and Hepatology a sledoval experty specializované na odhalování polypů a dalších abnormalit při kolonoskopiích. Výsledky ukazují, že doba, za jakou se odborníci mohou stát na pomoci AI až příliš závislými, je nečekaně krátká. „Docela nás to překvapilo,“ konstatoval hlavní autor studie Marcin Romańczyk z H-T Medical Center v Tychách v Polsku.
Zapnout, vypnout
Před několika lety čtyři kliniky v Polsku vyzkoušely systém AI pro detekci polypů a jiných abnormalit během kolonoskopií. Umělá inteligence v reálném čase vyhodnocuje obrazové informace z kamery, kterou má lékař zavedenou v tlustém střevě pacienta. Pokud odhalí něco podezřelého, oblast zeleně zvýrazní, aby si ji lékař mohl lépe prohlédnout.
Podle dat nemocnic byl systém docela úspěšný a opravdu lékařům pomáhal. Jenže to nebylo všechno, co z údajů vyplynulo. Ještě víc než úspěšnost lékařů, kteří si vypomáhali AI, vědce zaujal pokles úspěšnosti lékařů, když umělou inteligenci využívat nemohli, protože byla vypnutá.
Podle analýzy klesla po zavedení AI míra odhalení možných polypů z 28,4 procenta na 22,4 procenta, pokud byla umělá inteligence vypnutá. Zjednodušeně řečeno: vypadá to, že se lékaři stali během pouhých tří měsíců na AI tak závislými, že bez ní rychle přicházeli o schopnosti, jež si budovali celé desítky let.
Proč se to děje
„Podvědomě čekáme, až se objeví zelené políčko, které nám ukáže oblast, kde se polyp nachází, a nevěnujeme už tolik pozornosti obrazu,“ popsali jedno z možných vysvětlení autoři studie. Podobné výsledky se objevily už i v jiných menších experimentech, kde se s AI v medicíně pracuje. Například u sledování snímků z mamografů byly výsledky velmi podobné – nicméně tam pokus probíhal s amatéry, kteří měli pátrat po náznacích nádorů.
Romańczyk věří, že tento pokles je skutečný – i když připouští, že studium AI v takovémto klinickém prostředí může být složité. Existuje mnoho proměnných, které výzkumníci nemohli ovlivnit. Vědec sám není proti využívání AI, protože umělá inteligence výsledky skutečně zlepšuje.
Chtěl by ale, aby se potvrzení nebo vyvrácení jeho výsledků věnovali i další vědci, protože to, co naznačuje, může být opravdu závažné.
