Po určitou dobu s ní ještě dokážeme udržet krok. V jisté fázi vývoje se však dostaneme do situace, v níž už nebudeme schopni porozumět tomu, jak AI ke svému závěru dospěla. A právě to je první krok ke ztrátě kontroly. V některých úzce vymezených oblastech medicíny to ostatně vidíme už dnes. Směr tohoto vývoje je zřejmý a otázkou není, zda k němu dojde, ale spíše jak rychlý ten proces bude.
Současný stav
Umělá inteligence vstoupila do běžného života zhruba před třemi lety a dnes ji v různých podobách používá více než miliarda lidí. Ve zdravotnictví se její rozvoj ubírá třemi hlavními směry.
Prvním jsou takzvaní ambientní zapisovači, kteří dokážou automaticky vytvářet zdravotnickou dokumentaci, přepisovat rozhovory s pacienty a výrazně snižovat administrativní zátěž lékařů. Druhým směrem jsou specializované algoritmy zabudované přímo do diagnostických přístrojů – typicky v radiologii, kardiologii nebo patologii – kde AI v některých úlohách dosahuje přesnosti srovnatelné nebo vyšší než zkušení specialisté. Třetím směrem jsou chatboti založení na velkých jazykových modelech, kteří dokážou úspěšně řešit testové otázky z medicíny, navrhovat diagnostické postupy nebo diskutovat léčebné strategie na úrovni velmi pokročilých studentů medicíny či zkušených expertů.
Pohled do blízké budoucnosti
To, co je zde popsáno, není zatím obrazem každodenní klinické praxe. Spíše jde o sumarizaci toho, kde se možnosti AI v únoru roku 2026 právě nacházejí. Při sledování tempa vývoje v posledních třech letech není přehnané tvrdit, že dnešní medici v prvním ročníku lékařských fakult vstoupí po absolvování studia do zásadně jiného medicínského světa, než jaký známe dnes.
Krátkodobým cílem vývoje je multimodální AI, která bude schopna shromažďovat veškeré dostupné informace o pacientovi – textové, obrazové i laboratorní – a na jejich základě vytvářet doporučení týkající se diagnózy, léčby i prevence.
Většina medicínských oborů má konzervativní charakter. Lékař nebo tým lékařů na základě svých znalostí a zkušeností volí léčbu, jejíž hlavní složkou je farmakoterapie. Právě v této oblasti bude mít AI výraznou výhodu. Schopnost zohlednit obrovské množství proměnných, interakcí a datových vzorců bude v rozhodování o léčbě převyšovat lidské možnosti.
Lékaři se tak v mnoha oborech mohou postupně dostat do role jakéhosi „rozhraní“ mezi AI a pacientem. V pozitivním scénáři to může znamenat, že lékař v ambulanci konečně přestane většinu času trávit pohledem do obrazovky a vrátí se k pacientovi. Rozhovor s nemocným se tak může stát klidnějším, osobnějším a důvěrnějším. Od lékařů se bude více než dříve očekávat schopnost vysvětlovat, uklidňovat, interpretovat a být psychologickou oporou. Expertní rozhodovací složku převezme z velké části AI.
V chirurgických oborech bude tento proces probíhat pomaleji. Manuální dovednosti, prostorová orientace, práce s neočekávanými situacemi a odpovědnost v reálném čase zůstávají zatím doménou člověka. Zde lze očekávat, že lidská dominance přetrvá ještě řadu let, možná desetiletí. Pokud bych dnes stál před volbou medicínského oboru, právě tímto směrem bych se pravděpodobně orientoval.
A co vzdálenější budoucnost?
Je pozoruhodné, s jakou jistotou někteří ekonomové či demografové vytvářejí prognózy na desítky let dopředu. Tyto projekce často vycházejí z předpokladu, že základní struktura světa zůstane zachována. Ve zdravotnictví se to projevuje například tvrzením, že stárnutí populace nevyhnutelně povede k nedostatku lékařů a k růstu nákladů.
Zásadní otázkou však je, zda neuvažujeme příliš „uvnitř zaběhnutých rámců“ (in the box). Zda AI již nyní nepřeskupuje karty zcela jiným způsobem a zda tuto změnu dostatečně rychle reflektujeme. Pokud ne, riskujeme, že se z AI nestane dobrý sluha, ale špatný pán.
Významná část medicínské komunity se zatím nachází ve fázi popření. Tento stav dobře známe z klinické praxe u pacientů, kterým sdělíme informaci zásadně měnící jejich dosavadní život. Pokud však vývoj AI bude pokračovat současným tempem, vstoupí dnešní studenti medicíny do světa, v němž bude AI schopna v mnoha oblastech činit expertní rozhodnutí lépe než lékaři s desetiletími praxe. V privátním sektoru to nevyhnutelně povede k tlaku na efektivitu, a tedy ke snižování počtu lékařů a přesunu části rozhodovacích procesů na algoritmy.
Lze očekávat, že reakce společnosti bude spočívat v regulacích podporovaných lékařskými komorami, odbory i odbornými společnostmi. Tyto procesy budou pomalé a těžkopádné. Není nereálné, že v přechodném období bude AI používána neoficiálně – jednoduše proto, že „přítel na telefonu“, který dává lepší odpovědi než kolega, se těžko ignoruje.
Velká nebezpečí
Takový vývoj s sebou nese zásadní rizika. Dlouhodobé spoléhání na AI povede s vysokou pravděpodobností k oslabení lidských rozhodovacích schopností. Rozhodování je dovednost, která vyžaduje trénink. Pokud ji přenecháme algoritmům, postupně o ni přijdeme.
Josef Veselka
Profesor vnitřního lékařství, kardiolog a vědec. Je autorem několika kardiologických učebnic a monografií a dvou stovek odborných článků v zahraničních časopisech. Založil a dvě dekády vedl motolské kardiocentrum. Posledních deset let publikoval své komentáře v Hospodářských novinách a dalších médiích. Napsal několik knih beletrie. V rámci popularizace vědy spoluzaložil a vedl NF Neuron.
Situaci dále komplikuje skutečnost, že moderní AI systémy fungují jako „black box“. Nebudeme schopni nahlédnout do jejich vnitřní logiky a porozumět tomu, proč se rozhodly právě tak, jak se rozhodly. Kontrola se tak omezí pouze na výsledky, nikoliv na proces uvažování. To představuje zásadní omezení naší autonomie i schopnosti kontroly.
Zcela stranou zde zatím ponechávám rizika spojená s únikem a zneužitím zdravotnických dat v plně digitalizovaném systému.
Rychlá opatření
Nepovažuji se za zastánce plošných regulací. Většina z nich nakonec spíše brzdí pokrok. V případě AI však máme co dočinění s technologii, která má potenciál autonomně rozhodovat v oblastech, kde neseme morální i právní odpovědnost, aniž bychom byli schopni její rozhodování plně kontrolovat.
Proto je nezbytné začít o těchto rizicích otevřeně mluvit a vytvořit rozumný rámec, který zahrne aspoň jasné vymezení odpovědnosti, zachování lidského rozhodovacího prvku v klíčových bodech a systematické vzdělávání lékařů v práci s AI. Pokud tuto debatu odložíme, může se stát, že technologický vývoj nás předběhne a my budeme pouze reagovat na důsledky.
Taková strategie by z nás mohla učinit pasivní diváky utváření našeho vlastního konce.
