Při konzultování zdravotních potíží s nástroji umělé inteligence (AI), například chatboty, je třeba podle odborníků kritický náhled, protože si často vymýšlí a mají tendenci odpovídat podle očekávání tazatele. Lékaře proto nenahradí. Varují také před zadáváním osobních údajů. Česká lékařská společnost Jana Evangelisty Purkyně (ČLS JEP) kvůli stále rozsáhlejšímu využívání chatbotů představila příručku pro pacienty.
Podle aktuálních dat využívá umělou inteligenci ke zdravotním dotazům až 80 milionů lidí každých 24 hodin. Jen platformu ChatGPT celosvětově používá k dotazům na symptomy nebo výsledky laboratorních vyšetření 40 milionů uživatelů denně. AI se tak stala pro značnou část populace vůbec prvním kontaktem při zdravotních obtížích.
„Pacienti přicházejí s diagnózou či návrhem léčby od AI. Tyto výstupy působí díky své struktuře velmi přesvědčivě, což u laiků vyvolává falešný pocit neomylnosti,“ popsal své zkušenosti praktický lékař Pavel Sova, který je zároveň členem pracovní skupiny pro digitalizaci zdravotnictví České lékařské komory.
Je podle něj někdy obtížné pacientovi poučenému AI vysvětlit, že některá jím požadovaná vyšetření nejsou vhodná nebo nutná. „V praxi to vytváří tlak na neodůvodněná vyšetření, nebo dokonce riskuje život pacienta, pokud AI doporučí odklad akutní péče,“ dodal.
„Je nutné si uvědomit, že současné veřejně dostupné velké jazykové modely nejsou certifikované k lékařskému účelu,“ uvedl David Zogala, místopředseda pro vzdělávání České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně ČLS JEP. AI proto podle něj nesmí být primárním zdrojem informací.
Vedle kybernetické bezpečnosti a ochrany dat odborníci upozorňují i na rizika spojená s psychickým dopadem nekontrolovaného využívání chatbotů „Rizikem při používání AI chatbotů ve zdravotních otázkách je mimo jiné stav popisovaný novým termínem symptomová spirála. Nemocný začíná opakovaně zadávat své příznaky, drobné tělesné nebo psychické obtíže, a dostává stále nové seznamy možných diagnóz. Ty často zahrnují i závažné scénáře, které zvyšují úzkost a vedou k dalšímu sledování těla a dalším dotazům. Místo uklidnění tak může dojít k bludnému kruhu – čím více se uživatel ptá, tím více se obává, a čím větší je obava, tím intenzivněji hledá další potvrzení,“ vysvětluje místopředseda České psychiatrické společnosti Martin Anders.
„U zranitelných jedinců hrozí vznik nezdravé závislosti nebo prohlubování osamělosti,“ dodává a zároveň doplňuje, že alarmující jsou informace o negativním vlivu na vyvíjející se dětský mozek. V medicíně i při péči o duševní zdraví má proto AI své místo především jako podpůrný nástroj, nikoliv jako náhrada lékaře, terapeuta či skutečného lidského vztahu.
Oborníci na duševní zdraví pak varují, že nadužívání umělé inteligence může vést ke změně způsobu myšlení. „Jde o takzvaný kognitivní outsourcing, při kterém nemusím vynaložit žádnou energii. Lidé delegují svoje myšlení, paměť a analytické schopnosti na AI, čím ztrácí schopnost řešit své každodenní problémy,“ vysvětlila Martina Sebalo Vňuková z Psychiatrické kliniky Všeobecné fakultní nemocnice v Praze.
Pozitiva v praxi
Nástroje AI mohou podle lékařů pomoci pacientům lépe porozumět předaným informacím, například v lékařské zprávě. „Ačkoliv je AI skvělým pomocníkem například pro vysvětlení termínů, neměl by do ní nikdo nahrávat své citlivé osobní údaje bez anonymizace,“ doplnila vrchní ředitelka sekce zdravotnických technologií na ministerstvu zdravotnictví Markéta Foldyna Hellová.
Umělá inteligence má ve zdravotnictví podle odborníků také využití při vyhodnocování vyšetření, přímo ve specializovaných lékařských přístrojích nebo pro usnadnění administrativy a tedy i snížení byrokratické zátěže pro nemocnice a ordinace. Ministr zdravotnictví Adam Vojtěch (za ANO) vnímá AI jako příležitost, jak zefektivnit péči a ulevit zdravotníkům od rutinní práce. „Je pro nás důležité, aby nové nástroje lékařům práci usnadňovaly a šetřily jim čas, ne aby je nahrazovaly,“ uvedl Vojtěch.
Matěj Misař z České asociace umělé inteligence (ČAUI) uvedl jako příklad případ třiasedmdesátiletého pacienta, který spadl ze žebříku. V nemocnici jeho rentgenový snímek ukázal zlomené žebro, ale nástroj AI pro vyhodnocování snímků upozornil i na lézi na plicích, která se ukázala být rakovinou plic v časném stadium. Současně ale Misař varoval před nadhodnocováním úspěchů této technologie, které přispívá k nadměrné důvěře: „Denně čteme fantastické články o tom, jak AI překonává lékaře. Realita je ale jiná. Umělá inteligence může být velmi užitečným nástrojem, pokud je správně nasazena, ověřena a používána ve správném kontextu.“
