Než se zeptáte doktora, ptáte se AI? Experti vydali příručku, jak nenaletět umělé inteligenci při řešení zdraví

Podle odborníků jde o zásadní změnu v tom, jak lidé přistupují ke svému zdraví. Reagují na ni už i české zdravotnické instituce.

Čeští odborníci vydali doporučení pro pacienty
Česká lékařská společnost Jana Evangelisty Purkyně společně s Ministerstvem zdravotnictví České republiky, Českou asociací umělé inteligence a dalšími odborníky představili příručku ,,AI ve zdravotnictví pro pacienta".

Cílem dokumentu je vysvětlit veřejnosti, kde může být umělá inteligence užitečná a kde naopak může představovat problém.

Odborníci upozorňují především na to, že běžné chatboty nejsou náhradou lékařské péče ani diagnostiky.

,,Generativní AI nepoužívejte ke stanovení diagnózy nebo vyšetření bez konzultace s lékařem, uvádí příručka.

AI umí vysvětlovat. Diagnózu ale potvrdit neumí
Podle expertů bývá největší problém v tom, že lidé často zaměňují běžné chatovací nástroje za odborné zdravotnické systémy.

Zatímco certifikované AI nástroje používané v nemocnicích podléhají přísné regulaci a slouží lékařům jako podpora při rozhodování, veřejně dostupné chatboty fungují hlavně jako jazykový pomocník.

Mohou:

• vysvětlit složité lékařské pojmy,
• přeložit zprávu do běžného jazyka,
• shrnout dlouhý text,
• pomoci připravit otázky k lékaři.

Neměly by ale sloužit jako náhrada vyšetření nebo samostatné určování diagnózy.

Lékaři varují: AI může znít přesvědčivě, i když se mýlí
Praktičtí lékaři podle odborných společností stále častěji řeší pacienty, kteří přicházejí do ordinací s „diagnózou z AI“.

Podle praktického lékaře Pavla Sovy působí odpovědi chatbotů velmi sebevědomě, což může u lidí vytvářet falešný pocit jistoty.

Rizikem je zejména situace, kdy člověk kvůli odpovědi AI odloží návštěvu lékaře nebo podcení vážný zdravotní problém.

Pozor na citlivé údaje
Velkým tématem je také ochrana soukromí. Odborníci varují před kopírováním celých lékařských zpráv do veřejně dostupných chatovacích nástrojů.

,,Dp běžného chatu nikdy nevkládejte citlivé údaje," upozorňuje příručka. Lidé by podle expertů měli odstranit například:

• jméno a příjmení,
• rodné číslo,
• datum narození,
• adresu nebo jiné identifikační údaje.

Na rizika spojená se sdílením zdravotních dat upozorňuje také Matěj Misař, který působí i ve výboru pro umělou inteligenci při ministerstvu zdravotnictví.

AI může zvyšovat úzkost
Psychiatři upozorňují i na další efekt: takzvanou ,,symptomovou spirálu".

Člověk zadá své potíže do AI, dostane seznam možných diagnóz - často včetně těch nejvážnějších - a začne mít větší obavy. Následují další dotazy, další odpovědi a další stres.

Podle Martina Anderse může tento mechanismus u citlivějších lidí prohlubovat úzkosti nebo pocit osamělosti.

V nemocnicích už AI běžně pomáhá
To ale neznamená, že by odborníci umělou inteligenci odmítali. Naopak.

V českých nemocnicích už dnes AI pomáhá například:

• při vyhodnocení rentgenových snímků,
• analýze srdečního rytmu,
• nebo při odhalování komplikací.

Podle ministerstva zdravotnictví využívá AI více než 60% zdravotnických zařízení, v radiodiagnostice dokonce téměř 90%.

Ministr zdravotnictví Adam Vojtěch opakovaně zdůrazňuje, že cílem není nahrazovat lékaře, ale usnadnit jim práci a šetřit čas.

Klíčové je jediné: AI má pomáhat, ne rozhodovat
Odborníci se shodují, že význam umělé inteligence ve zdravotnictví bude dál růst. Zároveň ale připomínají, že u zásadních zdravotních rozhodnutí musí mít hlavní slovo člověk.

AI tak může být užitečným pomocníkem, překladatelem nebo druhým párem očí — nikoli definitivní autoritou nad lidským zdravím.