Naše zdraví v rukou umělé inteligence. Jak AI regulovat a na co dát pozor?

30. 09. 2026

Nástroje umělé inteligence využívají již dvě třetiny českých nemocnic – nejčastěji při diagnostice a vyhodnocování zobrazovacích metod. Role AI v posledních letech doslova skokově roste. Není se čemu divit. Možnost „delegovat“ na počítače rutinní úkoly lékařům uspoří čas, urychlí péči, a dokonce může pomoct zpřesnit rozhodování. Jenže přináší i úskalí. Na ta upozorňují evropské autority z řad EASAC a FEAM a směřují politikům důležitá doporučení.

Umělá inteligence se vyvíjí rychleji než regulace, které ji mají řídit. Oblast, ve které je to výrazně znát a současně je nesmírně citlivá, je právě zdravotnictví. Systémy umělé inteligence se v něm již využívají a můžou přinášet významné benefity, zejména v klinické péči a veřejném zdraví. Bez jasně stanovených pravidel však hrozí úniky dat, algoritmická předpojatost a ztráta lidské kontroly.

EASAC (Expertní rada evropských akademií) a FEAM (Federace evropských lékařských akademií) nyní vydaly zprávu, jejímž cílem je zajistit odpovědné využívání umělé inteligence v evropském zdravotnictví. Požadují, aby se k AI přistupovalo stejně jako k jakémukoli jinému nástroji ve zdravotnictví: její přínosy se musejí prokázat, je potřeba chápat možná rizika a průběžně kontrolovat její činnost.

MRI
Umělá inteligence již dnes pomáhá například s vyhodnocováním snímků z magnetické rezonance.

„Pokud chceme svěřit své zdraví umělé inteligenci, musíme jednat právě teď,“ zdůrazňuje André Knottnerus, spolupředseda pracovní skupiny EASAC. Expertíza 22 vědců z celé Evropy zahrnuje desítku základních doporučení směřujících zejména na zákonodárce. „Je na tvůrcích politik, aby zajistili regulační podmínky pro využívání umělé inteligence, které bude orientované na pacienta, účinné, bezpečné, spravedlivé a transparentní,“ dodává André Knottnerus.

Hlavně transparentně
Za Akademii věd ČR se pracovní skupiny zúčastnila Eva Fialová z Ústavu státu a práva. Na starosti měla kapitolu o legislativním rámci (kapitola 8 ve zprávě EASAC a FEAM). Za velmi důležité ovšem považuje také chytré financování ve vývoji AI i podpůrných systémů. „Vždy budou diagnózy, pro které se trhu nevyplatí vyvíjet AI diagnostické prostředky, byť by měly velký význam. Takový vývoj by měl být podpořen z jiných zdrojů,“ říká.

Rovněž je nutné poskytnout reprezentativní data pro trénování AI, aby se nestalo, že by nějaká skupina pacientů byla opomenuta. Dobrá paralela se nabízí u autonomních vozů – pokud je AI řidič trénovaný jen na situace, kdy se po silnici pohybují bílí muži, mohl by v reálném provozu srazit afroamerickou ženu. „Vztaženo ke zdravotnictví je to velmi nebezpečné i proto, že uživatelé mají tendenci umělé inteligenci důvěřovat, a můžou tedy zdravotní stav určité skupiny osob zanedbat,“ upozorňuje Eva Fialová.

Podle vědkyně se AI ve zdravotnictví nemusí řešit „v jednom balíčku“. Lze na ni aplikovat řadu právních institutů, které máme už dnes. Cílem zprávy EASAC a FEAM je přispět k implementaci nařízení EU o umělé inteligenci a nařízení o evropském prostoru pro zdravotní data (EHDS), k přípravě příslušných legislativních předpisů a k plánované iniciativě EU v oblasti umělé inteligence ve zdravotnictví.

Deset doporučení pro tvůrce národních politik

Důkaz místo slibů. Než se nový nástroj umělé inteligence v nemocnicích nasadí – a i po celou dobu jeho provozu – musejí existovat tvrdá data o tom, že pacientům skutečně pomáhá. Nestačí pouhé sliby vývojářů.
Jednotný návod pro celou Evropu. Je potřeba vytvořit společná pravidla, která dohlédnou na to, aby AI nenadržovala jedné skupině pacientů na úkor jiné, fungovala spolehlivě v různých podmínkách a nespotřebovávala zbytečně moc energie.
Pohled do budoucna. Nejde jen o to, zda AI systémy neublíží jednomu pacientovi dnes. Je potřeba řešit i to, jak se změní fungování celého zdravotnictví za deset či dvacet let, jak AI ovlivní vztah mezi lékařem a pacientem a jaké dopady bude mít na příští generace.
Funkční propojení s reálnou praxí. I ten nejlepší program je k ničemu, pokud nefunguje. Zásadním předpokladem jsou proto investice do modernizace IT systémů, sjednocení zákonů a úpravy pracovních postupů tak, aby AI zdravotníkům práci usnadňovala, ne komplikovala.
Zdravotnictví, které se neustále učí. Systémy AI by se měly průběžně zlepšovat díky zpětné vazbě a novým zkušenostem z praxe. Celý tento proces ale musí podléhat přísné kontrole, aby se zabránilo chybám.
Bezpečné sdílení dat přes hranice. Nemocnice a výzkumníci z různých států EU by měli mít možnost data bezpečně sdílet podle stejných technických standardů, ale s absolutním důrazem na ochranu soukromí pacientů.
Vzdělávání pro lékaře, vývojáře i vedení. Lékaři se musejí naučit s AI správně pracovat a chápat její limity, zatímco programátoři potřebují rozumět tomu, jak to reálně chodí v nemocnici. Je nutné financovat vzdělávání pro všechny, kdo o nasazení AI rozhodují nebo ji denně používají.
Otevřenost k pacientům a důvěra veřejnosti. Veřejnost by se měla podílet už na samotném návrhu systémů. Pacient má právo vědět, kdy AI spolurozhoduje o jeho péči, a v případě chyby musí existovat jasná možnost nápravy.
Chytré investice do výzkumu. Peníze na výzkum AI ve zdravotnictví by neměly jít jen do vývoje nových funkcí, ale i do začleňování do běžné péče a kontrolních aktivit: aby AI nezůstávala „černou skříňkou“.
Přísná kontrola, audit a odpovědnost. Musí být zcela jasné, kdo nese odpovědnost, když se něco nepovede. Nezávislé orgány musejí systémy AI pravidelně kontrolovat a v případě jakéhokoli rizika okamžitě zasáhnout.