Zahlavi

Naše zdraví v rukou umělé inteligence. Jak AI regulovat a na co dát pozor?

30. 09. 2026

Nástroje umělé inteligence využívají již dvě třetiny českých nemocnic – nejčastěji při diagnostice a vyhodnocování zobrazovacích metod. Role AI v posledních letech doslova skokově roste. Není se čemu divit. Možnost „delegovat“ na počítače rutinní úkoly lékařům uspoří čas, urychlí péči, a dokonce může pomoct zpřesnit rozhodování. Jenže přináší i úskalí. Na ta upozorňují evropské autority z řad EASAC a FEAM a směřují politikům důležitá doporučení.

Umělá inteligence se vyvíjí rychleji než regulace, které ji mají řídit. Oblast, ve které je to výrazně znát a současně je nesmírně citlivá, je právě zdravotnictví. Systémy umělé inteligence se v něm již využívají a můžou přinášet významné benefity, zejména v klinické péči a veřejném zdraví. Bez jasně stanovených pravidel však hrozí úniky dat, algoritmická předpojatost a ztráta lidské kontroly.

EASAC (Expertní rada evropských akademií) a FEAM (Federace evropských lékařských akademií) nyní vydaly zprávu, jejímž cílem je zajistit odpovědné využívání umělé inteligence v evropském zdravotnictví. Požadují, aby se k AI přistupovalo stejně jako k jakémukoli jinému nástroji ve zdravotnictví: její přínosy se musejí prokázat, je potřeba chápat možná rizika a průběžně kontrolovat její činnost.

MRI
Umělá inteligence již dnes pomáhá například s vyhodnocováním snímků z magnetické rezonance.

„Pokud chceme svěřit své zdraví umělé inteligenci, musíme jednat právě teď,“ zdůrazňuje André Knottnerus, spolupředseda pracovní skupiny EASAC. Expertíza 22 vědců z celé Evropy zahrnuje desítku základních doporučení směřujících zejména na zákonodárce. „Je na tvůrcích politik, aby zajistili regulační podmínky pro využívání umělé inteligence, které bude orientované na pacienta, účinné, bezpečné, spravedlivé a transparentní,“ dodává André Knottnerus.

Hlavně transparentně
Za Akademii věd ČR se pracovní skupiny zúčastnila Eva Fialová z Ústavu státu a práva. Na starosti měla kapitolu o legislativním rámci (kapitola 8 ve zprávě EASAC a FEAM). Za velmi důležité ovšem považuje také chytré financování ve vývoji AI i podpůrných systémů. „Vždy budou diagnózy, pro které se trhu nevyplatí vyvíjet AI diagnostické prostředky, byť by měly velký význam. Takový vývoj by měl být podpořen z jiných zdrojů,“ říká.

Rovněž je nutné poskytnout reprezentativní data pro trénování AI, aby se nestalo, že by nějaká skupina pacientů byla opomenuta. Dobrá paralela se nabízí u autonomních vozů – pokud je AI řidič trénovaný jen na situace, kdy se po silnici pohybují bílí muži, mohl by v reálném provozu srazit afroamerickou ženu. „Vztaženo ke zdravotnictví je to velmi nebezpečné i proto, že uživatelé mají tendenci umělé inteligenci důvěřovat, a můžou tedy zdravotní stav určité skupiny osob zanedbat,“ upozorňuje Eva Fialová.

Podle vědkyně se AI ve zdravotnictví nemusí řešit „v jednom balíčku“. Lze na ni aplikovat řadu právních institutů, které máme už dnes. Cílem zprávy EASAC a FEAM je přispět k implementaci nařízení EU o umělé inteligenci a nařízení o evropském prostoru pro zdravotní data (EHDS), k přípravě příslušných legislativních předpisů a k plánované iniciativě EU v oblasti umělé inteligence ve zdravotnictví.

Deset doporučení pro tvůrce národních politik

  1. Důkaz místo slibů. Než se nový nástroj umělé inteligence v nemocnicích nasadí – a i po celou dobu jeho provozu – musejí existovat tvrdá data o tom, že pacientům skutečně pomáhá. Nestačí pouhé sliby vývojářů.
  2. Jednotný návod pro celou Evropu. Je potřeba vytvořit společná pravidla, která dohlédnou na to, aby AI nenadržovala jedné skupině pacientů na úkor jiné, fungovala spolehlivě v různých podmínkách a nespotřebovávala zbytečně moc energie.
  3. Pohled do budoucna. Nejde jen o to, zda AI systémy neublíží jednomu pacientovi dnes. Je potřeba řešit i to, jak se změní fungování celého zdravotnictví za deset či dvacet let, jak AI ovlivní vztah mezi lékařem a pacientem a jaké dopady bude mít na příští generace.
  4. Funkční propojení s reálnou praxí. I ten nejlepší program je k ničemu, pokud nefunguje. Zásadním předpokladem jsou proto investice do modernizace IT systémů, sjednocení zákonů a úpravy pracovních postupů tak, aby AI zdravotníkům práci usnadňovala, ne komplikovala.
  5. Zdravotnictví, které se neustále učí. Systémy AI by se měly průběžně zlepšovat díky zpětné vazbě a novým zkušenostem z praxe. Celý tento proces ale musí podléhat přísné kontrole, aby se zabránilo chybám.
  6. Bezpečné sdílení dat přes hranice. Nemocnice a výzkumníci z různých států EU by měli mít možnost data bezpečně sdílet podle stejných technických standardů, ale s absolutním důrazem na ochranu soukromí pacientů.
  7. Vzdělávání pro lékaře, vývojáře i vedení. Lékaři se musejí naučit s AI správně pracovat a chápat její limity, zatímco programátoři potřebují rozumět tomu, jak to reálně chodí v nemocnici. Je nutné financovat vzdělávání pro všechny, kdo o nasazení AI rozhodují nebo ji denně používají.
  8. Otevřenost k pacientům a důvěra veřejnosti. Veřejnost by se měla podílet už na samotném návrhu systémů. Pacient má právo vědět, kdy AI spolurozhoduje o jeho péči, a v případě chyby musí existovat jasná možnost nápravy.
  9. Chytré investice do výzkumu. Peníze na výzkum AI ve zdravotnictví by neměly jít jen do vývoje nových funkcí, ale i do začleňování do běžné péče a kontrolních aktivit: aby AI nezůstávala „černou skříňkou“.
  10. Přísná kontrola, audit a odpovědnost. Musí být zcela jasné, kdo nese odpovědnost, když se něco nepovede. Nezávislé orgány musejí systémy AI pravidelně kontrolovat a v případě jakéhokoli rizika okamžitě zasáhnout.

EASAC report
EASAC-FEAM Report: AI in European Healthcare (2026)

Text: Jana Kuřátková, Divize vnějších vztahů SSČ AV ČR
Foto: EASAC, Shutterstock

Licence Creative Commons Text je uvolněn pod svobodnou licencí Creative Commons. 

 

Přečtěte si také

Biologie a lékařské vědy

Vědecká pracoviště

Cílem výzkumu je poznávání procesů v živých organismech, a to na úrovni molekul, buněk i organismů. Biofyzikální výzkum se zabývá studiem vztahu DNA – protein a vlivu faktorů životního prostředí na organismy. V oblasti molekulární genetiky a buněčné biologie jsou studovány zejména signální cesty pro spouštění reakcí a odezvy cílových genů na tyto signály; zvláštní pozornost je věnována studiu buněčných mechanismů imunitních odpovědí. Sledovány jsou rovněž genomy mikroorganismů a procesy směřující k moderním technologiím přípravy látek s definovanými biologickými účinky. V oblasti fyziologie a patofyziologie savců a člověka je výzkum zaměřen na kardiovaskulární fyziologii, neurovědy, fyziologii reprodukce a embryologii s cílem vytvořit teoretické základy preventivní medicíny. V oblasti experimentální botaniky se výzkum věnuje genetice, fyziologii a patofyziologii rostlin a moderní rostlinné biotechnologii. Sekce zahrnuje 8 vědeckých ústavů s přibližně 1930 zaměstnanci, z nichž je asi 690 vědeckých pracovníků s vysokoškolským vzděláním.

Všechny výzkumné sekce

O nás
Věda a výzkum
Veřejnost
Média
Rychlé odkazy
Národní 3, 110 00 Praha 1, Tel.: +420 221 403 111, E-mail: info@cas.cz
Část obsahu šířena pod licencí Creative commons
© Středisko společných činností AV ČR, v. v. i.