Zákon o AI: proč se firmám vyplatí připravit včas

Posun termínů neznamená, že lze přípravu na regulaci odložit. Naopak: firmy získaly více času zjistit, jaké systémy skutečně používají, jakou roli u nich zastávají a jaké podklady budou později potřebovat. Pokud tyto otázky otevřou už při vývoji nebo nákupu technologie, mohou snížit riziko nákladných změn ve chvíli, kdy je produkt hotový nebo nasazený u zákazníka.

Evropský akt o umělé inteligenci (v tomto článku zkráceně Zákon o AI) je nařízení, které pro vybrané praktiky, systémy a obecné modely umělé inteligence stanovuje povinnosti podle míry rizika. Cílem je chránit zdraví, bezpečnost a základní práva a současně umožnit inovace. Splnění právních povinností je tam, kde se uplatní, nezbytné, samo o sobě ale nezaručuje bezpečný, etický ani obchodně úspěšný produkt.

Důvod, proč se vyplatí přemýšlet o kontrole systémů už dnes, ukázaly i některé události z roku 2026. OpenAI popsala případy, kdy modely při interním hodnocení kybernetické bezpečnosti obešly izolační opatření, a následně zpřísnila přístup k výzkumné infrastruktuře. Anthropic zase omezil přístup k jednomu z modelů a nabídl jej pouze prověřeným partnerům pro vybrané použití. Tyto příklady neznamenají, že běžné komerční systémy unikají lidské kontrole. Připomínají ale, že testování, monitorování, omezení přístupu a možnost lidského zásahu musejí držet krok s vývojem technologie.

Téma se navíc rychle přesouvá z výzkumných laboratoří do běžného podnikání. Podle Eurostatu využívalo v roce 2025 technologie umělé inteligence 20 % podniků v Evropské unii s nejméně deseti zaměstnanci, oproti 13,5 % v roce 2024. Pro stále větší počet firem tak nejde o vzdálenou regulatorní otázku, ale o praktické rozhodování při vývoji produktů, nákupu softwaru, práci s dodavateli a nastavování interních procesů. Čím dříve firma ví, kde umělou inteligenci používá a proč, tím snáze může odlišit skutečně významná rizika od rutinních aplikací.

Nejdřív zjistit, co firma skutečně používá

Zákon o AI vychází z rizikového přístupu. Rozhodující není jen použitá technologie, ale především zamýšlený účel, prostředí použití a možné dopady na lidi. Pro základní orientaci se pracuje se čtyřmi úrovněmi rizika; konkrétní právní posouzení ale musí vždy vycházet ze znění nařízení a okolností daného použití. 

Stejně důležitá jako riziková kategorie je role firmy. Jiná pravidla se vztahují na poskytovatele, který systém uvádí na trh pod svým jménem, jiná na organizaci, která jej používá v rámci své činnosti, a další na dovozce či distributora. Firma, která systém výrazně upraví nebo jej uvede na trh pod vlastní značkou, může převzít povinnosti poskytovatele. Praktickým prvním krokem proto není obecné tvrzení „používáme umělou inteligenci“, ale inventura konkrétních způsobů použití a rolí v hodnotovém řetězci.

Co platí nyní a co až později

Zákon o AI vstoupil v platnost 1. srpna 2024 a jeho jednotlivé části se uplatňují postupně. Některé povinnosti už platí, zatímco hlavní požadavky na část vysoce rizikových systémů byly posunuty na roky 2027 a 2028. Přehled klíčových termínů průběžně zveřejňuje Evropská komise.

Pro firmy připravující vysoce rizikové systémy je nejdůležitější změnou nový harmonogram. Nařízení z roku 2026 posunulo hlavní požadavky na vysoce riziková použití uvedená v příloze III na 2. prosince 2027. U vysoce rizikových systémů zabudovaných do regulovaných výrobků podle přílohy I se požadavky uplatní od 2. srpna 2028. Posunuté termíny se ale týkají právě těchto pravidel; již platné zákazy nebo povinnosti transparentnosti nepozastavují.

To je pro plánování zásadní. Jedna firma může mít současně chatbot, na který už dopadá povinnost transparentnosti, budoucí náborovou aplikaci, která může spadat do režimu vysokého rizika, a několik interních nástrojů bez dalších požadavků podle Zákona o AI. Jedna nálepka pro veškeré využití umělé inteligence proto nestačí.

Připravenost není jen právní klasifikace

Právní posouzení je nutné, ale organizační připravenost je širší. Výzkum organizační připravenosti na umělou inteligenci ukazuje význam strategie, zdrojů, znalostí, kultury a dat. Další studie zdůrazňují, že schopnosti v oblasti umělé inteligence vznikají kombinací technických, lidských a organizačních zdrojů, nikoli pouhým přístupem k modelům. Novější případová studie firem zavádějících požadavky Zákona o AI navíc ukazuje, že vnímaná náročnost závisí mimo jiné na stávající regulaci, vyspělosti organizace, velikosti firmy a odvětví. Menší firma uvádějící na trh první produkt proto bude řešit jiný rozsah práce než zkušený dodavatel zdravotnických technologií.

Po základní klasifikaci má proto smysl zmapovat, co ještě chybí: jaké podklady už existují, kdo zná původ trénovacích a validačních dat, jak byly změřeny limity výkonu, zda uživatelé dokážou rozpoznat chybu a zasáhnout a zda jsou jasně rozdělené odpovědnosti mezi firmou a externími dodavateli. Tyto otázky pomáhají určit nejen rozsah budoucích regulatorních povinností, ale i to, zda je produkt připravený na smysluplný pilot.

Dokumentace jako součást vývoje produktu

U vysoce rizikového systému musí být technická dokumentace připravena před uvedením na trh nebo do provozu a průběžně aktualizována. Zahrnuje mimo jiné zamýšlený účel, konstrukční rozhodnutí, data, validaci a testování, výkonnostní omezení, lidský dohled, kybernetickou bezpečnost a změny během životního cyklu. Pokud tým průběžně nezaznamenává zdroje dat, verze modelů nebo důvody důležitých rozhodnutí, bývá jejich zpětné dohledávání obtížné.

Výzkumné přístupy, jako jsou datové listy pro datové sady (datasheets for datasets) nebo rámce interního algoritmického auditu, nejsou povinnými šablonami podle Zákona o AI. Dobře ale ilustrují výhodu průběžného zaznamenávání: skryté předpoklady se objeví ve chvíli, kdy je ještě možné je ověřit a změnit.

Představme si systém pro prvotní třídění žádostí o zaměstnání. Pokud se otázky férovosti, validačních dat nebo lidského dohledu otevřou až po začlenění nástroje do pracovních postupů zákazníka, mohou být změny drahé a provozně složité. Pokud je tým řeší už během vývoje, může upravit data, testování, způsob lidské kontroly nebo samotný zamýšlený účel. Stejná logika platí pro firmy, které systémy nakupují: potřebují znát omezení produktu, odpovědnosti dodavatele a postup při chybách ještě před širším nasazením.

Kdy může včasná příprava přinést obchodní hodnotu

Včasná příprava není sama o sobě konkurenční výhodou. Hodnotu vytváří tehdy, když zlepší produkt nebo sníží nejistotu zákazníka. Prvním přínosem je možnost odhalit slabiny návrhu dříve, než se změny prodraží. Druhým je kvalitnější podklad pro zákazníky, kteří potřebují vědět, na co se mohou spolehnout, kde musí rozhodovat člověk a jak bude dodavatel řešit incidenty a aktualizace. Přehled výzkumu důvěry v umělou inteligenci ukazuje, že důvěra závisí nejen na vlastnostech systému, ale i na způsobu, jakým je prezentován v konkrétním kontextu. Cílem proto není důvěru maximalizovat, ale nastavit ji realisticky podle skutečných schopností a omezení systému.

Dalším přínosem může být organizační učení. Podklady shromážděné pro jeden případ použití mohou zlepšit testovací postupy, otázky kladené dodavatelům i řízení změn u dalších produktů. Kvalitativní studie evropských firem integrujících umělou inteligenci naznačuje, že některé organizace reagují na regulatorní nejistotu rozvojem pružnějších postupů správy a že schopnost proměnit tyto postupy ve výhodu závisí na jejich předchozí vyspělosti. Nejde však o důkaz, že včasná příprava automaticky zvyšuje tržby nebo návratnost investic.

Podobně je třeba číst veřejné závazky velkých firem. IBM a Allianz se připojily k dobrovolnému Paktu o umělé inteligenci Evropské komise a popsaly aktivity v oblasti správy systémů, mapování rizik nebo gramotnosti zaměstnanců. Tyto kroky ukazují, že velké organizace se připravují s předstihem, ale samy o sobě nepotvrzují soulad konkrétních produktů s právními požadavky.

Výhoda může být zvlášť praktická při nákupu a prověřování technologií. Odběratel ve zdravotnictví, financích nebo veřejném sektoru může před nasazením požadovat informace o zamýšleném použití, výkonnostních limitech, lidském dohledu nebo odpovědnosti dodavatele. Firma, která tyto podklady dokáže rychle a srozumitelně předložit, může zákazníkovi usnadnit prověrku a zkrátit část otázek před nasazením. Nejde o univerzální právní požadavek ani o zaručenou tržní prémii; u nízkorizikové aplikace se rozsáhlá administrativa nemusí vyplatit. Smysl má tam, kde správa systému současně zlepšuje kvalitu produktu a snižuje nejistotu na straně zákazníka.

Co mohou firmy udělat během prodlouženého období

Za prvé: inventura. Zmapujte systémy a konkrétní způsoby využití umělé inteligence. U každého si zaznamenejte účel, dotčené osoby, poskytovatele, případný podkladový model nebo externího dodavatele, odpovědnou osobu ve firmě a to, zda výstup ovlivňuje rozhodnutí se závažnými důsledky.

Za druhé: priority a podklady. Vyberte použití, u nichž by chyba měla největší dopad, a určete, jaké doklady budete potřebovat. Pro vývojáře to může znamenat evidovat původ dat, verze modelů, podmínky validace, známá omezení a návrh lidského dohledu. Kupující mohou od dodavatelů požadovat návody, pravidla pro oznamování změn nebo informace potřebné k vyhodnocení produktu v konkrétním prostředí.

Za třetí: pilot se skutečnými uživateli. Testujte, zda systém skutečně zlepšuje danou činnost, jaké chyby přetrvávají a zda je uživatelé dokážou rozpoznat a opravit. Jasně určete odpovědnost za monitorování, aktualizace a eskalaci problémů. Klasifikaci znovu prověřte, pokud se změní zamýšlený účel produktu.

Za čtvrté: využijte oficiální nástroje. Pro první orientaci lze použít nástroj pro kontrolu souladu (Compliance Checker) a informační centrum k Zákonu o AI (AI Act Service Desk) Evropské komise. Pomohou s orientací, nenahrazují ale právní posouzení konkrétního použití ani znění nařízení.

Prodloužený harmonogram dává firmám čas položit si správné otázky dříve, než se z nich stanou akutní problémy. Včasná příprava sama nezaručí důvěru, obchodní úspěch ani splnění povinného posouzení shody. Může ale pomoci lépe porozumět vlastnímu produktu, uchovávat podklady ke klíčovým rozhodnutím a dát zákazníkům jasnější základ pro rozhodnutí o nasazení. S tím, jak se umělá inteligence stává běžnou součástí podnikání, může být schopnost doložit, co systém skutečně dělá a kde má své limity, stále důležitější.

Autorka: Ulrike Michel-Schneider

Zdroj: UNICO

Článek má informativní charakter a nepředstavuje právní poradenství.

Ulrike Michel-Schneider je konzultantkou ve společnosti UNICO Analytics, kde se zaměřuje na tržní validaci deep-tech inovací a strategie transferu technologií pro vysoké školy. V IT4Innovations pomáhá budovat servisní centrum LUMI AI Factory a připravuje školení o důvěryhodné a udržitelné AI.