AI Act je nařízení Evropské unie (EU) 2024/1689, které stanovuje pravidla pro vývoj a používání umělé inteligence podle míry rizika. Čím vážněji může použití AI zasáhnout do zdraví, bezpečnosti nebo práv lidí, tím přísnější povinnosti platí, od úplného zákazu po žádná zvláštní pravidla. Povinnosti nese jak ten, kdo AI systém vyvíjí, tak organizace, která ho používá.
Jak funguje AI Act?
AI Act posuzuje hlavně konkrétní použití, ne technologii. Vlastní pravidla mají obecné modely AI, na kterých nástroje stojí, a výstupy generativních systémů se mají strojově označovat. Stejný jazykový model může v jedné situaci spadat do minimálního rizika a v jiné do vysokého. Nařízení rozlišuje zhruba čtyři úrovně:
- Zakázané praktiky: použití AI, které EU považuje za nepřijatelné, například manipulace lidí nebo sociální bodování.
- Vysoce rizikové systémy: AI, která rozhoduje o přístupu lidí k důležitým věcem. Mezi oblasti patří biometrie, kritická infrastruktura, vzdělávání a zaměstnávání. Platí pro ně požadavky na řízení rizik, dokumentaci a lidský dohled.
- Povinnosti transparentnosti: člověk má vědět, že mluví s AI, a viditelně označené mají být deepfakes. Texty pro veřejnost o věcech veřejného zájmu se označují, pokud je před zveřejněním nezkontroloval člověk, který za ně odpovídá.
- Minimální riziko: běžné použití, například pomoc s textem, pro které AI Act zvláštní pravidla nezavádí.
Nařízení rozlišuje poskytovatele (provider), tedy toho, kdo systém vyvíjí a uvádí na trh, a zavádějící subjekt (deployer), tedy organizaci, která systém používá ve své činnosti. Škola, úřad nebo firma, která si AI nástroj pořídí, je zpravidla v roli zavádějícího subjektu.
Čím se AI Act liší od GDPR?
AI Act upravuje samotné AI systémy a jejich rizika, GDPR upravuje zpracování osobních údajů. Platí vedle sebe: nástroj, který AI Act povoluje, ještě neznamená, že do něj smíte vkládat údaje o lidech. Na to se dál vztahují pravidla ochrany osobních údajů a anonymizace údajů.
Jaký je nejčastější omyl o AI Actu?
Častý omyl je, že za všechno odpovídá dodavatel nástroje. Část povinností má i organizace, která AI používá. Patří k nim AI gramotnost podle článku 4: poskytovatelé i zavádějící subjekty mají podporovat znalosti svých lidí, kteří s AI systémy pracují. Podle Evropské komise nařízení nepředepisuje povinné měření znalostí zaměstnanců. Prakticky to vede k tomu, co popisuje heslo AI gramotnost. Druhý omyl je, že pravidla začala platit naráz. Zavádějí se postupně: zákazy prvních praktik platí od února 2025 a pravidla pro vysoce rizikové systémy v oblastech, jako je vzdělávání a zaměstnávání, se po změně nařízením (EU) 2026/1744, kterému Komise říká AI Omnibus, uplatňují od 2. prosince 2027.
Koho se AI Act týká v práci?
- Ředitelka školy: zjišťuje, k čemu zaměstnanci AI používají, a rozlišuje přípravu textů od nástrojů, které ovlivňují přijetí nebo hodnocení žáků.
- Personalista: nástroj, který třídí životopisy nebo hodnotí uchazeče, spadá do oblasti zaměstnávání, proto před nákupem prověřuje dokumentaci od dodavatele.
- Marketérka: u realistických obrázků a videí vytvořených AI (deepfakes) hlídá povinnost je označit.
- Správce IT: vede přehled používaných AI nástrojů a jejich účelu.
Příklad z praxe
Vedení střední odborné školy zvažuje nástroj, který automaticky řadí uchazeče o obor podle předpokládané úspěšnosti. Takový nástroj rozhoduje o přístupu ke vzdělání, a může proto patřit mezi vysoce rizikové systémy. Vedení si před nasazením vyžádá od dodavatele informace o účelu a omezeních systému, určí, kdo bude výsledky kontrolovat a kdo může pořadí změnit, a posoudí, jestli nástroj neznevýhodňuje některé skupiny uchazečů. Naopak učitel, který si nechá od AI navrhnout text pozvánky na třídní schůzku, žádné zvláštní povinnosti z AI Actu neplní.
Na co si u AI Actu dát pozor?
- Sepište, kde AI používáte. Přehled nástrojů a jejich účelu je první krok, bez něj nepoznáte, které použití je rizikové.
- Prověřujte nástroje, které rozhodují o lidech. U přijímání, hodnocení nebo výběru zaměstnanců se poraďte s právníkem nebo pověřencem ještě před nákupem.
- Školte lidi. Zajistěte, aby zaměstnanci věděli, co nástroj umí, kde chybuje a co do něj nevkládat.
- Sledujte oficiální zdroje. Termíny se mění, jak ukazuje AI Omnibus. Vycházejte ze stránek Evropské komise a z textu na EUR-Lex, ne z příspěvků na sociálních sítích. Tento text není právní rada.
Časté otázky
Kde najdu AI Act česky?
Úřední české znění nařízení (EU) 2024/1689 je na portálu EUR-Lex, aktuální znění včetně změn najdete jako konsolidované znění. Česká stránka Evropské komise ho nazývá akt o umělé inteligenci.
Od kdy platí AI Act?
AI Act vstoupil v platnost 1. srpna 2024 a povinnosti se uplatňují postupně. Zákazy prvních praktik a povinnost týkající se AI gramotnosti platí od 2. února 2025 (od 27. července 2026 v mírnějším znění), pravidla pro obecné modely AI od 2. srpna 2025 a většina ostatních pravidel, včetně povinností transparentnosti, od 2. srpna 2026. Pravidla pro vysoce rizikové systémy ve vzdělávání a zaměstnávání se po změně nařízením (EU) 2026/1744 uplatňují od 2. prosince 2027.
Týká se AI Act školství?
Ano. Vzdělávání patří mezi oblasti vysokého rizika, pokud AI rozhoduje například o přijetí, hodnotí výsledky učení nebo hlídá podvádění u zkoušek. Běžná příprava materiálů s pomocí AI do této kategorie nespadá.