AI governance je soubor pravidel, rolí a postupů, kterými organizace řídí, jak se u ní umělá inteligence vybírá, používá a kontroluje. Určuje, kdo smí jaký AI nástroj použít, s jakými daty, kdo za výsledek odpovídá a jak se rizika průběžně hlídají.
Co obsahuje AI governance?
AI governance odpovídá na otázku, kdo v organizaci o AI rozhoduje a podle čeho. V praxi má obvykle tyto části:
- Pravidla používání: které nástroje jsou schválené a jaká data do nich smějí. Bez nich vzniká shadow AI, tedy neschválené nástroje používané potají.
- Role a odpovědnost: kdo nástroje schvaluje, kdo odpovídá za výstup a na koho se obrátit při problému.
- Evidence: seznam používaných AI systémů a účelů, ke kterým slouží.
- Posouzení rizik: u každého použití, co se stane, když AI udělá chybu, a jaká kontrola tomu brání.
- Vzdělávání: lidé musejí umět s AI pracovat, což souvisí s povinností podporovat AI gramotnost.
Jak AI governance souvisí s AI Actem a dalšími rámci?
AI governance je vnitřní řízení organizace, kdežto AI Act je evropské nařízení, které některé povinnosti předepisuje. Dobře nastavené řízení pomáhá nařízení plnit, ale je širší: řeší i kvalitu, náklady a reputaci. Organizace se často opírají o veřejné rámce. Americký institut NIST vydal dobrovolný rámec pro řízení rizik AI (AI RMF) se čtyřmi funkcemi: řídit (Govern), mapovat (Map), měřit (Measure) a spravovat (Manage). OECD formulovala zásady důvěryhodné AI, ke kterým se hlásí desítky zemí.
Častý omyl: governance není jednorázový dokument v šuplíku. Nástroje i jejich podmínky se mění, takže pravidla potřebují pravidelnou revizi a někoho, kdo ji hlídá.
Kdo se AI governance v organizaci věnuje?
- Vedení: schvaluje strategii a míru rizika, kterou je ochotné přijmout.
- Pověřenec pro ochranu osobních údajů: posuzuje, kdy AI zpracovává osobní údaje.
- Správce IT: nastavuje přístupy a vede evidenci nástrojů.
- Vedoucí týmů: převádějí pravidla do každodenní práce svých lidí.
Příklad z praxe
Menší účetní firma začíná jednoduše: vedení schválí dva AI nástroje s firemními účty, zakáže vkládat do jiných nástrojů údaje klientů, jmenuje jednoho člověka odpovědného za AI a jednou za půl roku pravidla projde. Celé to zabere dvě stránky textu a jedno školení, a přesto pokrývá hlavní rizika.
Na co si u AI governance dát pozor?
- Plošný zákaz AI obvykle nefunguje, lidé pak používají nástroje potají. Lepší je nabídnout schválenou alternativu.
- Pravidla pište srozumitelně a s příklady, ne právnickým jazykem, jinak je nikdo nebude číst.
- U každého nástroje si ověřte, zda poskytovatel používá vaše data k trénování, a zapište to do evidence.
Časté otázky
Co je AI governance framework?
Rámec, tedy hotová struktura otázek a postupů, podle které si organizace řízení AI nastaví. Známé jsou například NIST AI RMF a zásady OECD.
Potřebuje AI governance i malá firma?
Ano, jen v menším rozsahu. Stačí seznam schválených nástrojů, pravidla pro data a jeden odpovědný člověk.
Jaký je rozdíl mezi AI governance a bezpečností AI?
Bezpečnost AI je obor zkoumající, jak zabránit škodám z AI. AI governance je způsob, jak organizace tato i další rizika řídí v každodenním provozu.