Stínová AI (shadow AI) je používání nástrojů umělé inteligence v práci bez vědomí a schválení organizace, typicky když zaměstnanec vloží pracovní dokument do osobního účtu chatbota. Problém není AI samotná, ale to, že organizace neví, kam její data odcházejí a kdo za výsledky ručí.
Jak vzniká stínová AI?
Stínová AI vzniká, když lidé potřebují práci zrychlit a schválený nástroj nemají, neznají nebo jim nestačí. Sáhnou proto po tom, co mají po ruce: soukromém účtu v ChatGPT, rozšíření do prohlížeče, které „shrne stránku“, nebo AI funkci v aplikaci, kterou si stáhli sami.
Pojem navazuje na starší stínové IT (shadow IT), tedy software a služby používané mimo kontrolu správce IT. U AI je riziko vyšší ze dvou důvodů: do nástroje se vkládá přímo obsah práce (texty, tabulky, e-maily) a výstup se často použije bez kontroly, takže se do dokumentů může dostat halucinace.
Častý omyl: stínovou AI vyřeší zákaz. Podle průzkumu Microsoftu z roku 2024 si 78 % lidí, kteří AI v práci používají, nosí vlastní nástroje. Zákaz bez schválené alternativy proto může používání AI jen přesunout mimo dohled organizace.
Jak stínová AI vypadá v práci?
- Účetní: nahraje export faktur s rodnými čísly a adresami do bezplatného chatbota, aby z něj udělal přehled.
- Marketér: používá aplikaci na generování obrázků, jejíž podmínky dovolují obsah dál využívat, a výsledky jdou do kampaně.
- Vedoucí týmu: nechá si rozšířením v prohlížeči nahrávat a přepisovat porady, o kterém nikdo z účastníků neví.
- Ředitelka školy: zjistí, že část učitelů hodnotí slohové práce žáků v různých nástrojích, každý jinak, a do nich jdou jména žáků.
Příklad z praxe
Správce IT v menší firmě zjistí, že kolegové vkládají smlouvy do soukromých účtů chatbotů. Místo zákazu udělá tři kroky: vybere jeden firemní nástroj s pracovními účty, kde je výchozí nastavení bez použití dat k trénování, sepíše jednostránková pravidla, co se do něj smí a nesmí vkládat, a hodinou školení ukáže, jak citlivé části textu před vložením nahradit. Po měsíci se ptá týmů, co jim v nástroji chybí, aby nesahali jinam.
Na co si u stínové AI dát pozor?
- Úniky dat: osobní údaje a obchodní tajemství nevkládejte do nástroje, který organizace neschválila. Když nástroj potřebujete, řekněte si o něj, než ho začnete používat.
- Podmínky služby: u bezplatných a soukromých účtů si zkontrolujte, zda poskytovatel smí vložená data použít ke zlepšování modelu, a jak to vypnout.
- Odpovědnost: za text, který odešlete, odpovídáte vy, ne nástroj. Výstup vždy přečtěte a fakta ověřte.
- Pro vedení: místo plošného zákazu nabídněte schválený nástroj, srozumitelná pravidla a školení. V organizacích kolem vzdělávání se hodí pravidla pro používání AI.
Časté otázky
Jaká jsou rizika shadow AI?
Hlavní rizika jsou únik osobních údajů a důvěrných informací, porušení smluv nebo GDPR a chybné výstupy, které nikdo nezkontroloval. Organizace navíc nemá přehled, a proto nemůže reagovat, když se něco stane.
Jaký je rozdíl mezi shadow AI a shadow IT?
Shadow IT je jakýkoli neschválený software nebo služba, shadow AI je jeho část týkající se nástrojů umělé inteligence. Liší se tím, že do AI lidé vkládají přímo obsah práce a výstup rovnou používají.
Týká se shadow AI i Microsoft 365?
Ano, pokud lidé používají AI funkce nebo doplňky, které organizace nepovolila, nebo pracovní dokumenty přenášejí do soukromých účtů. Schválený firemní Copilot pod pracovním účtem stínovou AI není.