Příklady v zadání (few-shot) jsou ukázky hotového výsledku, které vložíte přímo do promptu, aby model podle nich zpracoval nový vstup stejným způsobem. Model z několika dvojic „vstup a správný výstup“ odvodí formát, styl i pravidlo, aniž byste je museli podrobně popisovat.
Jak fungují příklady v zadání?
Příklady v zadání fungují tak, že model navazuje na vzor, který vidí v textu. Když v promptu najde tři zprávy, za každou správnou kategorii a pak čtvrtou zprávu bez kategorie, pokračuje stejným vzorcem. Model se tím nic trvale nenaučí: ukázky platí jen pro daný rozhovor, protože leží v jeho kontextovém okně. Odborně se mluví o učení z kontextu (in-context learning).
Rozlišují se tři varianty: zero-shot (žádná ukázka, jen pokyn), one-shot (jedna ukázka) a few-shot (několik ukázek). Dokumentace výrobců modelů doporučuje few-shot hlavně tam, kde záleží na přesném formátu nebo tónu.
Kdy se příklady v zadání vyplatí?
Příklady se vyplatí, když je výsledek snazší ukázat než popsat: jednotný formát záznamů, třídění do kategorií, specifický styl psaní nebo převod údajů do tabulky. U jednoduchých dotazů typu „vysvětli pojem“ zbytečně prodlužují zadání. Výhodou je, že ukázka často řekne víc než dlouhý popis pravidel. Dokumentace Anthropic řadí ukázky k nejspolehlivějším způsobům, jak určit formát, tón a strukturu výstupu.
Jaký je nejčastější omyl o příkladech v zadání?
Častý omyl je, že model z ukázek převezme jen to, co chcete. Převezme ale všechno, co mají společné: délku, oslovení, slovní obraty i chyby. Když jsou všechny tři ukázky krátké a začínají stejně, budou takové i nové výstupy. Ukázky proto mají být rozmanité a bezchybné, a pokrýt i hraniční případ.
K čemu se příklady v zadání hodí v práci?
- Pracovnice studijního oddělení: třídí příchozí e-maily do kategorií (potvrzení o studiu, změna údajů, žádost o odklad) podle tří vzorových zpráv.
- Marketérka: vloží dva starší příspěvky, které měly dobrý ohlas, a nechá napsat nový ve stejném tónu.
- Úředník: převádí volně psané žádosti do tabulky se sloupci podle jedné vzorově vyplněné řádky.
Příklad zadání
Vedoucí zákaznické podpory chce rychle roztřídit zpětnou vazbu z dotazníku.
Zařaď každý komentář do jedné kategorie: Pochvala, Stížnost, Návrh, Jiné. Řiď se těmito ukázkami: <ukazka>Komentář: "Objednávka přišla den předem, díky." -> Pochvala</ukazka> <ukazka>Komentář: "Na fakturu čekám už třetí týden." -> Stížnost</ukazka> <ukazka>Komentář: "Uvítal bych platbu kartou na pobočce." -> Návrh</ukazka> Když si nejsi jistý, použij Jiné. Výstup: tabulka Komentář | Kategorie. Komentáře: <KOMENTARE>
Model vrátí tabulku ve stejném tvaru jako ukázky. Projděte namátkou deset řádků a zvlášť kategorii Jiné, kde se schovávají sporné případy.
Na co si u příkladů v zadání dát pozor?
- Ukázky označte (například značkami <ukazka>), aby je model nezaměnil s textem ke zpracování.
- Do ukázek nedávejte skutečné osobní údaje, použijte smyšlené nebo anonymizované texty.
- U třídění vždy určete, co dělat se vstupem, který nepasuje do žádné kategorie, jinak ho model někam násilně zařadí.
Časté otázky
Kolik příkladů dát do zadání?
Obvykle stačí tři až pět rozmanitých ukázek, které doporučuje i dokumentace Anthropic. Příliš mnoho ukázek ale podle dokumentace Googlu může vést k tomu, že je model napodobuje až příliš doslova.
Jaký je rozdíl mezi zero-shot a few-shot?
Zero-shot znamená zadání bez ukázek, jen s pokynem. Few-shot přidává několik vzorů vstupu a výstupu, podle kterých model pozná přesný formát.