Kdy zvýšit úroveň uvažování (a kdy ji přeskočit)
Na této stránce
Věz, kdy přemýšlet a kdy ne
Nastavovat uvažování na maximum pro každý požadavek je jako používat sbíječku k zatloukání hřebíku. Tato lekce tě naučí rozpoznávat situace, kdy uvažování přináší skutečnou hodnotu, a ty četné případy – častější, než si možná myslíš –, kdy tě jen zpomaluje a zvyšuje náklady.
Doporučení OpenAI podle úrovní
Dokumentace API popisuje, jak používat jednotlivé úrovně úsilí. Stejná pravidla platí s drobnými rozdíly i pro posuvník v ChatGPT.
| Úroveň | K čemu ji použít podle OpenAI | Ekvivalent v posuvníku Chatu |
|---|---|---|
none | Úlohy kritické z hlediska latence: hlas, rychlé vyhledávání informací, klasifikace | Okamžitě |
low | Efektivní uvažování: analýza dat, psaní, spustitelný kód, zákaznická podpora | Okamžitě nebo Středně |
medium | Kvalita a spolehlivost, plánování a úsudek; nejvyváženější výchozí nastavení | Středně |
high | Obtížné uvažování, složité ladění, hluboké plánování | Vysoko |
xhigh | Hluboký výzkum a dlouhodobé úlohy, pouze pokud vaše testy prokáží přínos | Extra vysoko |
max | Nejsložitější úlohy, které je třeba vyhodnotit vůči xhigh | Pro, nebo Max v pracovním režimu |
Zaměř se zejména na řádek medium: je to doporučený výchozí bod pro většinu případů použití. Sniž úroveň, když záleží více na rychlosti než na hloubce, a zvyš ji, když to úloha vyžaduje.
Kdy zvýšit úroveň
Prvním signálem jsou řetězené kroky. Pokud správná odpověď vyžaduje vyřešit A, abys pochopil B, a následně zkombinovat A a B pro získání C, zvyš úroveň. Příkladem je přesně tento typ úlohy: „Analyzuj tyto tři obchodní nabídky, porovnej je podle pěti vážených kritérií a doporuč tu nejlepší s odůvodněním.“
Druhým signálem je matematika nebo logika: výpočty, dedukce, kombinatorika. Porovnej například obě úrovně na úloze: „Vypočítej degresivní odpisy majetku v hodnotě 120 000 € po dobu 5 let s koeficientem 1,75.“ Třetím faktorem je přesnost: když je chyba nákladná (finanční výpočty, právní analýza, algoritmy), vyšší úroveň dá modelu čas na ověření práce. Čtvrtým faktorem je strategie: plánování projektu, hodnocení scénářů nebo tvorba rozhodovacího stromu.
Kdy zůstat na nízké úrovni
Naopak většina úloh spojených s formulací textu z extra uvažování nic nezíská. Návrh e-mailu nebo příspěvku, překlad, přeformulování, shrnutí za účelem komprese, odpověď na jednoduchou faktickou otázku nebo brainstorming: k tomu stačí rychlá úroveň a OpenAI dokonce řadí psaní mezi případy použití pro low. Shrnutí mění kategorii pouze tehdy, když cílem není komprese, ale poskytnutí kritické analýzy textu.
Rozhodovací strom
Před nastavením požadavku stačí tři otázky:
- Vyžaduje úloha více kroků uvažování? Pokud ano, alespoň Středně (
medium). - Je přesnost kritická? Pokud ano, Vysoko (
high) nebo výše, plus ověření nástrojem. - Záleží více na rychlosti než na hloubce? Pokud ano, Okamžitě (
nonenebolow).
Náklady a čas: praktické faktory
Každá úroveň stojí tokeny a sekundy. Tokeny uvažování se fakturují jako výstupní tokeny a mohou se pohybovat od několika set po desítky tisíc u obtížného problému; čím vyšší úroveň, tím delší čekání. V ChatGPT čerpají vyšší úrovně z kvót specifických pro tvůj plán; když dosáhneš limitu, ChatGPT může pokračovat s jiným dostupným modelem. Kompromis je symetrický: plýtvání maximální úrovní na jednoduchý úkol znamená platit a čekat zbytečně; řešení složitého problému na minimální úrovni přinese průměrný výsledek, za který později zaplatíš opravami.
Teď jsi na řadě
Trénuj svůj cit. Zařaď těchto šest úloh, než se podíváš do pravého sloupce, a poté si cvičení zopakuj s vlastními požadavky z tohoto týdne.
| Úloha | Očekávané nastavení |
|---|---|
| „Navrhni následný e-mail pro klienta“ | Rychle |
| „Optimalizuj tento rozpočet při dodržení těchto čtyř omezení“ | Vysoko |
| „Přelož tento odstavec do němčiny“ | Rychle |
| „Najdi logickou chybu v tomto tříbodovém argumentu“ | Středně až Vysoko |
| „Vygeneruj deset nápadů na název pro můj startup“ | Rychle |
| „Vypočítej vnitřní míru návratnosti (IRR) desetileté investice“ | Vysoko, s ověřením |
Čekají na tebe dvě symetrické chyby: nadužívání uvažování (pomalé odpovědi, rostoucí náklady) a jeho podceňování (zůstávání na rychlosti u složitých problémů). Třetí chyba je zákeřnější: nikdy neupravovat nastavení v průběhu práce. V rámci jedné konverzace sniž úroveň pro přeformulování a zvyš ji pro analýzu.
Oficiální zdroje: Modely s uvažováním (OpenAI API: doporučená použití podle úrovně úsilí, fakturace tokenů uvažování) · GPT-6 a další modely v ChatGPT (Úrovně chatu, limity a záložní přechod na jiný model)
Klíčové poznatky
mediumje doporučený výchozí bod; sniž pro rychlost, zvyš pro obtížnost- Zvyš úroveň pro vícekrokové problémy, výpočty, kritickou přesnost a strategii
- Zůstaň rychlý u psaní, překladů, přeformulování, jednoduchých otázek a brainstormingu
- Stačí tři otázky: více kroků? kritická přesnost? priorita rychlosti?
- Upravuj úroveň pro každý požadavek zvlášť: je to posuvník, ne trvalá volba