Kedy zvýšiť úroveň usudzovania (a kedy ju vynechať)
Na tejto strane
Vedz, kedy myslieť a kedy nie
Nastavenie usudzovania na maximum pri každej požiadavke je ako používať príklepové kladivo na zatĺkanie klinca. Táto lekcia ťa naučí rozpoznať situácie, v ktorých usudzovanie prináša skutočnú hodnotu, a mnohé prípady – častejšie, než si možno myslíš –, keď ťa len spomaľuje a zvyšuje náklady.
Odporúčania OpenAI podľa úrovní
Dokumentácia API opisuje, ako používať každú úroveň úsilia. Tieto rovnaké smernice platia s menšími rozdielmi aj pre posuvník v ChatGPT.
| Úroveň | Na čo ju použiť podľa OpenAI | Ekvivalent posuvníka v Chate |
|---|---|---|
none | Úlohy kritické z hľadiska odozvy: hlas, rýchle vyhľadávanie informácií, klasifikácia | Okamžité |
low | Efektívne usudzovanie: analýza dát, písanie, spustiteľný kód, zákaznícka podpora | Okamžité alebo Stredné |
medium | Kvalita a spoľahlivosť, plánovanie a úsudok; najvyváženejšie predvolené nastavenie | Stredné |
high | Náročné usudzovanie, komplexné ladenie chýb, hlboké plánovanie | Vysoké |
xhigh | Hlboký výskum a dlhotrvajúce úlohy, len ak tvoje testy preukážu prínos | Extra vysoké |
max | Najkomplexnejšie úlohy, ktoré treba porovnať s xhigh | Pro, alebo Max v práci (Work) |
Zameraj sa najmä na riadok medium: je to odporúčaný východiskový bod pre väčšinu prípadov použitia. Zníž ho, keď je rýchlosť dôležitejšia ako hĺbka, a zvýš ho, keď si to úloha vyžaduje.
Kedy zvýšiť úroveň
Prvým signálom sú prepojené kroky. Ak správna odpoveď vyžaduje vyriešiť A, aby si pochopil B, a následne skombinovať A a B, aby si získal C, zvýš úroveň. Presne do tejto kategórie patrí zadanie: „Analyzuj tieto tri obchodné ponuky, porovnaj ich podľa piatich vážených kritérií a odporuč tú najlepšiu s odôvodnením.“
Druhým signálom je matematika alebo logika: výpočty, dedukcie, kombinatorika. Napríklad porovnaj obe úrovne pri úlohe: „Vypočítaj degresívne odpisy majetku v hodnote 120 000 € počas 5 rokov s koeficientom 1,75.“ Tretím faktorom je presnosť: keď je chyba nákladná (finančné výpočty, právna analýza, algoritmy), vyššia úroveň dá modelu čas na overenie práce. Štvrtým faktorom je stratégia: plánovanie projektu, hodnotenie scenárov alebo tvorba rozhodovacieho stromu.
Kedy zostať na nízkej úrovni
Naopak, väčšina úloh týkajúcich sa formulácie textu nezíska extra usudzovaním nič. Napísanie e-mailu alebo príspevku, preklad, preformulovanie, zhrnutie na účel kompresie, odpoveď na jednoduchú faktickú otázku alebo brainstorming: na to stačí rýchla úroveň a OpenAI dokonca uvádza písanie medzi prípady použitia pre low. Zhrňovanie mení kategóriu len vtedy, keď cieľom nie je kompresia, ale poskytnutie kritickej analýzy textu.
Rozhodovací strom
Pred konfiguráciou požiadavky stačia tri otázky:
- Vyžaduje si úloha viacero krokov usudzovania? Ak áno, aspoň Stredné (
medium). - Je presnosť kritická? Ak áno, Vysoké (
high) alebo vyššie, plus overenie nástrojom. - Záleží na rýchlosti viac než na hĺbke? Ak áno, Okamžité (
nonealebolow).
Náklady a čas: praktické faktory
Každá úroveň stojí tokeny a sekundy. Tokeny usudzovania sa fakturujú ako výstupné tokeny a môžu sa pohybovať od niekoľkých stoviek po desaťtisíce pri náročnom probléme; čím vyššia úroveň, tým dlhšie čakanie. V ChatGPT čerpajú vyššie úrovne z kvót špecifických pre tvoj plán; keď dosiahneš limit, ChatGPT môže pokračovať s iným dostupným modelom. Kompromis je symetrický: plytvanie maximálnou úrovňou na jednoduchú úlohu znamená platiť a čakať zbytočne; riešenie komplexného problému na minimálnej úrovni prináša priemerný výsledok, za ktorý neskôr zaplatíš opravami.
Teraz si na rade ty
Trénuj svoj sluch. Klasifikuj týchto šesť úloh predtým, než sa pozrieš do pravého stĺpca, a potom si cvičenie zopakuj s vlastnými požiadavkami z tohto týždňa.
| Úloha | Očakávané nastavenie |
|---|---|
| „Napíš follow-up e-mail pre klienta“ | Rýchle |
| „Optimalizuj tento rozpočet pri dodržaní týchto štyroch obmedzení“ | Vysoké |
| „Prelož tento odsek do nemčiny“ | Rýchle |
| „Nájdi logickú chybu v tomto trojbodovom argumente“ | Stredné až Vysoké |
| „Vygeneruj desať nápadov na názov pre môj startup“ | Rýchle |
| „Vypočítaj vnútornú mieru návratnosti (IRR) desaťročnej investície“ | Vysoké, s overením |
Čakajú na teba dve symetrické chyby: nadmerné používanie usudzovania (pomalé odpovede, rastúce náklady) a jeho podceňovanie (zotrvanie na rýchlosti pri komplexných problémoch). Tretia je zákerná: nikdy neupraviť nastavenie v priebehu práce. V rámci jednej konverzácie úroveň zníž pri preformulovaní a zvýš pri analýze.
Oficiálne zdroje: Modely usudzovania (OpenAI API: odporúčané použitia podľa úrovne úsilia, fakturácia tokenov usudzovania) · GPT-6 a ďalšie modely v ChatGPT (Úrovne v Chate, limity a záložné prepnutie na iný model)
Kľúčové poznatky
mediumje odporúčaný východiskový bod; zníž ho pre rýchlosť, zvýš pre náročnosť- Zvýš úroveň pri viackrokových problémoch, výpočtoch, kritickej presnosti a stratégii
- Zostaň rýchly pri písaní, preklade, preformulovaní, jednoduchých otázkach a brainstormingu
- Stačia tri otázky: viacero krokov? kritická presnosť? priorita rýchlosti?
- Upravuj úroveň pri každej požiadavke zvlášť: je to posuvník, nie trvalá voľba