Sådan fungerer ræsonnementsmodeller
På denne side
Under motorhjelmen på modeller, der “tænker”
Når du øger ræsonnementsniveauet, genererer modellen ikke straks sit svar. Først producerer den ræsonnementstokens, som den bruger til at nedbryde anmodningen og udforske flere måder at svare på. At forstå denne mekanisme er ikke bare teori – det er netop det, der sætter dig i stand til at vælge det rette niveau, forudsige omkostninger og fortolke modellens output korrekt.
Tænk, før du svarer
På et hurtigt niveau (Instant i Chat, none eller low i API’en) svarer modellen næsten direkte. Jo højere niveau du vælger, desto flere tokens bruger modellen på at tænke, før den producerer det synlige svar. Du kan betragte denne fase som et udkast: at nedbryde problemet, udforske indfaldsvinkler, udelukke blindgyder, verificere og derefter syntetisere. Dette er en nyttig mental model, ikke en officiel beskrivelse af de interne processer; det, OpenAI beskriver, er en model, der dekomponerer anmodningen og overvejer flere tilgange, før den svarer.
Tag udtrykket “17 × 23 + 45 ÷ 9 − 12”. Uden ræsonnement er risikoen for fejl i forhold til operatorpræcedens reel. Med et højere niveau tager modellen sig tid til først at behandle multiplikation og division (391 og 5), derefter addition og subtraktion (391 + 5 − 12 = 384) og verificerer resultatet, før det præsenteres.
Ræsonnementstokens: Usynlige, men medregnet
Ræsonnementstokens vises ikke i svaret, men de tæller med. I API’en optager de plads i kontekstvinduet og faktureres som output-tokens. Afhængigt af sværhedsgraden kan en model generere alt fra få hundrede til flere titusindvis af disse tokens. Hvis output-grænsen (max_output_tokens) nås under ræsonnementet, returneres svaret med statussen incomplete, nogle gange før der overhovedet er produceret synlig tekst; OpenAI anbefaler at reservere mindst 25.000 tokens til ræsonnement og svar, når du begynder at eksperimentere.
Rå ræsonnement eksponeres ikke. I API’en kan du anmode om et ræsonnementssammendrag ved hjælp af parameteren reasoning.summary. I ChatGPT med GPT-6 kan et svar begynde, mens modellen stadig tænker, og derefter beriges med detaljer senere.
Pro, Max og Ultra: Tre måder at gøre mere på
Ud over indsatsniveauer findes der tre mekanismer, der driver ræsonnementet endnu længere, og det er vigtigt ikke at forveksle dem.
- Pro-tilstand (
reasoning.mode: "pro"i API’en, Pro-niveau i Chat) får modellen til at arbejde hårdere på svære opgaver, der tolererer højere ventetid. I API’en faktureres dette ekstra arbejde til standardtaksten for den valgte model, men det forbruger flere tokens. - Max, både i Work og Codex samt i API’en (
max), giver modellen mere tid til at ræsonnere over en enkelt opgave. - Ultra, kun tilgængeligt i Work og Codex, går ud over en enkelt agent: det tildeler dele af en kompleks opgave til under-agenter, der arbejder parallelt. Det er kun nyttigt, hvis arbejdet kan opdeles i uafhængige bidder. GPT-6 Luna går op til Max, men ikke til Ultra.
Hvad ræsonnement ændrer, og hvad det ikke ændrer
Et højt ræsonnementsniveau gør en forskel for specifikke problemtyper: matematik og statistik, logik og deduktion, kompleks kode og fejlfinding, strategisk analyse med vægtede kriterier og generelt enhver opgave, der kræver flere trin. OpenAI anbefaler derfor high til svær ræsonnement, kompleks fejlfinding og dybdegående planlægning.
Det er dog ingen mirakelkur. Modellen kan stadig lave fejl efter at have ræsonneret: en falsk præmis leder til en falsk konklusion, uanset hvor omhyggelig ræsonnementsprocessen er. Ræsonnement øger svartiden og omkostningerne. Og for en simpel opgave tilføjer det intet, som et hurtigt niveau ikke allerede kunne håndtere.
Prøv det selv
Se mekanismen i aktion. Stil først dette spørgsmål på et hurtigt niveau og derefter på et højt niveau (Instant derefter High i Chat, eller low derefter high i API’en): “Et tog forlader Paris kl. 8.00 med en hastighed på 120 km/t. Et andet tog forlader Lyon, 465 km væk, kl. 8.30 med en hastighed på 150 km/t mod Paris. På hvilket tidspunkt og i hvilken afstand fra Paris mødes de?” Verificér selv det forventede svar: kl. 10.00, 240 km fra Paris. Hvis du bruger API’en, så sammenlign antallet af ræsonnementstokens, der rapporteres i svar-brugen (usage) for begge niveauer.
Officielle kilder: Reasoning models (OpenAI API: ræsonnementstokens, fakturering, kontekst, sammendrag, pro-tilstand, indsatsniveauer) · Models (ChatGPT-dokumentation: Max og Ultra) · GPT-6 and other models in ChatGPT (svar, der starter under ræsonnement)
Vigtige pointer
- Ræsonnement tilføjer tænke-tokens før svaret; antallet vokser med det valgte niveau
- Disse tokens er usynlige, optager kontekst og faktureres som output-tokens i API’en
- Sørg for tilstrækkelig output-margin, ellers returneres svaret som ufuldstændigt
- Pro får modellen til at arbejde hårdere, Max giver den mere tid, Ultra fordeler arbejdet på under-agenter (Work og Codex)
- Ræsonnement immuniserer ikke mod fejl: en falsk præmis leder til en falsk konklusion