Styr ræsonnementsindsatsen, fra ChatGPT til API'en
På denne side
Indstil refleksion for hver opgave
Lektion 1 til 3 gav dig kortet over indstillingerne og OpenAIs retningslinjer. Denne lektion fokuserer på kontrollerne: hvordan du justerer indsatsen undervejs, styrer omkostningerne og automatiserer processen i en applikation. Princippet er uændret: ræsonnementsniveauet er et kompromis, ikke en kvalitetsregulator. Det påvirker samtidig fire variabler: antallet af ræsonnementstokens, svartid, analysedybde samt kvoteforbrug eller omkostninger.
I ChatGPT: En indstilling pr. besked
I chatten justerer skyderen Thinking for GPT-6 indsatsen pr. besked: du kan blive på Instant for at omformulere, skifte til High til analyse og derefter skrue ned igen. Højere niveauer trækker på kvoter specifikke for dit abonnement; når du rammer grænsen, kan ChatGPT fortsætte med en anden tilgængelig model og angiver, hvor det er muligt, hvornår kvoten nulstilles. I Work og Codex spiller effektskyderen den samme rolle, lige fra Faster til Smarter, mens Max og Ultra holdes i reserve. Bedste praksis i begge tilfælde: start med standardindstillingen og øg den kun, hvis resultatet ikke er tilstrækkeligt.
I API’en: Fem spjæld
For udviklere giver fem parametre i Responses API dig fuld kontrol over ræsonnementet:
reasoning.effortsætter niveauet, franonetilmaxafhængigt af modellen: GPT-6 Astra og GPT-6.1 Sol starter vedlow, mens GPT-6.1 Terra og GPT-6 Luna accepterernone.reasoning.mode, som standard erstandardeller kan sættes tilpro, får modellen til at arbejde hårdere uden at ændre indsatsniveauet; dette ekstra arbejde faktureres til modellens standardtakst, men forbruger flere tokens.max_output_tokenssætter loftet for det samlede antal genererede tokens, inklusive ræsonnement. Sætter du det for lavt, får du ufuldstændige svar; OpenAI anbefaler at reservere mindst 25.000 tokens, når du begynder at eksperimentere.reasoning.summaryanmoder om et sammendrag af ræsonnementsprocessen, da selve ræsonnementet aldrig vises direkte.configuration_update, et element indsat mellem to svar, ændrer indsatsniveauet midt i en samtale på kompatible GPT-6-modeller uden at røre ved de oprindelige anmodningsindstillinger: prompt-præfikset forbliver intakt, og prompt-cachen fortsætter med at fungere.
Sådan ser det sidste element ud, indsat før brugerens næste besked:
{
"type": "configuration_update",
"reasoning": { "effort": "high" }
}
En samtale startet ved low skifter dermed til high for det næste svar og de efterfølgende, indtil en ny opdatering sker.
Påvirkningen på omkostningerne
Ræsonnementstokens faktureres som output-tokens, og antallet vokser hurtigt med niveauet: fra få hundrede til titusindvis for et svært problem. Modelvalget betyder lige så meget: pr. output-token koster GPT-6 Luna tyve gange mindre end GPT-6.1 Sol, og GPT-6 Astra koster fem gange mere. I ChatGPT oversættes omkostninger til kvoter: antallet af krævende forespørgsler mulige pr. periode.
Tre optimeringsstrategier
Den første er eskaleringsstrategien: start ikke i toppen. Begynd med standardniveauet, medium i API’en, eller lavere for en triviel opgave; hvis svaret er ufuldstændigt eller forkert, ryk et trin op; reserver xhigh, max, pro-tilstand, Max og Ultra til problemer, der berettiger det. I en applikation muliggør configuration_update denne eskalering inden for én enkelt samtale.
Den anden er opgavebaseret triage, som du bør gøre til en vane: omformulering og klassificering på laveste niveau, udkast og simple analyser ved low, planlægning og vurdering ved medium, fejlfinding og svære problemer ved high, langvarig research ved xhigh og ekstreme tilfælde ved max.
Den tredje er at parre den rigtige model med det rigtige niveau. GPT-6.1 Sol ved high eller derover, eventuelt i pro-tilstand, håndterer krævende problemer; GPT-6 Astra er forbeholdt de sværeste; GPT-6.1 Terra håndterer skrivning, billeder og applikationsorkestrering; GPT-6 Luna, ved low eller medium, absorberer volumen til lavere omkostninger.
Din tur
Find punktet for aftagende afkast. Stil følgende spørgsmål tre gange på tre niveauer (Instant, Medium og derefter High i Chat, eller low, medium og derefter high i API’en), og sammenlign analysedybden og – i API’en – de forbrugte ræsonnementstokens.
“A company has 5 projects. Project A: €100k, ROI 3.2x, medium risk. Project B: €250k, ROI 1.8x, low risk. Project C: €50k, ROI 5.1x, high risk. Project D: €150k, ROI 2.4x, medium risk. Project E: €75k, ROI 4.0x, high risk. The total budget is €400k. Which projects should be funded to maximize risk-adjusted ROI? Explicitly state the adjustment rule used.”
Identificer det niveau, hvor det ikke længere kan betale sig at gå højere: det er din indstilling for denne type spørgsmål.
Officielle kilder: Reasoning models (OpenAI API: effort, pro mode, max_output_tokens, summaries, configuration_update, billing) · Models (accepterede indsatsniveauer og prissætning pr. model) · GPT-6 and other models in ChatGPT (niveauer, kvoter og fallback i Chat)
Vigtige pointer
- Indsats varierer tokens, ventetid, dybde og omkostninger samlet: det er et kompromis
- I ChatGPT justeres niveauet pr. besked inden for abonnementets kvoter
- I API’en:
reasoning.effort,reasoning.mode,max_output_tokens,reasoning.summaryogconfiguration_update - Eskalering, opgave-triage og den rigtige model-niveau-parring er de tre spjæld til besparelser
- Ændring af indsats midt i samtalen med
configuration_updatebevarer prompt-cachen