Styra resonemangsinsatsen, från ChatGPT till API:t
På denna sida
Finjustera reflektion för varje uppgift
Lektion 1 till 3 gav dig kartan över inställningar och OpenAI:s riktlinjer. Den här lektionen handlar om reglagen: hur du justerar insatsen under arbetets gång, hanterar kostnaden och automatiserar processen i en applikation. Principen är oförändrad: resonemangsnivån är en avvägning, inte en kvalitetsreglage. Den påverkar samtidigt fyra variabler: antalet resonemangstokens, svarstiden, analysdjupet samt kvotförbrukning eller kostnad.
I ChatGPT: En inställning per meddelande
I chatten justerar reglaget Thinking för GPT-6 nivån per meddelande: du kan hålla dig på Instant för att formulera om, växla till High för analys och sedan skruva ner det igen. Högre nivåer drar från kvoter som är specifika för din plan; när du når gränsen kan ChatGPT fortsätta med en annan tillgänglig modell och anger, där det är möjligt, när kvoten återställs. I Work och Codex spelar effektre glaget samma roll, med ett spann från Faster till Smarter, medan Max och Ultra hålls i reserv. Bästa praxis i båda fallen: börja med standardinställningen och öka endast om resultatet inte räcker till.
I API:t: Fem reglage
För utvecklare ger fem parametrar i Responses API:t dig full kontroll över resonemanget:
reasoning.effortsätter nivån, frånnonetillmaxberoende på modell: GPT-6 Astra och GPT-6.1 Sol startar pålow, medan GPT-6.1 Terra och GPT-6 Luna accepterarnone.reasoning.mode, som ärstandardsom standard eller kan sättas tillpro, får modellen att arbeta hårdare utan att ändra insatsnivån; detta extra arbete debiteras till modellens standardtaxa men förbrukar fler tokens.max_output_tokenssätter ett tak för det totala antalet genererade tokens, inklusive resonemang. Sätter du det för lågt får du ofullständiga svar; OpenAI rekommenderar att du reserverar minst 25 000 tokens när du börjar experimentera.reasoning.summarybegär en sammanfattning av resonemangsprocessen, eftersom råa resonemang aldrig exponeras.configuration_update, ett element som infogas mellan två svar, ändrar insatsnivån mitt i en konversation på kompatibla GPT-6-modeller utan att röra de ursprungliga begäransinställningarna: prompt-prefixet förblir intakt och prompt-cachen fortsätter att fungera.
Så här ser det sista elementet ut, infogat innan användarens nästa meddelande:
{
"type": "configuration_update",
"reasoning": { "effort": "high" }
}
En konversation som startade på low växlar därmed till high för nästa svar och de som följer, tills en ny uppdatering sker.
Påverkan på kostnaderna
Resonemangstokens debiteras som output-tokens, och antalet växer snabbt med nivån: från några hundra till tiotusentals för ett svårt problem. Valet av modell är lika viktigt: per output-token kostar GPT-6 Luna tjugo gånger mindre än GPT-6.1 Sol, och GPT-6 Astra kostar fem gånger mer. I ChatGPT översätts kostnaden till kvoter: antalet krävande förfrågningar som är möjliga per period.
Tre optimeringsstrategier
Den första är eskaleringsstrategin: börja inte på toppen. Inled med standardnivån, medium i API:t, eller lägre för en trivial uppgift; om svaret är ofullständigt eller felaktigt, höj nivån ett steg; spara xhigh, max, pro-läge, Max och Ultra för problem som motiverar dem. I en applikation möjliggör configuration_update denna eskalering inom en och samma konversation.
Den andra är uppgiftsbaserad triage, vilket du bör göra till en vana: omformulering och klassificering på lägsta nivån, utkast och enkla analyser på low, planering och bedömning på medium, felsökning och svåra problem på high, långsiktig research på xhigh och extrema fall på max.
Den tredje är att para ihop rätt modell med rätt nivå. GPT-6.1 Sol på high eller högre, eventuellt i pro-läge, hanterar krävande problem; GPT-6 Astra reserveras för de svåraste; GPT-6.1 Terra hanterar skrivande, bild och applikationsorkestrering; GPT-6 Luna, på low eller medium, absorberar volym till lägre kostnad.
Din tur
Hitta punkten för avtagande avkastning. Ställ följande fråga tre gånger, på tre nivåer (Instant, Medium och sedan High i chatten, eller low, medium och sedan high i API:t), och jämför analysdjupet samt, i API:t, de förbrukade resonemangstokensen.
“Ett företag har 5 projekt. Projekt A: 100 k€, ROI 3,2x, medelrisk. Projekt B: 250 k€, ROI 1,8x, låg risk. Projekt C: 50 k€, ROI 5,1x, hög risk. Projekt D: 150 k€, ROI 2,4x, medelrisk. Projekt E: 75 k€, ROI 4,0x, hög risk. Den totala budgeten är 400 k€. Vilka projekt bör finansieras för att maximera riskjusterad ROI? Ange explicit den justeringsregel som används.”
Identifiera den nivå där en höjning ger lite extra värde: det är din inställning för denna typ av fråga.
Officiella källor: Resonemangsmodeller (OpenAI API: effort, pro-läge, max_output_tokens, sammanfattningar, configuration_update, fakturering) · Modeller (accepterade insatsnivåer och prissättning per modell) · GPT-6 och andra modeller i ChatGPT (nivåer, kvoter och reservlösningar i chatten)
Viktiga punkter
- Insatsen varierar tokens, latens, djup och kostnad samtidigt: det är en avvägning
- I ChatGPT justeras nivån per meddelande, inom planens kvoter
- I API:t:
reasoning.effort,reasoning.mode,max_output_tokens,reasoning.summaryochconfiguration_update - Eskalering, uppgiftstriage och rätt parning av modell och nivå är de tre reglagen för besparingar
- Att ändra insats mitt i konversationen med
configuration_updatebevarar prompt-cachen