Controle o Esforço de Raciocínio, do ChatGPT à API
Nesta página
Ajustar a Reflexão para Cada Tarefa
As lições 1 a 3 forneceram-lhe o mapa das definições e das diretrizes da OpenAI. Esta lição avança para os controlos: como ajustar o esforço durante o trabalho, gerir o seu custo e automatizá-lo numa aplicação. O princípio permanece inalterado: o nível de raciocínio é uma compensação, não um controlo de qualidade. Afeta simultaneamente quatro variáveis: o número de tokens de raciocínio, o tempo de resposta, a profundidade da análise e o consumo de quota ou custo.
No ChatGPT: Uma Definição por Mensagem
No Chat, o controlo deslizante Pensamento para o GPT-6 ajusta-se por mensagem: pode manter-se em Instantâneo para reformular, mudar para Elevado para análise e depois reduzi-lo novamente. Níveis mais elevados consomem quotas específicas do seu plano; quando atinge um limite, o ChatGPT pode continuar com outro modelo disponível e, sempre que possível, indica quando a quota é reposta. No Work e no Codex, o controlo de potência desempenha o mesmo papel, variando de Mais Rápido a Mais Inteligente, com Máximo e Ultra mantidos em reserva. A melhor prática em ambos os casos: comece com a definição padrão e aumente-a apenas se o resultado não for suficiente.
Na API: Cinco Alavancas
Para programadores, cinco parâmetros na API de Respostas colocam-no no controlo do raciocínio:
reasoning.effortdefine o nível, denoneamaxdependendo do modelo: o GPT-6 Astra e o GPT-6.1 Sol começam emlow, enquanto o GPT-6.1 Terra e o GPT-6 Luna aceitamnone.reasoning.mode,standardpor padrão oupro, faz o modelo trabalhar mais sem alterar o nível de esforço; este trabalho extra é faturado à taxa padrão do modelo, mas consome mais tokens.max_output_tokenslimita o número total de tokens gerados, incluindo o raciocínio. Se o definir demasiado baixo, obterá respostas incompletas; a OpenAI recomenda reservar pelo menos 25.000 tokens quando começar a experimentar.reasoning.summarysolicita um resumo do processo de raciocínio, uma vez que o raciocínio bruto nunca é exposto.configuration_update, um elemento inserido entre duas respostas, altera o nível de esforço no meio da conversa em modelos GPT-6 compatíveis sem tocar nas definições do pedido inicial: o prefixo do prompt permanece intacto e a cache do prompt continua a servir.
Eis o aspeto desse último elemento, inserido antes da próxima mensagem do utilizador:
{
"type": "configuration_update",
"reasoning": { "effort": "high" }
}
Uma conversa iniciada em low muda assim para high para a próxima resposta e seguintes, até ocorrer outra atualização.
O Impacto nos Custos
Os tokens de raciocínio são faturados como tokens de saída e a sua contagem cresce rapidamente com o nível: de algumas centenas a dezenas de milhares para um problema difícil. A escolha do modelo importa tanto quanto: por token de saída, o GPT-6 Luna custa vinte vezes menos que o GPT-6.1 Sol, e o GPT-6 Astra custa cinco vezes mais. No ChatGPT, o custo traduz-se em quotas: o número de pedidos exigentes possíveis por período.
Três Estratégias de Otimização
A primeira é a escalada: não comece no topo. Inicie com o nível padrão, medium na API, ou inferior para uma tarefa trivial; se a resposta estiver incompleta ou incorreta, suba um nível; reserve xhigh, max, o modo pro, Max e Ultra para problemas que os justifiquem. Numa aplicação, configuration_update torna esta escalada possível numa única conversa.
A segunda é a triagem baseada em tarefas, que deve tornar um hábito: reformulação e classificação no nível mais baixo, redação e análises simples em low, planeamento e julgamento em medium, depuração e problemas difíceis em high, investigação de longo curso em xhigh e casos extremos em max.
A terceira é associar o modelo certo ao nível certo. O GPT-6.1 Sol em high ou superior, possivelmente em modo pro, lida com problemas exigentes; o GPT-6 Astra permanece para os mais difíceis; o GPT-6.1 Terra trata da escrita, imagem e orquestração de aplicações; o GPT-6 Luna, em low ou medium, absorve volume a menor custo.
A Sua Vez
Encontre o ponto de rendimentos decrescentes. Faça a seguinte pergunta três vezes, em três níveis (Instantâneo, Médio e depois Elevado no Chat, ou low, medium e depois high na API), e compare a profundidade da análise e, na API, os tokens de raciocínio consumidos.
“Uma empresa tem 5 projetos. Projeto A: 100k€, ROI 3,2x, risco médio. Projeto B: 250k€, ROI 1,8x, baixo risco. Projeto C: 50k€, ROI 5,1x, alto risco. Projeto D: 150k€, ROI 2,4x, risco médio. Projeto E: 75k€, ROI 4,0x, alto risco. O orçamento total é de 400k€. Quais projetos devem ser financiados para maximizar o ROI ajustado ao risco? Indique explicitamente a regra de ajuste utilizada.”
Identifique o nível no qual subir mais acrescenta pouco valor: essa é a sua definição para este tipo de pergunta.
Fontes oficiais: Modelos de raciocínio (API da OpenAI: effort, pro mode, max_output_tokens, summaries, configuration_update, billing) · Modelos (esforços aceites e preços por modelo) · GPT-6 e outros modelos no ChatGPT (níveis, quotas e fallback no Chat)
Pontos-chave
- O esforço varia tokens, latência, profundidade e custo em conjunto: é uma compensação
- No ChatGPT, o nível ajusta-se por mensagem, dentro das quotas do plano
- Na API:
reasoning.effort,reasoning.mode,max_output_tokens,reasoning.summaryeconfiguration_update - Escalada, triagem de tarefas e a associação correta modelo-nível são as três alavancas para poupança
- Alterar o esforço no meio da conversa com
configuration_updatepreserva a cache do prompt