Faturação e Gestão de Custos
Nesta página
Compreenda Pelo Que Está a Pagar
A API de Respostas tem um detalhe de faturação importante: numa conversa encadeada, é cobrado pelo histórico completo, mesmo que não o reenvie explicitamente. Compreender este mecanismo é essencial para controlar os seus custos em produção.
A Armadilha do Histórico Cumulativo
Com previous_response_id, o servidor reconstrói automaticamente o contexto completo. Isto é conveniente para o programador, mas significa que os tokens se acumulam:
| Turno | A sua mensagem | Tokens faturados (entrada) |
|---|---|---|
| 1 | 50 tokens | 50 |
| 2 | 30 tokens + histórico do turno 1 | 130 |
| 3 | 40 tokens + histórico dos turnos 1–2 | 350 |
| 4 | 25 tokens + histórico dos turnos 1–3 | 725 |
O crescimento é quadrático. No 10.º turno de uma conversa, os tokens de entrada podem ser 10 a 50 vezes superiores aos da sua mensagem inicial.
Leitura de Custos na Resposta
Cada resposta inclui um objeto usage com o custo exato:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
O campo cost_in_nano_usd indica o custo em nano-dólares:
1.000.000.000 nano-USD = 1 USD
Para converter:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Custo deste pedido: ${cost_usd:.6f}")
Tokens de Raciocínio
Os reasoning_tokens em output_tokens_details são faturados à taxa de tokens de saída. Podem representar 50 a 80% dos tokens de saída em modelos de raciocínio.
Estratégias de Otimização
Limitar o Comprimento da Conversa
Em vez de encadear indefinidamente, faça resumos periodicamente:
# Após N turnos, resumir e reiniciar
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Resuma esta conversa em 3 pontos-chave.",
previous_response_id=last_id
)
# Reiniciar com o resumo como novo contexto
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Contexto anterior: {summary.output[0].content[0].text}",
input=user_message
)
Escolher o Modelo Adequado
Nem todos os modelos têm o mesmo custo. Para tarefas simples, utilize um modelo menos potente (e mais barato). Reserve os modelos de raciocínio para problemas complexos.
Controlar max_output_tokens
Limite a saída quando não precisar de respostas longas:
{
"model": "grok-4.20-0309-reasoning",
"input": "Responda numa frase: qual é a capital do Japão?",
"max_output_tokens": 100
}
Utilizar store: false Quando Possível
As respostas não armazenadas não são mantidas no servidor. Isto não reduz o custo direto, mas evita acumular dados desnecessários.
Monitorização de Custos em Produção
Implemente uma monitorização sistemática:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Guardar no seu sistema de registo
save_to_db(log_entry)
Alertas de Custo
Configure limiares de alerta:
MAX_COST_PER_REQUEST = 0.05 # 5 cêntimos de USD
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Pedido dispendioso detetado: ${cost:.4f} (utilizador: {user_id})")
Pontos-chave
- As conversas encadeadas faturam o histórico completo a cada turno — crescimento quadrático
cost_in_nano_usd/ 1 mil milhão = custo em USD- Os tokens de raciocínio são faturados, mas invisíveis na resposta
- Resuma conversas longas para conter custos
- Implemente uma monitorização sistemática de custos por utilizador e por funcionalidade