Facturación y gestión de costes
En esta página
Entiende qué estás pagando
La API de Responses tiene un detalle de facturación crucial: en una conversación encadenada, se te factura la historia completa, incluso si no la reenvías explícitamente. Comprender este mecanismo es esencial para controlar tus costes en producción.
La trampa del historial acumulativo
Con previous_response_id, el servidor reconstruye automáticamente el contexto completo. Esto resulta cómodo para el desarrollador, pero implica que los tokens se acumulan:
| Turno | Tu mensaje | Tokens facturados (entrada) |
|---|---|---|
| 1 | 50 tokens | 50 |
| 2 | 30 tokens + historial del turno 1 | 130 |
| 3 | 40 tokens + historial de los turnos 1–2 | 350 |
| 4 | 25 tokens + historial de los turnos 1–3 | 725 |
El crecimiento es cuadrático. En el décimo turno de una conversación, los tokens de entrada pueden ser entre 10 y 50 veces superiores a los de tu mensaje inicial.
Lectura de costes en la respuesta
Cada respuesta incluye un objeto usage con el coste exacto:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
El campo cost_in_nano_usd indica el coste en nanodólares:
1.000.000.000 nano-USD = 1 USD
Para convertirlo:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Coste de esta solicitud: ${cost_usd:.6f}")
Tokens de razonamiento
Los reasoning_tokens dentro de output_tokens_details se facturan a la tarifa de tokens de salida. En los modelos de razonamiento, pueden representar entre el 50 % y el 80 % de los tokens de salida.
Estrategias de optimización
Limita la longitud de la conversación
En lugar de encadenar indefinidamente, resume periódicamente:
# Tras N turnos, resume y reinicia
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Resume esta conversación en 3 puntos clave.",
previous_response_id=last_id
)
# Reinicia con el resumen como nuevo contexto
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Contexto previo: {summary.output[0].content[0].text}",
input=user_message
)
Elige el modelo adecuado
No todos los modelos cuestan lo mismo. Para tareas sencillas, utiliza un modelo menos potente (y más barato). Reserva los modelos de razonamiento para problemas complejos.
Controla max_output_tokens
Limita la salida cuando no necesites respuestas largas:
{
"model": "grok-4.20-0309-reasoning",
"input": "Responde en una frase: ¿cuál es la capital de Japón?",
"max_output_tokens": 100
}
Usa store: false cuando sea posible
Las respuestas no almacenadas no se conservan en el servidor. Esto no reduce el coste directo, pero evita acumular datos innecesarios.
Seguimiento de costes en producción
Implementa un seguimiento sistemático:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Guarda en tu sistema de registro
save_to_db(log_entry)
Alertas de coste
Configura umbrales de alerta:
MAX_COST_PER_REQUEST = 0.05 # 5 céntimos de USD
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Solicitud costosa detectada: ${cost:.4f} (usuario: {user_id})")
Puntos clave
- Las conversaciones encadenadas facturan la historia completa en cada turno: crecimiento cuadrático
cost_in_nano_usd/ 1.000.000.000 = coste en USD- Los tokens de razonamiento se facturan pero son invisibles en la respuesta
- Resume las conversaciones largas para contener los costes
- Implementa un seguimiento sistemático de costes por usuario y por funcionalidad