Ir al contenido principal
Español— Elegir un idioma
Menú

Caché automático de la API

Lección 9 de 14 Actualizado el 29 de julio de 2026 Avanzado
En esta página
  1. El caché como palanca de reducción de costes
  2. Cómo funciona el caché
  3. La cabecera x-grok-conv-id
  4. Comprobación de la eficiencia del caché
  5. Puntos clave

El caché como palanca de reducción de costes

El caché automático es el factor que más impacto tiene en tu factura, para bien o para mal. Con muchos proveedores, debes declararlo explícitamente en la solicitud, marcar los bloques que deseas retener y gestionar su ciclo de vida. xAI ha adoptado un enfoque diferente: el caché se aplica automáticamente a todas las solicitudes, sin necesidad de parámetros ni anotaciones. No tienes que activar nada, pero tienes mucho que ganar entendiendo qué lo desencadena, porque un prompt mal estructurado nunca se beneficia del caché y paga la tarifa completa por toda su entrada.

5–7×
Más barato en entrada en caché
0,20 $
Por M en caché en grok-4.3
UUID
Cabecera x-grok-conv-id
Automático
Activación sin configuración

Cómo funciona el caché

El caché opera sobre los tokens de entrada y solo sobre ellos: la generación de la respuesta se factura siempre a la tarifa estándar. Cuando el inicio de tu prompt reproduce exactamente el inicio de un prompt procesado anteriormente, la parte idéntica se sirve desde el caché a la tarifa reducida y solo la parte nueva se factura a la tarifa estándar.

Tres familias de aplicaciones se benefician de inmediato. En primer lugar, una conversación: el prompt del sistema y todos los turnos anteriores son rigurosamente idénticos de una llamada a la siguiente; solo cambia la última pregunta, por lo que la tasa de aciertos del caché aumenta naturalmente a medida que se alarga el intercambio. A continuación, un prompt con contexto fijo —un contrato, un manual técnico, un repositorio de productos seguido de una pregunta variable— ve cómo su bloque de documentos se almacena en caché a partir de la segunda llamada. Por último, una canalización RAG mantiene constantes las instrucciones del sistema; solo cambia el contexto recuperado y, si lo colocas después de las instrucciones, el prefijo sigue siendo almacenable en caché.

En la tabla de precios de xAI, la diferencia es considerable. En grok-4.3 y grok-4.20-0309, un millón de tokens de entrada en caché cuesta 0,20 $ frente a 1,25 $ a la tarifa estándar. En grok-4.5, ese mismo millón asciende a 0,30 $ en lugar de 2,00 $. En otras palabras, un prefijo estable de 5.000 tokens reutilizado mil veces al día te cuesta entre cinco y siete veces menos que un prompt reconstruido en cada llamada, para un resultado estrictamente idéntico.

La cabecera x-grok-conv-id

Para ayudar a la infraestructura a asociar solicitudes que pertenecen a un mismo contexto, la API acepta una cabecera dedicada:

curl -X POST "https://api.x.ai/v1/chat/completions" \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-grok-conv-id: 550e8400-e29b-41d4-a716-446655440000" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.20",
    "messages": [...]
  }'

La cabecera x-grok-conv-id espera un UUID v4. La regla de uso es sencilla: un identificador por conversación o flujo de procesamiento, reutilizado para todas las llamadas que formen parte del mismo. Esto señala que estas solicitudes están vinculadas, lo que aumenta la probabilidad de reutilización del caché. El error común es generar el UUID en el momento de la llamada en lugar de al abrir la sesión; cada turno recibiría entonces un identificador diferente y el beneficio desaparecería. Genéralo una vez y guárdalo junto con el estado de la conversación:

import uuid

# Un UUID por conversación
conv_id = str(uuid.uuid4())

# Usa el mismo UUID para todos los turnos de la conversación
headers = {
    "Authorization": f"Bearer {api_key}",
    "x-grok-conv-id": conv_id,
    "Content-Type": "application/json"
}

Comprobación de la eficiencia del caché

Nada supera a la medición. El campo cached_tokens en el objeto usage, tratado en la lección anterior, te indica exactamente qué se ha servido desde el caché:

{
  "usage": {
    "prompt_tokens": 5000,
    "cached_tokens": 4200,
    "completion_tokens": 300
  }
}

Aquí, 4.200 tokens de 5.000 provienen del caché, una tasa del 84 %; solo 800 tokens se han facturado a la tarifa estándar. Haz el hábito de comprobar esta ratio en una muestra de solicitudes reales tras cada despliegue: si observas una tasa cercana a cero en una aplicación conversacional, algo varía al principio del prompt, y la siguiente lección te mostrará qué es.

Puntos clave

  • El caché es automático: no requiere configuración
  • Usa la cabecera x-grok-conv-id con un UUID v4 para agrupar solicitudes vinculadas
  • El campo cached_tokens en el objeto usage indica el número de tokens servidos desde el caché
  • La entrada en caché cuesta entre 5 y 7 veces menos: 0,20 $/M en grok-4.3, 0,30 $/M en grok-4.5
  • Cuanto más estable sea tu prompt al inicio de la secuencia, mayor será la tasa de aciertos del caché