Caché de indicaciones: Reutilización de cálculos
En esta página
¿Qué es el caché de indicaciones?
Cuando envías repetidamente el mismo prefijo de indicación —un prompt de sistema extenso, instrucciones detalladas o un documento de referencia—, OpenAI puede almacenar automáticamente ese prefijo en caché. Las llamadas posteriores que compartan este prefijo se benefician de un tiempo reducido hasta el primer token (TTFT) y de menores costes en los tokens de entrada. En otras palabras, el trabajo de ingestión del contexto estable no se repite en cada solicitud.
El caché de indicaciones es automático desde 2025: no necesitas activar nada. OpenAI detecta prefijos idénticos y los almacena en caché. Por tanto, tu margen de actuación no reside en encenderlo o apagarlo, sino en redactar tus indicaciones de modo que el mecanismo pueda aplicarse. Se trata de una cuestión de estructura, no de configuración, y es aquí donde la mayoría de equipos dejan de ahorrar dinero innecesariamente.
Cómo funciona
El caché se aplica a los prefijos de la indicación: los primeros tokens deben ser estrictamente idénticos de una llamada a la siguiente, y la coincidencia se interrumpe en el primer carácter divergente. Se requiere un tamaño mínimo de 1.024 tokens para activar el caché, lo que descarta inmediatamente los prompts de sistema breves. El caché se comparte dentro de una única organización, lo que significa que varios servicios de tu empresa que llamen al mismo prefijo se benefician mutuamente. Su vida útil oscila entre unos pocos minutos y varias horas, sin garantía firme, y la reducción conseguida es de aproximadamente un 50 % sobre el coste de los tokens de entrada almacenados en caché.
La consecuencia práctica de la regla del prefijo es que debes colocar los elementos estables al inicio de la indicación y los variables al final. Un servicio que inserta la fecha de hoy o un ID de sesión al principio de su prompt de sistema invalida su caché en cada llamada sin siquiera darse cuenta.
import openai
client = openai.OpenAI()
# ✅ Buena estructura: elementos estables primero
SYSTEM_PROMPT = """Eres un asistente legal especializado en derecho
contractual francés. Analizas cláusulas contractuales según el
Código Civil y la jurisprudencia reciente. Siempre respondes
estructurando tu análisis: 1) Identificación de la cláusula,
2) Análisis legal, 3) Riesgos potenciales, 4) Recomendaciones.
Este es el contrato de referencia a analizar:
[Inserta aquí un documento de más de 2.000 tokens que no cambie entre llamadas]
"""
def analyze_clause(clause: str) -> str:
"""Cada llamada reutiliza el caché del prompt de sistema."""
response = client.responses.create(
model="gpt-5.6-terra",
instructions=SYSTEM_PROMPT, # Prefijo estable = en caché
input=f"Analiza esta cláusula: {clause}", # Parte variable
)
return response.output_text
En este ejemplo, el contrato de referencia y el marco de análisis constituyen el bloque invariante, mientras que la cláusula examinada cambia en cada llamada. Si analizas cuarenta cláusulas del mismo contrato, pagas el contexto una sola vez a precio completo.
Verificación del caché
Una optimización que no mides es una optimización que solo crees tener. La API devuelve información sobre el uso del caché en la respuesta:
response = client.responses.create(
model="gpt-5.6-terra",
instructions=SYSTEM_PROMPT,
input="Analiza la cláusula de no competencia.",
)
# Comprobar el uso del caché
usage = response.usage
print(f"Tokens de entrada: {usage.input_tokens}")
print(f"Tokens de entrada (en caché): {usage.input_tokens_details.cached_tokens}")
print(f"Tokens de salida: {usage.output_tokens}")
# Si cached_tokens > 0: se ha utilizado el caché
cache_ratio = usage.input_tokens_details.cached_tokens / usage.input_tokens
print(f"Proporción de caché: {cache_ratio:.1%}")
Registra esta proporción en producción en lugar de comprobarla una sola vez en desarrollo. Una caída repentina en la tasa de caché es el síntoma más fiable de un cambio involuntario en la construcción del prompt, y lo verás antes de que la factura mensual te lo comunique.
Estructuración para maximizar el caché
El primer enfoque consiste en enriquecer deliberadamente el prompt de sistema. Esto puede parecer contraintuitivo cuando intentas reducir tokens, pero se alinea con la regla del umbral: un prompt de sistema de 900 tokens nunca se almacenará en caché, mientras que ese mismo prompt enriquecido con ejemplos few-shot y un documento de referencia supera el límite y pasa a la tarifa reducida para la parte almacenada en caché.
# Enriquecer el prompt de sistema para maximizar el caché
ENRICHED_PROMPT = """
[Instrucciones detalladas - más de 500 tokens]
[Ejemplos few-shot - más de 500 tokens]
[Documento de referencia - más de 1.000 tokens]
---
Total > 1.024 tokens = elegible para caché
"""
En una conversación de varios turnos, el mecanismo trabaja a tu favor sin esfuerzo adicional: el historial acumulado forma un prefijo naturalmente estable que crece con cada intercambio. Mientras reinyectes siempre los mensajes en el mismo orden, el turno número diez se beneficia del caché construido por los nueve anteriores.
def conversation_with_cache(history: list[dict], new_message: str):
"""El historial creciente maximiza el caché automáticamente."""
history.append({"role": "user", "content": new_message})
response = client.responses.create(
model="gpt-5.6-terra",
instructions=SYSTEM_PROMPT,
input=history,
)
history.append({
"role": "assistant",
"content": response.output_text,
})
return response.output_text
Por último, dado que la vida útil del caché se mide en minutos, agrupar las solicitudes que comparten un prefijo se convierte en una decisión de planificación. Procesar cuarenta cláusulas de un contrato de forma consecutiva mantiene el caché activo; distribuirlas a lo largo del día intercalando otros archivos permite que expiren entre llamadas.
import asyncio
async def batch_with_cache(clauses: list[str]) -> list[str]:
"""Envía solicitudes rápidamente para aprovechar el caché."""
results = []
for clause in clauses:
result = analyze_clause(clause)
results.append(result)
return results
Tres errores anulan todo este trabajo y se parecen entre sí: modificar el inicio del prompt, aunque sea un solo carácter, invalida el caché para toda la solicitud; aleatorizar el orden de las instrucciones, por ejemplo construyendo el prompt a partir de un diccionario no ordenado, produce el mismo efecto de forma intermitente y, por tanto, es difícil de diagnosticar; y esperar ganancias por debajo del umbral de 1.024 tokens significa intentar optimizar algo que nunca se activa.
Puntos clave
- El caché de indicaciones es automático con OpenAI: coloca los elementos estables al inicio del prompt
- Umbral mínimo: 1.024 tokens idénticos en el prefijo
- Beneficio: ~50 % en los tokens de entrada en caché + reducción del TTFT
- Comprueba
usage.input_tokens_details.cached_tokenspara confirmar el caché