Control del esfuerzo de razonamiento, desde ChatGPT hasta la API
En esta página
Ajuste de la reflexión para cada tarea
Las lecciones 1 a 3 te han proporcionado el mapa de configuraciones y las directrices de OpenAI. Esta lección pasa a los controles: cómo ajustar el esfuerzo mientras trabajas, gestionar su coste y automatizarlo dentro de una aplicación. El principio permanece inalterado: el nivel de razonamiento es una compensación, no un control de calidad. Afecta simultáneamente a cuatro variables: el número de tokens de razonamiento, el tiempo de respuesta, la profundidad del análisis y el consumo de cuota o coste.
En ChatGPT: una configuración por mensaje
En el chat, el deslizador Pensamiento para GPT-6 se ajusta por mensaje: puedes mantenerlo en Instantáneo para reformular, cambiar a Alto para el análisis y luego bajarlo de nuevo. Los niveles superiores consumen cuotas específicas de tu plan; cuando alcanzas un límite, ChatGPT puede continuar con otro modelo disponible e, cuando es posible, indica cuándo se restablece la cuota. En Work y Codex, el deslizador de potencia desempeña el mismo papel, oscilando entre Más rápido y Más inteligente, con Máximo y Ultra en reserva. La mejor práctica en ambos casos: comienza con la configuración predeterminada y solo auméntala si el resultado no es suficiente.
En la API: cinco palancas
Para los desarrolladores, cinco parámetros en la API de Responses te ponen al mando del razonamiento:
reasoning.effortestablece el nivel, desdenonehastamaxdependiendo del modelo: GPT-6 Astra y GPT-6.1 Sol comienzan enlow, mientras que GPT-6.1 Terra y GPT-6 Luna aceptannone.reasoning.mode,standardpor defecto opro, hace que el modelo trabaje más sin cambiar el nivel de esfuerzo; este trabajo extra se factura a la tarifa estándar del modelo pero consume más tokens.max_output_tokenslimita el número total de tokens generados, incluido el razonamiento. Si lo estableces demasiado bajo, obtendrás respuestas incompletas; OpenAI recomienda reservar al menos 25.000 tokens cuando empieces a experimentar.reasoning.summarysolicita un resumen del proceso de razonamiento, ya que el razonamiento crudo nunca se expone.configuration_update, un elemento insertado entre dos respuestas, cambia el nivel de esfuerzo a mitad de la conversación en modelos GPT-6 compatibles sin tocar la configuración de la solicitud inicial: el prefijo del prompt permanece intacto y la caché del prompt sigue sirviendo.
Así es como se ve ese último elemento, insertado antes del siguiente mensaje del usuario:
{
"type": "configuration_update",
"reasoning": { "effort": "high" }
}
Una conversación iniciada en low cambia así a high para la siguiente respuesta y las siguientes, hasta que se produce otra actualización.
El impacto en los costes
Los tokens de razonamiento se facturan como tokens de salida, y su conteo crece rápidamente con el nivel: desde unos pocos cientos hasta decenas de miles para un problema difícil. La elección del modelo importa tanto como el nivel: por token de salida, GPT-6 Luna cuesta veinte veces menos que GPT-6.1 Sol, y GPT-6 Astra cuesta cinco veces más. En ChatGPT, el coste se traduce en cuotas: el número de solicitudes exigentes posibles por periodo.
Tres estrategias de optimización
La primera es la escalada: no empieces por lo más alto. Comienza con el nivel predeterminado, medium en la API, o inferior para una tarea trivial; si la respuesta es incompleta o incorrecta, sube un escalón; reserva xhigh, max, el modo pro, Max y Ultra para problemas que los justifiquen. En una aplicación, configuration_update hace posible esta escalada dentro de una sola conversación.
La segunda es la triage basada en tareas, que deberías convertir en un hábito: reformulación y clasificación en el nivel más bajo, redacción y análisis simples en low, planificación y juicio en medium, depuración y problemas difíciles en high, investigación a largo plazo en xhigh y casos extremos en max.
La tercera es emparejar el modelo correcto con el nivel correcto. GPT-6.1 Sol en high o superior, posiblemente en modo pro, maneja problemas exigentes; GPT-6 Astra queda reservado para los más difíciles; GPT-6.1 Terra se encarga de la escritura, imágenes y orquestación de aplicaciones; GPT-6 Luna, en low o medium, absorbe volumen a menor coste.
Tu turno
Encuentra el punto de rendimientos decrecientes. Haz la siguiente pregunta tres veces, en tres niveles (Instantáneo, Medio y luego Alto en Chat, o low, medium y luego high en la API), y compara la profundidad del análisis y, en la API, los tokens de razonamiento consumidos.
“Una empresa tiene 5 proyectos. Proyecto A: 100.000 €, ROI 3,2x, riesgo medio. Proyecto B: 250.000 €, ROI 1,8x, riesgo bajo. Proyecto C: 50.000 €, ROI 5,1x, riesgo alto. Proyecto D: 150.000 €, ROI 2,4x, riesgo medio. Proyecto E: 75.000 €, ROI 4,0x, riesgo alto. El presupuesto total es de 400.000 €. ¿Qué proyectos deben financiarse para maximizar el ROI ajustado al riesgo? Indica explícitamente la regla de ajuste utilizada.”
Identifica el nivel en el que subir más aporta poco valor: esa es tu configuración para este tipo de preguntas.
Fuentes oficiales: Modelos de razonamiento (API de OpenAI: effort, pro mode, max_output_tokens, summaries, configuration_update, billing) · Modelos (esfuerzos aceptados y precios por modelo) · GPT-6 y otros modelos en ChatGPT (niveles, cuotas y fallback en Chat)
Puntos clave
- El esfuerzo varía tokens, latencia, profundidad y coste juntos: es una compensación
- En ChatGPT, el nivel se ajusta por mensaje, dentro de las cuotas del plan
- En la API:
reasoning.effort,reasoning.mode,max_output_tokens,reasoning.summaryyconfiguration_update - La escalada, la triage de tareas y el emparejamiento correcto modelo-nivel son las tres palancas para el ahorro
- Cambiar el esfuerzo a mitad de la conversación con
configuration_updatepreserva la caché del prompt