Comment fonctionne le raisonnement des modèles

Sous le capot des modèles qui « pensent »

Quand vous montez le niveau de réflexion, le modèle ne génère pas sa réponse d’emblée : il produit d’abord des jetons de raisonnement, qu’il utilise pour décomposer la demande et envisager plusieurs façons d’y répondre. Comprendre ce mécanisme n’est pas un luxe théorique : c’est ce qui vous permettra de régler le niveau à bon escient, d’anticiper le coût et d’interpréter correctement ce que le modèle vous rend.

Réfléchir avant de répondre

À un niveau rapide (Instant dans Chat, none ou low dans l’API), le modèle répond presque directement. Plus vous montez le réglage, plus il consacre de jetons à réfléchir avant de produire la réponse visible. On peut se représenter cette phase comme un brouillon : décomposer le problème, explorer des pistes, écarter les impasses, vérifier, puis synthétiser. C’est une image commode, pas une description officielle du fonctionnement interne ; ce qu’OpenAI décrit, c’est un modèle qui découpe la demande et considère plusieurs approches avant de répondre.

Prenez l’expression « 17 × 23 + 45 ÷ 9 − 12 ». Sans réflexion, le risque d’erreur sur les priorités d’opérations est réel. Avec un niveau plus élevé, le modèle a le temps de traiter d’abord la multiplication et la division (391 et 5), puis l’addition et la soustraction (391 + 5 − 12 = 384), et de vérifier son résultat avant de l’annoncer.

Les jetons de raisonnement, invisibles mais comptés

Les jetons de raisonnement ne figurent pas dans la réponse, mais ils comptent. Dans l’API, ils occupent de la place dans la fenêtre de contexte et sont facturés comme des jetons de sortie. Selon la difficulté, un modèle peut en produire de quelques centaines à plusieurs dizaines de milliers. Si la limite de sortie (max_output_tokens) est atteinte pendant la réflexion, la réponse revient avec le statut incomplete, parfois avant même qu’un texte visible ait été produit ; OpenAI conseille de réserver au moins 25 000 jetons au raisonnement et à la réponse quand vous commencez à expérimenter.

Le raisonnement brut n’est pas exposé. Dans l’API, vous pouvez demander un résumé du raisonnement avec le paramètre reasoning.summary. Dans ChatGPT, avec GPT-6, une réponse peut commencer pendant que le modèle continue de réfléchir, puis s’enrichir de détails.

Pro, Max et Ultra : trois façons d’en faire plus

Au-delà de l’effort, trois mécanismes poussent la réflexion plus loin, et il est utile de ne pas les confondre.

• Le mode pro (reasoning.mode: "pro" dans l’API, niveau Pro dans Chat) fait travailler davantage le modèle pour les tâches difficiles qui tolèrent plus de latence. Dans l’API, ce travail supplémentaire est facturé au tarif standard du modèle choisi, mais il consomme plus de jetons.
• Max, dans Work et Codex comme dans l’API (max), donne au modèle plus de temps pour raisonner sur une seule tâche.
• Ultra, dans Work et Codex uniquement, va au-delà d’un seul agent : il confie des parties d’une tâche complexe à des sous-agents qui travaillent en parallèle. Il n’a d’intérêt que si le travail se découpe en morceaux indépendants. GPT-6 Luna va jusqu’à Max, mais pas jusqu’à Ultra.

Ce que le raisonnement change, et ce qu’il ne change pas

Un niveau de réflexion élevé fait la différence sur des familles de problèmes bien identifiées : mathématiques et statistiques, logique et déduction, code complexe et débogage, analyse stratégique avec pondération de critères, et plus généralement toute tâche en plusieurs étapes. OpenAI recommande ainsi high pour le raisonnement difficile, le débogage complexe et la planification approfondie.

Il ne fait pas de miracles pour autant. Le modèle peut toujours se tromper après avoir raisonné : une prémisse fausse produit une conclusion fausse, quel que soit le soin apporté au raisonnement. Le raisonnement allonge le temps de réponse et augmente le coût. Et sur une tâche simple, il n’apporte rien qu’un niveau rapide ne fasse déjà.

À vous de jouer

Voir le mécanisme à l’œuvre. Posez cette question d’abord à un niveau rapide, puis à un niveau élevé (Instant puis High dans Chat, ou low puis high dans l’API) : « Un train part de Paris à 8 h à 120 km/h. Un autre part de Lyon, à 465 km, à 8 h 30 à 150 km/h en direction de Paris. À quelle heure et à quelle distance de Paris se croisent-ils ? » Vérifiez vous-même la réponse attendue : 10 h, à 240 km de Paris. Si vous utilisez l’API, comparez le nombre de jetons de raisonnement indiqué dans l’usage de la réponse pour les deux niveaux.

Sources officielles : Reasoning models (API OpenAI : jetons de raisonnement, facturation, contexte, résumés, mode pro, niveaux d’effort) · Models (documentation ChatGPT : Max et Ultra) · GPT-6 and other models in ChatGPT (réponses qui commencent pendant la réflexion)

Points clés à retenir

• Le raisonnement ajoute des jetons de réflexion avant la réponse ; leur nombre croît avec le niveau choisi
• Invisibles, ces jetons occupent le contexte et sont facturés comme des jetons de sortie dans l’API
• Prévoyez une marge de sortie suffisante, sinon la réponse revient incomplète
• Pro fait travailler davantage le modèle, Max lui donne plus de temps, Ultra répartit le travail entre sous-agents (Work et Codex)
• Le raisonnement n’immunise pas contre l’erreur : une prémisse fausse donne une conclusion fausse