Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Top P et échantillonnage du noyau

Lektion 10 av 16 Uppdaterad 2 november 2026 Nybörjare
På denna sida
  1. Un second levier pour contrôler la génération
  2. Comment fonctionne le Top P
  3. Top P contre Température : quelle différence ?
  4. Utiliser le Top P avec l’API Mistral
  5. Quand ajuster le Top P
  6. La règle pratique : ajuster un paramètre à la fois
  7. Viktiga punkter

Un second levier pour contrôler la génération

La leçon précédente t’a présenté le premier levier de contrôle de la génération : la température. Le Top P, aussi appelé échantillonnage du noyau, en est le complément naturel. Alors que la température modifie l’ensemble de la distribution de probabilité, le Top P agit comme un filtre qui limite le nombre de jetons candidats. Ces deux paramètres influencent la diversité des réponses, mais par des mécanismes très différents — et c’est précisément cette différence qui te permettra d’affiner le comportement des modèles Mistral au lieu de tourner les boutons au hasard.

Comment fonctionne le Top P

Reprenons le processus de génération étape par étape. À chaque étape, le modèle calcule une probabilité pour chaque jeton possible. Le Top P intervient en trois temps : d’abord, les probabilités sont ajustées par la température ; ensuite, les jetons sont triés par probabilité décroissante et leurs probabilités sont sommées de manière cumulative ; enfin, seuls les jetons dont la probabilité cumulative ne dépasse pas le seuil Top P sont conservés. Le tirage final s’effectue uniquement parmi ces survivants.

Un exemple clarifie le mécanisme. Imaginons que le modèle doive choisir le mot suivant après « The cat is on the » :

JetonProbabilitéCumulative
roof0.350.35
bed0.250.60
sofa0.150.75
floor0.100.85
ledge0.050.90
wall0.030.93
………

Avec un Top P = 0,75, seuls « roof », « bed » et « sofa » sont conservés, car leur somme cumulative atteint exactement 0,75 : le modèle choisira uniquement parmi ces trois options. Avec un Top P = 0,90, « floor » et « ledge » entrent également en jeu. La règle générale ressort clairement du tableau : plus le Top P est élevé, plus le nombre de candidats pris en compte est important.

Top P contre Température : quelle différence ?

Puisque les deux paramètres contrôlent la diversité, tu pourrais penser qu’ils sont interchangeables. Ce n’est pas le cas. La température modifie la forme de la distribution : une valeur élevée aplatit la courbe et rend progressivement les jetons improbables plus accessibles, sans jamais en exclure aucun. Le Top P, en revanche, tranche la distribution : les jetons situés sous le seuil sont purement et simplement ignorés, quelle que soit leur probabilité résiduelle.

Garde cette image en tête : la température est un réglage « doux », qui s’ajuste progressivement, tandis que le Top P est un réglage « net », qui inclut ou exclut. Dans un texte créatif, une température élevée combinée à un Top P modéré permet la fantaisie tout en empêchant une dérive vers des jetons vraiment improbables — c’est souvent la combinaison la plus confortable.

Utiliser le Top P avec l’API Mistral

Dans le code, le paramètre s’ajoute simplement à l’appel, aux côtés de la température :

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Propose a name for an AI startup."}
    ],
    temperature=0.7,
    top_p=0.9
)

Quand ajuster le Top P

Un Top P faible, entre 0,1 et 0,5, concentre le modèle sur les options les plus probables — précision maximale. C’est le bon choix lorsque la réponse attendue appartient à un ensemble fermé, comme dans cette classification stricte :

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "Respond only with: positive, neutral, or negative."},
        {"role": "user", "content": "Classify: The product arrived in good condition."}
    ],
    temperature=0.0,
    top_p=0.3
)

Un Top P moyen, entre 0,5 et 0,8, convient à la plupart des tâches professionnelles : le texte reste cohérent sans devenir monotone. C’est le régime adapté à un rapport, un résumé ou une introduction de document :

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Write the introduction for a report on cybersecurity in SMEs."}
    ],
    temperature=0.5,
    top_p=0.7
)

Enfin, un Top P élevé, entre 0,8 et 1,0, ouvre le champ à la créativité et à l’exploration d’idées — tu acceptes des candidats moins probables pour obtenir des propositions sortant des sentiers battus :

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Invent 5 innovative restaurant concepts."}
    ],
    temperature=0.9,
    top_p=0.95
)

La règle pratique : ajuster un paramètre à la fois

La documentation de Mistral recommande une approche méthodique que tu devrais adopter dès tes premiers tests : fixe le Top P à 1,0 (aucun filtrage) et n’ajuste que la température, ou fixe la température à 1,0 et n’ajuste que le Top P ; ce n’est qu’ensuite que tu affines le second paramètre si nécessaire. La raison est simple : si tu modifies les deux simultanément et que le comportement change, tu ne sauras pas lequel en est responsable. C’est le même réflexe que lors du débogage — on ne change qu’une variable à la fois.

Pour te donner des points de départ concrets : l’extraction de données ou la sortie JSON se règle typiquement sur temperature=0.0, top_p=1.0 ; la rédaction professionnelle sur temperature=0.4, top_p=0.9 ; la génération créative sur temperature=0.8, top_p=0.95 ; et le code ou le contenu technique sur temperature=0.2, top_p=0.9. Ces valeurs ne sont que des points de départ — l’expérimentation reste essentielle pour ton cas d’usage spécifique.

Viktiga punkter

  • Le Top P filtre les jetons candidats par seuil de probabilité cumulative
  • Contrairement à la température qui adoucit la distribution, le Top P la tranche
  • Ajuste un paramètre à la fois pour comprendre son impact
  • Top P faible = réponses ciblées, Top P élevé = réponses variées
  • Commence avec la température seule, ajoute le Top P pour affiner