Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Completamenti N e sequenze di arresto

Lezione 12 di 16 Aggiornata il 2 novembre 2026 Principiante
In questa pagina
  1. Generare più risposte in una singola richiesta
  2. Il parametro n: come funziona
  3. Sequenze di arresto: controlla dove finisce la generazione
  4. Il parametro max_tokens
  5. Combinare i parametri
  6. Punti chiave

Generare più risposte in una singola richiesta

Per concludere questa sezione sui parametri di generazione, esaminiamo due strumenti pratici di controllo: il parametro N completions, che ti permette di richiedere più risposte dallo stesso prompt in una singola chiamata API, e le sequenze di arresto, che determinano dove la generazione si interrompe. Il primo ti aiuta a confrontare alternative, aumentare le probabilità di ottenere una risposta ottimale o alimentare un processo di selezione automatica; il secondo ti dà il controllo sulla lunghezza e sul formato degli output.

Il parametro n: come funziona

Quando imposti n=5, il modello genera 5 risposte indipendenti per il tuo prompt, ciascuna restituita come una scelta distinta nell’oggetto di risposta. Un aspetto della fatturazione merita la tua attenzione prima di usarlo intensivamente: i token di input—il tuo prompt—vengono addebitati una sola volta, ma i token di output vengono addebitati per ogni completamento. Con n=5, paghi cinque volte i token di output, ma solo una volta il prompt: per un prompt lungo e risposte brevi, questo è significativamente più economico rispetto a cinque chiamate separate.

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Propose a slogan for a French organic coffee brand."}
    ],
    n=5,
    temperature=0.8
)

for i, choice in enumerate(response.choices):
    print(f"Option {i+1}: {choice.message.content}")

Questo codice produce 5 slogan diversi, tra cui scegli il migliore. Questo è il primo grande uso di n: la generazione creativa, dove ottenere più opzioni per uno slogan, un titolo o un nome di prodotto vale più di un singolo tentativo. Il secondo è la classificazione con votazione: generi N classificazioni dello stesso testo e mantieni la risposta di maggioranza, il che attenua gli errori occasionali. Lo usi anche per l’esplorazione—testando diversi approcci allo stesso problema—e per il controllo qualità, verificando la coerenza del modello confrontando le sue stesse risposte.

Conosci tre limiti prima di implementarlo. Primo, non tutti i modelli Mistral supportano n maggiore di 1: controlla la documentazione per il modello che usi. Secondo, la latenza aumenta con n, poiché il modello genera più token in totale. Infine—e questo è un classico errore da principiante—combina sempre n > 1 con una temperatura sufficiente (0.5 e oltre): a temperatura 0, le tue cinque risposte saranno quasi identiche e avrai pagato cinque volte per la stessa frase.

Sequenze di arresto: controlla dove finisce la generazione

Le sequenze di arresto sono stringhe di caratteri che costringono il modello a fermarsi non appena le genera. Questo è un meccanismo essenziale per controllare la lunghezza e il formato delle risposte. Iniziamo con un esempio volutamente semplicistico per stabilire il concetto:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "List the days of the week, one per line."}
    ],
    stop=["Saturday"]
)

Qui, il modello si ferma non appena genera la parola “Saturday”, producendo un elenco troncato. Nella pratica, le sequenze di arresto sono più utili con i delimitatori strutturali. Primo caso d’uso: estrarre una singola sezione da una risposta strutturata. Se il tuo prompt richiede un’analisi in tre parti, interrompere la generazione al secondo titolo ti dà solo la prima:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": """Analyze this product:
## Strengths
(your analysis here)
## Weaknesses
(your analysis here)
## Conclusion
(your analysis here)"""}
    ],
    stop=["## Weaknesses"]
)
# The model stops after the strengths

Secondo caso: limitare la generazione a un blocco JSON, combinando la sequenza di arresto con un pre-riempimento del messaggio dell’assistente che apre la parentesi graffa:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Return the metadata for this article in JSON."},
        {"role": "assistant", "content": "{", "prefix": True}
    ],
    stop=["}"]
)
# The model generates the JSON content and stops at the closing brace

Terzo caso: impedire al modello di continuare dopo la sua risposta. Per una domanda chiusa, fermarsi al primo ritorno a capo garantisce un secco “SÌ” o “NO”, senza il paragrafo di giustificazione che non hai richiesto:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Answer the following question with YES or NO only.\nIs the Earth round?"}
    ],
    stop=["\n"]
)

Il parametro max_tokens

Complementare alle sequenze di arresto, max_tokens imposta un limite rigido sul numero di token di output:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Summarize the history of France."}
    ],
    max_tokens=200
)

Osserva il suo comportamento: max_tokens taglia la risposta bruscamente, potenzialmente a metà frase—il tuo riassunto potrebbe finire con “e così Napoleone”. Consideralo una rete di sicurezza contro le risposte infinite, non come il modo principale per controllare la lunghezza. Per quello, preferisci istruzioni nel prompt (“rispondi in 3 frasi”) combinate con un max_tokens generoso.

Combinare i parametri

Questi meccanismi brillano quando usati insieme. L’esempio seguente genera 5 titoli di articoli diversi, ciascuno limitato a una singola riga grazie alla sequenza di arresto, con un tetto di 50 token come salvaguardia:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "You generate blog article titles. One title per response."
        },
        {
            "role": "user",
            "content": "Theme: workplace productivity in 2026"
        }
    ],
    n=5,
    temperature=0.8,
    max_tokens=50,
    stop=["\n"]
)

titres = [choice.message.content.strip() for choice in response.choices]
for i, titre in enumerate(titres):
    print(f"{i+1}. {titre}")

Punti chiave

  • Il parametro n genera più risposte in una singola chiamata (token di input addebitati una volta)
  • Combina n > 1 con una temperatura sufficiente per ottenere vere variazioni
  • Le sequenze di arresto fermano la generazione a un delimitatore specifico
  • max_tokens è una rete di sicurezza, non un controllo primario della lunghezza
  • Combina questi parametri per un controllo fine della generazione