Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Sequenze di arresto

Lezione 7 di 16 Aggiornata il 2 novembre 2026 Sviluppatore
In questa pagina
  1. Interrompere la generazione al momento giusto
  2. Come funziona il parametro stop
  3. Tre casi d’uso tipici
  4. Combinare sequenze di arresto e streaming
  5. Limitazioni del meccanismo
  6. Errori costosi
  7. Esempio completo: Q&A controllato
  8. Punti chiave

Interrompere la generazione al momento giusto

Per impostazione predefinita, il modello si ferma solo per due motivi: decide di aver concluso la sua risposta ed emette il suo token di fine, oppure raggiunge il limite massimo di max_tokens. Questi due criteri non coprono tutti i casi d’uso. A volte vuoi che la generazione si interrompa in un punto che solo tu conosci: appena prima della sezione successiva di un documento, subito dopo la chiusura di un blocco JSON, o non appena il modello inizia ad aggiungere commenti inutili.

Le sequenze di arresto aggiungono questo terzo criterio: non appena il modello produce una sequenza di testo che hai designato, la generazione si interrompe immediatamente. Pensale come uno strumento di taglio di precisione, il complemento naturale alle istruzioni di formattazione nel tuo messaggio di sistema, che il modello segue bene ma non sempre perfettamente.

Come funziona il parametro stop

Il parametro accetta una lista di stringhe. La prima che appare nell’output termina la generazione:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "List the 10 largest cities in France."}
    ],
    stop=["6."]  # Stop after the first 5
)

print(response.choices[0].message.content)
# 1. Paris
# 2. Marseille
# 3. Lyon
# 4. Toulouse
# 5. Nice

Due comportamenti emergono chiaramente in questo esempio. La sequenza di arresto non è inclusa nella risposta: ottieni il testo che la precede, senza bisogno di pulizia da parte tua. Inoltre, il finish_reason è "stop", esattamente come in un arresto naturale: l’API non distingue tra i due casi, quindi spetta a te ricordare cosa hai richiesto.

Tre casi d’uso tipici

Il primo caso gestisce il modello loquace. Chiedi una capitale e ottieni la capitale più tre frasi di spiegazione che la tua interfaccia non si aspettava. Il prompt di sistema definisce l’intento; le sequenze di arresto lo fanno rispettare:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Answer with only the city name, nothing else."
        },
        {
            "role": "user",
            "content": "What is the capital of Italy?"
        }
    ],
    stop=["\n", ".", "Explanation"]  # Stop at the first newline or period
)

print(response.choices[0].message.content.strip())
# Rome

Il secondo caso copre la generazione di documenti sezione per sezione, quando vuoi mantenere il controllo tra le parti invece di lasciare che il modello produca un intero rapporto in un’unica volta. Ti fermi sui delimitatori che segnalano ciò che segue:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Write the Introduction section of a report."
        },
        {
            "role": "user",
            "content": "Topic: the impact of AI on employment in Europe."
        }
    ],
    stop=["## ", "---", "Conclusion"]  # Stop before the next section
)

Il terzo caso è il più conveniente in pratica: estrarre JSON utilizzabile senza passaggi di pulizia. I modelli tendono a racchiudere il loro output in testo esplicativo, il che rompe json.loads(); tagliare a un doppio a capo o a tripli backtick elimina il problema alla radice.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Respond only with valid JSON."
        },
        {
            "role": "user",
            "content": "Give me info for Paris: population, country, time zone."
        }
    ],
    stop=["\n\n", "```"]  # Stop after the JSON block
)

Combinare sequenze di arresto e streaming

Nulla ti impedisce di combinare entrambi i meccanismi: lo stream si interrompe non appena viene rilevata una delle sequenze di arresto nel testo generato e i chunk già ricevuti rimangono validi.

stream = client.chat.stream(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Tell a short story."}
    ],
    stop=["Fin.", "THE END", "---"]
)

full_text = ""
for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        full_text += content
        print(content, end="", flush=True)

print(f"\n\nText: {len(full_text)} characters")

Limitazioni del meccanismo

Quattro vincoli regolano l’uso del parametro stop. Puoi fornire al massimo quattro sequenze per richiesta, il che ti costringe a scegliere quelle più discriminanti invece di accumularle. Sono sensibili alle maiuscole/minuscole: "end" non catturerà mai "End", quindi devi tenere conto delle varianti rilevanti. La sequenza non è mai inclusa nella risposta, cosa importante se il formato atteso termina con quel delimitatore. Infine, il rilevamento avviene token per token: se la tua sequenza cade nel mezzo di un token, passa inosservata, un altro motivo per scegliere delimitatori multi-carattere piuttosto che un singolo simbolo.

Errori costosi

L’errore più comune è una sequenza troppo corta, che innesca arresti prematuri. Un punto fermo isolato ferma la generazione alla prima frase che incontra, anche nel mezzo di un’abbreviazione; l’errore simmetrico è scegliere una stringa che il modello non produrrà mai, nel qual caso il parametro non fa nulla e credi erroneamente di aver impostato una protezione.

# BAD: sequence too short, premature stops
stop=["."]  # Stops at every sentence!

# GOOD: context-specific sequence
stop=[".\n\n"]  # Stops after a period followed by a double newline

# BAD: sequence the model will never produce
stop=["XYZZY"]  # Has no effect

# GOOD: realistic sequence based on expected format
stop=["Next question:", "---"]

La regola che deriva da queste quattro righe è semplice: una buona sequenza di arresto deriva dal formato che hai chiesto al modello di usare, mai dalla tua immaginazione.

Esempio completo: Q&A controllato

Mettiamo insieme questi elementi in una breve funzione di domanda e risposta, dove una temperatura bassa garantisce stabilità fattuale, max_tokens impone un tetto di sicurezza e le sequenze di arresto tagliano i commenti che il modello potrebbe essere tentato di aggiungere dopo la sua risposta:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

def ask_single_question(question: str) -> str:
    """Ask a question and get a concise answer without chatter."""
    response = client.chat.complete(
        model="mistral-large-latest",
        messages=[
            {
                "role": "system",
                "content": "Answer in a single sentence, directly and factually."
            },
            {"role": "user", "content": question}
        ],
        max_tokens=100,
        stop=["\n\n", "Remark:", "Note:"],
        temperature=0.1
    )

    return response.choices[0].message.content.strip()

# Test
questions = [
    "What is the speed of light?",
    "Who invented the telephone?",
    "How many planets are in the solar system?"
]

for q in questions:
    print(f"Q: {q}")
    print(f"A: {ask_single_question(q)}\n")

Esegui questo script una volta così com’è, poi una seconda volta dopo aver rimosso il parametro stop: confrontare i due output ti mostra esattamente cosa filtrano quelle tre sequenze.

Punti chiave

  • Le sequenze di arresto fermano la generazione quando il modello produce testo specifico
  • Massimo 4 sequenze per richiesta; sensibili alle maiuscole/minuscole
  • La sequenza di arresto non è mai inclusa nella risposta
  • Usa sequenze abbastanza specifiche per evitare arresti prematuri
  • Compatibili con lo streaming e tutti gli altri parametri