Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Completioni N

Lezione 15 di 16 Aggiornata il 2 novembre 2026 Sviluppatore
In questa pagina
  1. Generare più risposte in una singola chiamata
  2. Selezionare la risposta migliore
  3. Confrontare due prompt su un campione
  4. Migliorare l’affidabilità della classificazione tramite votazione
  5. Quando usare n > 1
  6. Punti chiave

Generare più risposte in una singola chiamata

Il parametro n istruisce il modello a produrre più risposte alternative allo stesso prompt all’interno di una singola richiesta API. Sebbene possa sembrare una funzionalità minore, abilita tre casi d’uso seri: confrontare due formulazioni di prompt su un campione, selezionare automaticamente la risposta migliore da un batch ed esplorare lo spazio delle soluzioni invece di accettare il primo output.

Di default, n=1 e l’API restituisce una singola risposta in choices. Se imposti n=5, l’array contiene cinque voci, ognuna con il proprio index. Nota la temperatura impostata a 1.0 nell’esempio seguente: senza una randomizzazione sufficiente, tutte e cinque le risposte sarebbero identiche, rendendo la chiamata inutile.

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="ministral-3b-latest",
    messages=[
        {"role": "user", "content": "What is the best programming language for beginners? One word only."}
    ],
    temperature=1.0,  # High temperature to maximize diversity
    n=5
)

for choice in response.choices:
    print(f"Response {choice.index}: {choice.message.content}")

Due fattori determinano il valore pratico di questo parametro. Il primo è la fatturazione: i token di input vengono addebitati una sola volta poiché il prompt viene inviato una volta sola, ma i token di output vengono addebitati per ogni completamento. Con n=5 e max_tokens=100, il tuo limite di output sale a 500 token. È proprio questo che rende n attraente per prompt lunghi: ammortizzare un contesto ampio su cinque risposte costa significativamente meno rispetto a effettuare cinque chiamate separate.

print(f"Prompt tokens  : {response.usage.prompt_tokens}")     # Charged 1x
print(f"Response tokens: {response.usage.completion_tokens}")  # Charged nx
print(f"Total          : {response.usage.total_tokens}")

Il secondo fattore è la compatibilità: non tutti i modelli Mistral supportano n. Ad aprile 2026, le versioni recenti di mistral-large non supportano n > 1. Usa ministral-3b-latest o altri modelli compatibili per questa funzionalità, motivo per cui tutti gli esempi in questa lezione si basano su quel modello.

Selezionare la risposta migliore

Il primo caso d’uso consiste nel generare più candidati e mantenere quello migliore in base a un criterio che definisci tu. Il meccanismo è intenzionalmente generico: best_of_n accetta qualsiasi funzione di scoring, permettendoti di misurare ciò che conta nel tuo contesto: la presenza di una parola chiave obbligatoria, la validità JSON o l’aderenza a una lunghezza target. La funzione length_scorer illustra quest’ultimo criterio, dove il punteggio diminuisce proporzionalmente alla deviazione dalla lunghezza target.

def best_of_n(client, messages, n=5, scorer=None, **kwargs):
    """Generates N responses and selects the best one."""
    response = client.chat.complete(
        model="ministral-3b-latest",
        messages=messages,
        n=n,
        temperature=0.9,
        **kwargs
    )

    candidates = [
        {
            "index": c.index,
            "content": c.message.content,
            "score": scorer(c.message.content) if scorer else 0
        }
        for c in response.choices
    ]

    if scorer:
        candidates.sort(key=lambda x: x["score"], reverse=True)

    return candidates

# Scorer: appropriate length (not too short, not too long)
def length_scorer(text: str, target=200) -> float:
    """Score based on proximity to a target length."""
    diff = abs(len(text) - target)
    return max(0, 1 - diff / target)

candidates = best_of_n(
    client,
    [{"role": "user", "content": "Write a summary of generative AI in 2026."}],
    n=5,
    scorer=length_scorer,
    max_tokens=300
)

print("Best response:")
print(candidates[0]["content"])
print(f"Score: {candidates[0]['score']:.2f}")

Confrontare due prompt su un campione

Il secondo caso d’uso è metodologico piuttosto che focalizzato sul prodotto. Quando devi decidere tra due formulazioni di prompt, confrontare una singola risposta con un’altra non prova nulla: la varianza del modello da sola potrebbe spiegare la differenza. Generando N risposte per ciascuna versione e misurando la lunghezza media e il tasso di risposte distinte, ottieni prove preliminari. Un punteggio di diversità di 1.0 su un prompt destinato a produrre un formato stabile è un campanello d’allarme, non una buona notizia.

def ab_test_prompts(client, prompt_a: str, prompt_b: str, n: int = 5):
    """Compares two prompts by generating N responses for each."""
    results = {}

    for label, prompt in [("A", prompt_a), ("B", prompt_b)]:
        response = client.chat.complete(
            model="ministral-3b-latest",
            messages=[{"role": "user", "content": prompt}],
            n=n,
            temperature=0.8,
            max_tokens=200
        )

        texts = [c.message.content for c in response.choices]
        avg_length = sum(len(t) for t in texts) / len(texts)
        unique_ratio = len(set(texts)) / len(texts)

        results[label] = {
            "avg_length": round(avg_length),
            "diversity": round(unique_ratio, 2),
            "sample": texts[0][:150]
        }

    return results

# Test
results = ab_test_prompts(
    client,
    "Summarize the benefits of Python.",
    "List the 3 main benefits of Python in one sentence each."
)

for label, data in results.items():
    print(f"\nPrompt {label}:")
    print(f"  Average length : {data['avg_length']} chars")
    print(f"  Diversity      : {data['diversity']}")
    print(f"  Sample         : {data['sample']}...")

Migliorare l’affidabilità della classificazione tramite votazione

Il terzo caso d’uso offre il ROI più alto in produzione. Per un’attività di classificazione, una singola risposta non ti dice nulla sulla confidenza del modello: la risposta potrebbe essere ovvia, oppure potrebbe essere un’ipotesi al limite tra due categorie. Genera sette risposte, conta i voti e ottieni sia un’etichetta che un tasso di confidenza azionabile: una classificazione 4/7 può essere instradata per la validazione umana, mentre una 7/7 passa direttamente. Usare un numero dispari evita i pareggi.

from collections import Counter

def majority_vote(client, messages, n=7, **kwargs):
    """Majority vote classification over N completions."""
    response = client.chat.complete(
        model="ministral-3b-latest",
        messages=messages,
        n=n,
        temperature=0.7,
        max_tokens=20,
        **kwargs
    )

    votes = [c.message.content.strip().upper() for c in response.choices]
    counts = Counter(votes)
    winner, count = counts.most_common(1)[0]
    confidence = count / n

    return {
        "result": winner,
        "confidence": round(confidence, 2),
        "votes": dict(counts),
        "n": n
    }

# Sentiment classification
result = majority_vote(
    client,
    messages=[
        {"role": "system", "content": "Classify the sentiment: POSITIVE, NEGATIVE, or NEUTRAL. Reply with one word only."},
        {"role": "user", "content": "The product is okay but the delivery was very slow."}
    ],
    n=7
)

print(f"Result    : {result['result']}")
print(f"Confidence: {result['confidence']:.0%}")
print(f"Votes     : {result['votes']}")

Quando usare n > 1

Questo parametro non è giustificato ovunque: sul traffico standard, ogni completamento aggiuntivo è un costo di output senza ritorno. La tabella seguente riassume i valori difendibili in base allo scenario.

Scenarion consigliatoPerché
Produzione standard1Costo minimo
Selezione qualità3-5Best-of-N per testo critico
Classificazione robusta5-9 (dispari)Voto a maggioranza per affidabilità
Test A/B dei prompt5-10Dimensione del campione sufficiente per il confronto
Brainstorming5-10Massima diversità di idee

Punti chiave

  • Il parametro n genera più risposte in una singola chiamata API
  • I token di input vengono addebitati una volta; i token di output vengono moltiplicati per N
  • Non tutti i modelli supportano n > 1: verifica la compatibilità
  • Il voto a maggioranza migliora l’affidabilità della classificazione
  • Best-of-N seleziona la risposta migliore in base a un criterio misurabile
  • Usa una temperatura alta con n > 1 per massimizzare la diversità delle risposte