Completiones múltiples (n)
En esta página
Generar varias respuestas en una única llamada
El parámetro n indica al modelo que produzca varias respuestas alternativas a la misma petición dentro de una única solicitud a la API. Aunque pueda parecer una funcionalidad menor, habilita tres casos de uso de gran calado: comparar dos formulaciones de prompt sobre un conjunto de muestras, seleccionar automáticamente la mejor respuesta de un lote y explorar el espacio de soluciones en lugar de conformarse con la primera salida.
Por defecto, n=1, y la API devuelve una única respuesta en choices. Si estableces n=5, el array contendrá cinco entradas, cada una con su propio index. Fíjate en que la temperatura está fijada a 1,0 en el ejemplo siguiente: sin suficiente aleatorización, las cinco respuestas serían idénticas, lo que haría inútil la llamada.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="ministral-3b-latest",
messages=[
{"role": "user", "content": "What is the best programming language for beginners? One word only."}
],
temperature=1.0, # Temperatura alta para maximizar la diversidad
n=5
)
for choice in response.choices:
print(f"Response {choice.index}: {choice.message.content}")
Dos factores determinan el valor práctico de este parámetro. El primero es la facturación: los tokens de entrada se cobran solo una vez, ya que el prompt se envía una sola vez, pero los tokens de salida se cobran por cada completión. Con n=5 y max_tokens=100, tu límite de salida salta a 500 tokens. Esto es precisamente lo que hace atractivo el uso de n para prompts largos: amortizar un contexto extenso entre cinco respuestas cuesta significativamente menos que realizar cinco llamadas separadas.
print(f"Prompt tokens : {response.usage.prompt_tokens}") # Se cobra 1x
print(f"Response tokens: {response.usage.completion_tokens}") # Se cobra nx
print(f"Total : {response.usage.total_tokens}")
El segundo factor es la compatibilidad: no todos los modelos de Mistral admiten n. A fecha de abril de 2026, las versiones recientes de mistral-large no soportan n > 1. Utiliza ministral-3b-latest u otros modelos compatibles para esta funcionalidad; por eso todos los ejemplos de esta lección se basan en dicho modelo.
Seleccionar la mejor respuesta
El primer caso de uso consiste en generar múltiples candidatos y quedarse con el mejor según un criterio que tú definas. El mecanismo es intencionadamente genérico: best_of_n acepta cualquier función de puntuación, lo que te permite medir lo que importa en tu contexto: la presencia de una palabra clave obligatoria, la validez del JSON o el cumplimiento de una longitud objetivo. La función length_scorer ilustra este último criterio, donde la puntuación disminuye proporcionalmente a la desviación respecto a la longitud objetivo.
def best_of_n(client, messages, n=5, scorer=None, **kwargs):
"""Genera N respuestas y selecciona la mejor."""
response = client.chat.complete(
model="ministral-3b-latest",
messages=messages,
n=n,
temperature=0.9,
**kwargs
)
candidates = [
{
"index": c.index,
"content": c.message.content,
"score": scorer(c.message.content) if scorer else 0
}
for c in response.choices
]
if scorer:
candidates.sort(key=lambda x: x["score"], reverse=True)
return candidates
# Puntuador: longitud adecuada (ni muy corta ni muy larga)
def length_scorer(text: str, target=200) -> float:
"""Puntuación basada en la proximidad a una longitud objetivo."""
diff = abs(len(text) - target)
return max(0, 1 - diff / target)
candidates = best_of_n(
client,
[{"role": "user", "content": "Write a summary of generative AI in 2026."}],
n=5,
scorer=length_scorer,
max_tokens=300
)
print("Best response:")
print(candidates[0]["content"])
print(f"Score: {candidates[0]['score']:.2f}")
Comparar dos prompts en una muestra
El segundo caso de uso es metodológico más que orientado al producto. Cuando debes decidir entre dos formulaciones de prompt, comparar una única respuesta con otra no demuestra nada: la varianza del modelo por sí sola podría explicar la diferencia. Al generar N respuestas para cada versión y medir la longitud media y la tasa de respuestas distintas, obtienes indicios preliminares. Una puntuación de diversidad de 1,0 en un prompt destinado a producir un formato estable es una señal de alarma, no una buena noticia.
def ab_test_prompts(client, prompt_a: str, prompt_b: str, n: int = 5):
"""Compara dos prompts generando N respuestas para cada uno."""
results = {}
for label, prompt in [("A", prompt_a), ("B", prompt_b)]:
response = client.chat.complete(
model="ministral-3b-latest",
messages=[{"role": "user", "content": prompt}],
n=n,
temperature=0.8,
max_tokens=200
)
texts = [c.message.content for c in response.choices]
avg_length = sum(len(t) for t in texts) / len(texts)
unique_ratio = len(set(texts)) / len(texts)
results[label] = {
"avg_length": round(avg_length),
"diversity": round(unique_ratio, 2),
"sample": texts[0][:150]
}
return results
# Prueba
results = ab_test_prompts(
client,
"Summarize the benefits of Python.",
"List the 3 main benefits of Python in one sentence each."
)
for label, data in results.items():
print(f"\nPrompt {label}:")
print(f" Average length : {data['avg_length']} chars")
print(f" Diversity : {data['diversity']}")
print(f" Sample : {data['sample']}...")
Mejorar la fiabilidad de la clasificación mediante votación
El tercer caso de uso ofrece el mayor retorno de la inversión en producción. Para una tarea de clasificación, una única respuesta no te dice nada sobre la confianza del modelo: la respuesta puede ser obvia o puede ser una conjetura al borde entre dos categorías. Genera siete respuestas, cuenta los votos y obtendrás tanto una etiqueta como una tasa de confianza accionable: una clasificación de 4/7 puede derivarse para validación humana, mientras que un 7/7 pasa directamente. Usar un número impar evita empates.
from collections import Counter
def majority_vote(client, messages, n=7, **kwargs):
"""Clasificación por mayoría de votos sobre N completiones."""
response = client.chat.complete(
model="ministral-3b-latest",
messages=messages,
n=n,
temperature=0.7,
max_tokens=20,
**kwargs
)
votes = [c.message.content.strip().upper() for c in response.choices]
counts = Counter(votes)
winner, count = counts.most_common(1)[0]
confidence = count / n
return {
"result": winner,
"confidence": round(confidence, 2),
"votes": dict(counts),
"n": n
}
# Clasificación de sentimiento
result = majority_vote(
client,
messages=[
{"role": "system", "content": "Classify the sentiment: POSITIVE, NEGATIVE, or NEUTRAL. Reply with one word only."},
{"role": "user", "content": "The product is okay but the delivery was very slow."}
],
n=7
)
print(f"Result : {result['result']}")
print(f"Confidence: {result['confidence']:.0%}")
print(f"Votes : {result['votes']}")
Cuándo usar n > 1
Este parámetro no está justificado en todas partes: en tráfico estándar, cada completión adicional es un coste de salida sin retorno. La tabla siguiente resume los valores defendibles según el escenario.
| Escenario | n recomendado | Por qué |
|---|---|---|
| Producción estándar | 1 | Coste mínimo |
| Selección de calidad | 3-5 | Mejor de N para texto crítico |
| Clasificación robusta | 5-9 (impar) | Votación por mayoría para fiabilidad |
| Pruebas A/B de prompts | 5-10 | Tamaño de muestra suficiente para comparación |
| Lluvia de ideas | 5-10 | Máxima diversidad de ideas |
Puntos clave
- El parámetro
ngenera múltiples respuestas en una única llamada a la API - Los tokens de entrada se cobran una vez; los de salida se multiplican por N
- No todos los modelos admiten
n > 1: verifica la compatibilidad - La votación por mayoría mejora la fiabilidad de la clasificación
- El método «mejor de N» selecciona la mejor respuesta según un criterio medible
- Usa una temperatura alta con
n > 1para maximizar la diversidad de respuestas