Completaciones N y secuencias de parada
En esta página
Generar múltiples respuestas en una única solicitud
Para cerrar esta sección sobre parámetros de generación, analizamos dos herramientas de control prácticas: el parámetro N completions, que te permite solicitar múltiples respuestas a partir del mismo indicador en una única llamada a la API, y las secuencias de parada, que determinan dónde se detiene la generación. La primera te ayuda a comparar alternativas, aumentar tus posibilidades de obtener una respuesta óptima o alimentar un proceso de selección automática; la segunda te da control sobre la longitud y el formato de las salidas.
El parámetro n: cómo funciona
Cuando estableces n=5, el modelo genera 5 respuestas independientes para tu indicador, cada una devuelta como una opción distinta en el objeto de respuesta. Un punto de facturación merece tu atención antes de usarlo intensivamente: los tokens de entrada (tu indicador) se facturan solo una vez, pero los tokens de salida se facturan por cada completación. Con n=5, pagas cinco veces por los tokens de salida, pero solo una vez por el indicador: para un indicador largo y respuestas cortas, esto es significativamente más económico que cinco llamadas separadas.
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Propón un eslogan para una marca francesa de café ecológico."}
],
n=5,
temperature=0.8
)
for i, choice in enumerate(response.choices):
print(f"Opción {i+1}: {choice.message.content}")
Este código produce 5 eslóganes diferentes, entre los que eliges el mejor. Este es el primer uso principal de n: la generación creativa, donde obtener múltiples opciones para un eslogan, un título o un nombre de producto supera a un único intento. El segundo es la clasificación con votación: generas N clasificaciones del mismo texto y conservas la respuesta mayoritaria, lo que suaviza errores ocasionales. También lo usas para la exploración (probar varios enfoques para el mismo problema) y para el control de calidad, comprobando la coherencia del modelo al comparar sus propias respuestas.
Conoce tres límites antes de desplegarlo. Primero, no todos los modelos de Mistral admiten un n mayor que 1: consulta la documentación del modelo que uses. A continuación, la latencia aumenta con n, ya que el modelo genera más tokens en total. Por último, y este es un error clásico de principiante, combina siempre n > 1 con una temperatura suficiente (0,5 o superior): a temperatura 0, tus cinco respuestas serán casi idénticas y habrás pagado cinco veces por la misma frase.
Secuencias de parada: controla dónde termina la generación
Las secuencias de parada son cadenas de caracteres que obligan al modelo a detenerse en cuanto las genera. Este es un mecanismo esencial para controlar la longitud y el formato de las respuestas. Empecemos con un ejemplo deliberadamente simplista para establecer el concepto:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Enumera los días de la semana, uno por línea."}
],
stop=["Saturday"]
)
Aquí, el modelo se detiene en cuanto genera la palabra «Saturday», produciendo una lista truncada. En la práctica, las secuencias de parada son más útiles con delimitadores estructurales. Primer caso de uso: extraer una única sección de una respuesta estructurada. Si tu indicador solicita un análisis en tres partes, detener la generación en el segundo encabezado te da solo la primera:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": """Analiza este producto:
## Puntos fuertes
(tu análisis aquí)
## Puntos débiles
(tu análisis aquí)
## Conclusión
(tu análisis aquí)"""}
],
stop=["## Weaknesses"]
)
# El modelo se detiene después de los puntos fuertes
Segundo caso: limitar la generación a un bloque JSON, combinando la secuencia de parada con un prellenado del mensaje del asistente que abre la llave:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Devuelve los metadatos de este artículo en JSON."},
{"role": "assistant", "content": "{", "prefix": True}
],
stop=["}"]
)
# El modelo genera el contenido JSON y se detiene en la llave de cierre
Tercer caso: evitar que el modelo continúe después de su respuesta. Para una pregunta cerrada, detenerse en el primer salto de línea garantiza un «SÍ» o «NO» seco, sin el párrafo de justificación que no has solicitado:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Responde a la siguiente pregunta solo con SÍ o NO.\n¿Es la Tierra redonda?"}
],
stop=["\n"]
)
El parámetro max_tokens
Complementario a las secuencias de parada, max_tokens establece un límite estricto en el número de tokens de salida:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Resume la historia de Francia."}
],
max_tokens=200
)
Observa su comportamiento: max_tokens corta la respuesta abruptamente, potencialmente a mitad de frase; tu resumen podría terminar con «y así Napoleón». Trátalo como una red de seguridad contra respuestas interminables, no como la forma principal de controlar la longitud. Para ello, prefiere instrucciones en el indicador («responde en 3 frases») combinadas con un max_tokens generoso.
Combinar parámetros
Estos mecanismos brillan cuando se usan juntos. El siguiente ejemplo genera 5 títulos de artículo diferentes, cada uno limitado a una única línea gracias a la secuencia de parada, con un techo de 50 tokens como salvaguarda:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Generas títulos de artículos de blog. Un título por respuesta."
},
{
"role": "user",
"content": "Tema: productividad laboral en 2026"
}
],
n=5,
temperature=0.8,
max_tokens=50,
stop=["\n"]
)
titres = [choice.message.content.strip() for choice in response.choices]
for i, titre in enumerate(titres):
print(f"{i+1}. {titre}")
Puntos clave
- El parámetro
ngenera múltiples respuestas en una única llamada (los tokens de entrada se facturan una vez) - Combina
n > 1con una temperatura suficiente para obtener variaciones reales - Las secuencias de parada detienen la generación en un delimitador específico
max_tokenses una red de seguridad, no un control principal de la longitud- Combina estos parámetros para un control fino de la generación