Completions N e Sequências de Paragem
Nesta página
Gerar múltiplas respostas num único pedido
Para concluir esta secção sobre parâmetros de geração, analisamos duas ferramentas de controlo práticas: o parâmetro N completions, que lhe permite solicitar múltiplas respostas para o mesmo prompt numa única chamada à API, e as sequências de paragem, que determinam onde a geração termina. O primeiro ajuda-o a comparar alternativas, aumentar as suas hipóteses de obter uma resposta ótima ou alimentar um processo de seleção automática; o segundo dá-lhe controlo sobre o comprimento e o formato das saídas.
O parâmetro n: como funciona
Quando define n=5, o modelo gera 5 respostas independentes para o seu prompt, cada uma devolvida como uma escolha distinta no objeto de resposta. Um ponto de faturação merece a sua atenção antes de o utilizar intensivamente: os tokens de entrada — o seu prompt — são faturados apenas uma vez, mas os tokens de saída são faturados para cada completamento. Com n=5, paga cinco vezes pelos tokens de saída, mas apenas uma vez pelo prompt: para um prompt longo e respostas curtas, isto é significativamente mais económico do que cinco chamadas separadas.
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Propose a slogan for a French organic coffee brand."}
],
n=5,
temperature=0.8
)
for i, choice in enumerate(response.choices):
print(f"Option {i+1}: {choice.message.content}")
Este código produz 5 slogans diferentes, entre os quais escolhe o melhor. Esta é a primeira grande utilização do n: geração criativa, onde obter múltiplas opções para um slogan, título ou nome de produto supera uma única tentativa. A segunda é a classificação com votação: gera N classificações do mesmo texto e mantém a resposta maioritária, o que suaviza erros ocasionais. Utiliza-o também para exploração — testar várias abordagens para o mesmo problema — e para controlo de qualidade, verificando a consistência do modelo ao comparar as suas próprias respostas.
Conheça três limites antes de implementar. Primeiro, nem todos os modelos Mistral suportam n superior a 1: consulte a documentação do modelo que utiliza. Seguidamente, a latência aumenta com n, uma vez que o modelo gera mais tokens no total. Por fim — e este é um erro clássico de iniciante — combine sempre n > 1 com uma temperatura suficiente (0,5 ou superior): a temperatura 0 fará com que as suas cinco respostas sejam quase idênticas e terá pago cinco vezes pela mesma frase.
Sequências de paragem: controlo do fim da geração
As sequências de paragem são cadeias de caracteres que forçam o modelo a parar assim que as gera. Este é um mecanismo essencial para controlar o comprimento e o formato das respostas. Comecemos com um exemplo deliberadamente simplista para estabelecer o conceito:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "List the days of the week, one per line."}
],
stop=["Saturday"]
)
Aqui, o modelo para assim que gera a palavra “Saturday”, produzindo uma lista truncada. Na prática, as sequências de paragem são mais úteis com delimitadores estruturais. Primeiro caso de uso: extrair uma única secção de uma resposta estruturada. Se o seu prompt solicitar uma análise em três partes, parar a geração no segundo cabeçalho fornece-lhe apenas a primeira:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": """Analyze this product:
## Strengths
(your analysis here)
## Weaknesses
(your analysis here)
## Conclusion
(your analysis here)"""}
],
stop=["## Weaknesses"]
)
# The model stops after the strengths
Segundo caso: limitar a geração a um bloco JSON, combinando a sequência de paragem com um pré-preenchimento da mensagem do assistente que abre a chave:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Return the metadata for this article in JSON."},
{"role": "assistant", "content": "{", "prefix": True}
],
stop=["}"]
)
# The model generates the JSON content and stops at the closing brace
Terceiro caso: impedir o modelo de continuar após a sua resposta. Para uma pergunta fechada, parar na primeira quebra de linha garante um “SIM” ou “NÃO” seco, sem o parágrafo de justificação que não solicitou:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Answer the following question with YES or NO only.\nIs the Earth round?"}
],
stop=["\n"]
)
O parâmetro max_tokens
Complementarmente às sequências de paragem, max_tokens define um limite rígido no número de tokens de saída:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Summarize the history of France."}
],
max_tokens=200
)
Observe o seu comportamento: max_tokens corta a resposta abruptamente, potencialmente a meio de uma frase — o seu resumo pode terminar com “e assim Napoleão”. Trate-o como uma rede de segurança contra respostas intermináveis, não como a forma principal de controlar o comprimento. Para isso, prefira instruções no prompt (“responda em 3 frases”) combinadas com um max_tokens generoso.
Combinar parâmetros
Estes mecanismos brilham quando utilizados em conjunto. O exemplo seguinte gera 5 títulos de artigos diferentes, cada um limitado a uma única linha graças à sequência de paragem, com um teto de 50 tokens como salvaguarda:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "You generate blog article titles. One title per response."
},
{
"role": "user",
"content": "Theme: workplace productivity in 2026"
}
],
n=5,
temperature=0.8,
max_tokens=50,
stop=["\n"]
)
titres = [choice.message.content.strip() for choice in response.choices]
for i, titre in enumerate(titres):
print(f"{i+1}. {titre}")
Pontos-chave
- O parâmetro
ngera múltiplas respostas numa única chamada (tokens de entrada faturados uma vez) - Combine
n > 1com temperatura suficiente para obter variações reais - As sequências de paragem interrompem a geração num delimitador específico
max_tokensé uma rede de segurança, não um controlo primário de comprimento- Combine estes parâmetros para um controlo de geração de granularidade fina