Conversas em várias voltas: manter o raciocínio no histórico
Nesta página
Lição reescrita em 2 de novembro de 2026. Anteriormente, abordava o parâmetro
prompt_modedo Magistral, que foi removido com esse modelo. Agora, trata de uma regra destacada na documentação atual: em conversas com várias voltas, o raciocínio deve permanecer no histórico. Fonte: Reasoning — Multi-turn conversations.
A regra: reenviar a mensagem completa
Com a API de Completions de Chat, cabe-lhe enviar o histórico da conversa em cada volta. A tentação de incluir apenas o texto da resposta, que é mais curto e legível, é grande. A documentação da Mistral é explícita: reenvie sempre a mensagem completa do assistente, incluindo os fragmentos de raciocínio. Remover o rasto do raciocínio de uma volta para a seguinte degrada o desempenho do modelo, pois este depende dele para manter a coerência. Poupar tokens tem como custo a qualidade.
Código de referência
A abordagem mais simples consiste em adicionar o objeto de mensagem devolvido pelo SDK ao histórico exatamente como está:
import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, UserMessage
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"], timeout_ms=300_000)
messages = []
for question in ["What is 17 × 23?", "Now multiply that result by 3."]:
messages.append(UserMessage(content=question))
response = client.chat.complete(
model="mistral-large-4-0",
messages=messages,
reasoning_effort="high",
)
assistant_message = response.choices[0].message
# Exibição: apenas o texto da resposta
content = assistant_message.content
if isinstance(content, str):
print(content)
else:
print("".join(c.text for c in content or [] if isinstance(c, TextChunk)))
# Histórico: mensagem completa, incluindo o raciocínio
messages.append(assistant_message)
O parâmetro timeout_ms aumenta o tempo de espera do cliente, o que é útil quando um raciocínio longo prolonga o tempo de resposta. O ponto crítico é a última linha: não adiciona uma mensagem reconstruída apenas a partir do texto, mas sim o próprio assistant_message.
O custo
O exemplo oficial ilustra o impacto nos tokens. Na primeira volta, o pedido contém 25 tokens de entrada: apenas a pergunta. O modelo responde com 187 tokens, incluindo o raciocínio. Na segunda volta, a entrada sobe para 221 tokens: a primeira pergunta (25), a resposta completa da primeira volta com o seu raciocínio (187) e a nova pergunta (9). Os tokens de saída de uma volta tornam-se tokens de entrada na seguinte, e é precisamente isso que permite ao modelo saber sem ambiguidade a qual “resultado” o utilizador se refere.
Ao longo de uma conversa longa, este mecanismo faz com que o histórico cresça a cada volta. Duas consequências práticas: monitore usage.prompt_tokens, que cresce com a conversa, e tenha em mente a janela de contexto do modelo (256.000 tokens para o Small 4, um milhão para o Large 4). Se o histórico se tornar demasiado pesado, inicie uma nova conversa com um resumo da anterior, em vez de remover os rastros de raciocínio.
Streaming e a API de Conversas
No modo de streaming, a resposta chega em fragmentos (Lição 3): para o histórico, terá, portanto, de remontar manualmente uma mensagem completa, incluindo o raciocínio, o que complica o código. Se a sua aplicação for conversacional, a API de Conversas oferece uma alternativa: o histórico é mantido no lado do servidor e continua a troca com conversations.append sem reenviar as voltas anteriores (Lição 4).
Históricos gerados pelo Magistral
Se estiver a preservar conversas geradas pelo Magistral, note que o seu formato variou. As versões 25.07 e 25.09 já separavam o raciocínio em fragmentos thinking, tal como hoje. A versão 25.06, o primeiro lançamento, colocava o raciocínio diretamente no texto da resposta, entre as tags <think> e “. Antes de reutilizar tais históricos no Small 4 ou no Large 4, teste a retomada em algumas conversas: não há garantia de que um modelo atual aproveite o raciocínio escrito num formato diferente por outro modelo.
Pontos-chave
- Nas Completions de Chat, reenvie a mensagem completa do assistente, incluindo o raciocínio
- Remover fragmentos de raciocínio poupa tokens, mas degrada significativamente a qualidade
- Os tokens de saída de uma volta tornam-se tokens de entrada na seguinte: monitore
prompt_tokens - Em streaming, a API de Conversas evita a necessidade de remontar o histórico manualmente
- Os históricos do Magistral 25.06 misturavam raciocínio e resposta no texto, usando tags
<think>