Ir para o conteúdo principal
Português— Escolher um idioma
Menu

Conversas em várias voltas: manter o raciocínio no histórico

Aula 7 de 12 Atualizada a 2 de novembro de 2026 Programador
Nesta página
  1. A regra: reenviar a mensagem completa
  2. Código de referência
  3. O custo
  4. Streaming e a API de Conversas
  5. Históricos gerados pelo Magistral
  6. Pontos-chave

Lição reescrita em 2 de novembro de 2026. Anteriormente, abordava o parâmetro prompt_mode do Magistral, que foi removido com esse modelo. Agora, trata de uma regra destacada na documentação atual: em conversas com várias voltas, o raciocínio deve permanecer no histórico. Fonte: Reasoning — Multi-turn conversations.

A regra: reenviar a mensagem completa

Com a API de Completions de Chat, cabe-lhe enviar o histórico da conversa em cada volta. A tentação de incluir apenas o texto da resposta, que é mais curto e legível, é grande. A documentação da Mistral é explícita: reenvie sempre a mensagem completa do assistente, incluindo os fragmentos de raciocínio. Remover o rasto do raciocínio de uma volta para a seguinte degrada o desempenho do modelo, pois este depende dele para manter a coerência. Poupar tokens tem como custo a qualidade.

Código de referência

A abordagem mais simples consiste em adicionar o objeto de mensagem devolvido pelo SDK ao histórico exatamente como está:

import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, UserMessage

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"], timeout_ms=300_000)
messages = []

for question in ["What is 17 × 23?", "Now multiply that result by 3."]:
    messages.append(UserMessage(content=question))

    response = client.chat.complete(
        model="mistral-large-4-0",
        messages=messages,
        reasoning_effort="high",
    )
    assistant_message = response.choices[0].message

    # Exibição: apenas o texto da resposta
    content = assistant_message.content
    if isinstance(content, str):
        print(content)
    else:
        print("".join(c.text for c in content or [] if isinstance(c, TextChunk)))

    # Histórico: mensagem completa, incluindo o raciocínio
    messages.append(assistant_message)

O parâmetro timeout_ms aumenta o tempo de espera do cliente, o que é útil quando um raciocínio longo prolonga o tempo de resposta. O ponto crítico é a última linha: não adiciona uma mensagem reconstruída apenas a partir do texto, mas sim o próprio assistant_message.

O custo

O exemplo oficial ilustra o impacto nos tokens. Na primeira volta, o pedido contém 25 tokens de entrada: apenas a pergunta. O modelo responde com 187 tokens, incluindo o raciocínio. Na segunda volta, a entrada sobe para 221 tokens: a primeira pergunta (25), a resposta completa da primeira volta com o seu raciocínio (187) e a nova pergunta (9). Os tokens de saída de uma volta tornam-se tokens de entrada na seguinte, e é precisamente isso que permite ao modelo saber sem ambiguidade a qual “resultado” o utilizador se refere.

Ao longo de uma conversa longa, este mecanismo faz com que o histórico cresça a cada volta. Duas consequências práticas: monitore usage.prompt_tokens, que cresce com a conversa, e tenha em mente a janela de contexto do modelo (256.000 tokens para o Small 4, um milhão para o Large 4). Se o histórico se tornar demasiado pesado, inicie uma nova conversa com um resumo da anterior, em vez de remover os rastros de raciocínio.

Streaming e a API de Conversas

No modo de streaming, a resposta chega em fragmentos (Lição 3): para o histórico, terá, portanto, de remontar manualmente uma mensagem completa, incluindo o raciocínio, o que complica o código. Se a sua aplicação for conversacional, a API de Conversas oferece uma alternativa: o histórico é mantido no lado do servidor e continua a troca com conversations.append sem reenviar as voltas anteriores (Lição 4).

Históricos gerados pelo Magistral

Se estiver a preservar conversas geradas pelo Magistral, note que o seu formato variou. As versões 25.07 e 25.09 já separavam o raciocínio em fragmentos thinking, tal como hoje. A versão 25.06, o primeiro lançamento, colocava o raciocínio diretamente no texto da resposta, entre as tags <think> e “. Antes de reutilizar tais históricos no Small 4 ou no Large 4, teste a retomada em algumas conversas: não há garantia de que um modelo atual aproveite o raciocínio escrito num formato diferente por outro modelo.

Pontos-chave

  • Nas Completions de Chat, reenvie a mensagem completa do assistente, incluindo o raciocínio
  • Remover fragmentos de raciocínio poupa tokens, mas degrada significativamente a qualidade
  • Os tokens de saída de uma volta tornam-se tokens de entrada na seguinte: monitore prompt_tokens
  • Em streaming, a API de Conversas evita a necessidade de remontar o histórico manualmente
  • Os históricos do Magistral 25.06 misturavam raciocínio e resposta no texto, usando tags <think>