Temperatura
Nesta página
Controlar a criatividade do modelo
Até agora, focámo-nos no conteúdo do seu prompt. Agora, vamos abordar outra alavanca igualmente poderosa: os parâmetros de geração. O primeiro e mais fundamental é a temperatura. Esta atua diretamente na distribuição de probabilidade dos tokens, determinando se o modelo se comporta de forma determinística — produzindo respostas previsíveis e quase idênticas de uma chamada para a outra — ou criativa, gerando resultados variados e por vezes surpreendentes. O mesmo prompt enviado com duas temperaturas diferentes pode resultar numa especificação técnica sóbria ou num texto que toma direções inesperadas. Compreender este parâmetro é essencial para adaptar o comportamento do modelo Mistral a cada caso de uso.
Como funciona a temperatura
Recorde o mecanismo básico: em cada passo de geração, o modelo calcula uma probabilidade para cada token possível e, em seguida, seleciona um. A temperatura modifica a forma desta distribuição antes da seleção. Com uma temperatura baixa, próxima de 0, a distribuição torna-se «aguda»: o modelo foca-se quase exclusivamente nos tokens mais prováveis, tornando as respostas previsíveis e consistentes. Se lhe pedir a capital de Itália com temperatura 0,1, obterá praticamente a mesma frase todas as vezes.
Com uma temperatura alta, próxima de 1, a distribuição é, pelo contrário, «achatada»: os tokens menos prováveis tornam-se novamente acessíveis, o modelo considera uma gama mais ampla de sequências possíveis e as respostas ganham variedade — por vezes à custa da coerência. É exatamente isto que deseja para sessões de brainstorming e exatamente o que deve evitar para extração de dados. A tabela seguinte resume os intervalos úteis.
| Temperatura | Comportamento | Casos de Uso |
|---|---|---|
| 0.0 | Quase determinístico, sempre o token mais provável | Extração de dados, classificação, respostas factuais |
| 0.1 - 0.3 | Muito previsível com ligeiras variações | Geração de código, tradução, documentação técnica |
| 0.4 - 0.6 | Equilíbrio entre coerência e variedade | Redação profissional, reformulação, resumo |
| 0.7 - 0.8 | Criativo com boa coerência | Brainstorming, textos de marketing, narrativa |
| 0.9 - 1.0 | Muito criativo, surpreendente, por vezes incoerente | Poesia, ficção, ideação livre, exploração |
Utilizar a temperatura com a API Mistral
Na API, a temperatura é passada como um parâmetro simples da chamada. Compare estes dois pedidos: o primeiro espera uma resposta factual e estável, o segundo procura variedade.
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
# Baixa temperatura: resposta factual e determinística
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is the ROI formula?"}],
temperature=0.1
)
# Alta temperatura: resposta criativa e variada
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Invent a slogan for an organic coffee brand."}],
temperature=0.8
)
A temperatura 0 não é perfeitamente determinística
É necessário corrigir imediatamente um equívoco comum: mesmo com temperature=0, as respostas do Mistral podem apresentar ligeiras variações de um pedido para outro. Isto ocorre devido a fatores de hardware — cálculos de vírgula flutuante, paralelização da GPU — que introduzem pequenas diferenças no arredondamento, suficientes para, ocasionalmente, inclinar a escolha de um token. Assim, se estiver a construir testes automatizados ou benchmarks onde a reprodutibilidade é crítica, não confie apenas em temperature=0: combine uma temperatura baixa com uma verificação no lado do código que valide o conteúdo da resposta em vez da sua forma exata.
Adaptar a temperatura ao contexto
Vejamos como esta definição se comporta em três situações profissionais típicas. Para classificação ou extração, deseja que a mesma avaliação de cliente produza sempre o mesmo veredicto: isso exige temperatura 0.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "Classify the sentiment: positive, neutral, negative."},
{"role": "user", "content": "The product works correctly."}
],
temperature=0.0
)
Para textos de marketing, uma resposta demasiado mecânica seria insípida; a 0,7, o modelo varia a sua redação mantendo a coerência — o ideal para produzir vários ganhos e escolher o melhor.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You are a creative copywriter."},
{"role": "user", "content": "Write 3 hooks for an email campaign."}
],
temperature=0.7
)
Para brainstorming, finalmente, suba até 0,9: aceita que algumas ideias sejam descabidas, pois filtrá-las-á mais tarde. Dez pistas com três excelentes são melhores do que cinco pistas que são todas razoáveis e todas já vistas.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Propose 10 innovative feature ideas for a fitness app."}
],
temperature=0.9
)
Experimentar para encontrar a definição correta
Não existe uma temperatura universalmente ótima: o valor certo depende do seu prompt, do seu modelo e da sua tolerância à variabilidade. O único método fiável é a experimentação, conduzida com rigor:
- Comece com o valor padrão do modelo
- Teste o seu prompt com 3-4 valores de temperatura (0,1; 0,4; 0,7; 0,9)
- Compare os resultados ao longo de 5-10 execuções para cada valor
- Identifique o valor que oferece a melhor relação coerência/variedade para o seu caso
- Documente a definição escolhida juntamente com o seu prompt
Este último ponto é frequentemente negligenciado: um prompt de produção sem a sua temperatura documentada é um prompt especificado a meio, que o seu colega reutilizará com uma definição diferente e se perguntará por que obtém resultados diferentes.
Pontos-chave
- A temperatura controla o nível de criatividade vs. determinismo do modelo
- Valores baixos (0-0,3) para tarefas factuais, valores altos (0,7-1,0) para tarefas criativas
- Mesmo na temperatura 0, são possíveis ligeiras variações
- Experimente vários valores para encontrar a definição ótima
- Documente sempre a temperatura utilizada com os seus prompts em produção