Ir para o conteúdo principal
Português— Escolher um idioma
Menu

Temperatura, top_p e Parâmetros de Geração

Aula 2 de 16 Atualizada a 3 de novembro de 2026 Programador
Nesta página
  1. Temperatura, top_p e Parâmetros de Geração
  2. Como o Modelo Escolhe o Próximo Token
  3. Temperatura
  4. Top_p (Amostragem do Núcleo)
  5. Outros Parâmetros Importantes
  6. Observe a Variação por Si Mesmo
  7. Pontos-chave

Atualizado a 3 de novembro de 2026 com base na documentação da OpenAI: temperature e top_p apenas são aceites com um esforço de raciocínio de none, ao passo que os modelos GPT-5.6 raciocinam por predefinição (medium). As chamadas que definem estes parâmetros devem, portanto, especificar reasoning={"effort": "none"} (API de Respostas) ou reasoning_effort="none" (Chat Completions). Fontes: Utilizar o GPT-6 · GPT-5.6 Terra.

Temperatura, top_p e Parâmetros de Geração

Quando envia um prompt para um modelo de linguagem, o texto gerado não é determinístico por predefinição: duas chamadas estritamente idênticas podem devolver duas respostas diferentes. Os parâmetros de geração permitem-lhe controlar o grau de criatividade ou rigor nessas respostas. Dominá-los serve dois objetivos concretos: obter resultados adaptados a cada caso de uso e saber onde procurar quando um conjunto de testes de integração começa a falhar uma em cada três vezes sem explicação aparente.

Como o Modelo Escolhe o Próximo Token

Em cada passo da geração, o modelo calcula uma distribuição de probabilidade sobre todo o seu vocabulário e, em seguida, amostra o token seguinte a partir dessa distribuição. A palavra “melhor” não surge mecanicamente; é um sorteio. Os parâmetros de geração intervêm antes da amostragem, quer apertando a distribuição em torno dos candidatos mais prováveis, quer achatando-a para dar hipótese aos outsiders. As duas chamadas abaixo ilustram os extremos desta necessidade: um slogan de padaria só tem valor se surpreender, ao passo que a sintaxe de uma list comprehension nunca deve surpreender.

from openai import OpenAI

client = OpenAI()

# Resposta criativa (temperatura alta)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Resposta factual (temperatura baixa)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Temperatura

A temperatura é um fator multiplicativo aplicado aos logits antes do softmax. Em 0, a distribuição aperta-se ao ponto de o modelo selecionar sempre o token mais provável: o comportamento torna-se quase determinístico, que é exatamente o que se espera de um extrator de dados repetido num teste unitário. Entre 0,1 e 0,3, as respostas mantêm-se muito consistentes de chamada para chamada: este é o território do código e das respostas factuais. O intervalo de 0,7 a 0,9 equilibra criatividade e consistência, adequando-se à escrita geral. Para além disso, entre 1,0 e 1,5, os resultados tornam-se variados e por vezes desorientadores — o efeito desejado para brainstorming, mas um defeito fatal em qualquer outro contexto.

A tabela abaixo reúne configurações que funcionam bem para os casos de uso mais frequentes. Encare-a como um ponto de partida a validar nos seus próprios prompts: um prompt altamente restritivo tolera uma temperatura mais alta do que poderia pensar, enquanto um prompt vago descarrila mais cedo.

Caso de Uso Temperatura top_p
Geração de Código 0,0 – 0,2 1,0
Extração de Dados 0,0 1,0
Escrita Profissional 0,5 – 0,7 0,9
Brainstorming 1,0 – 1,3 0,95
Escrita Criativa 1,0 – 1,5 0,9

Top_p (Amostragem do Núcleo)

O parâmetro top_p atua sobre a mesma distribuição, mas através de um mecanismo completamente diferente: filtra tokens com base na sua probabilidade cumulativa. Com top_p=0.9, o modelo considera apenas os tokens cuja probabilidade cumulativa atinge 90%, removendo pura e simplesmente a cauda longa de escolhas improváveis. Enquanto a temperatura distorce as probabilidades de todos os candidatos, o top_p trunca a lista de candidatos admissíveis.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

Isto leva a uma regra prática que não se arrependerá de aplicar: não mexa na temperatura e no top_p ao mesmo tempo. Como ambos atuam sobre o mesmo mecanismo, seria incapaz de atribuir o efeito observado a um ou a outro, e as suas configurações tornar-se-iam uma questão de superstição. Ajuste um parâmetro, deixando o outro no seu valor predefinido; a OpenAI recomenda começar pela temperatura.

Outros Parâmetros Importantes

max_output_tokens limita o comprimento da resposta em tokens. Esta é a sua salvaguarda tanto para custos como para respostas intermináveis, particularmente útil quando a saída deve caber num campo de interface restrito: uma resposta enquadrada durante a geração é preferível a um truncamento no lado da visualização.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Desde o GPT-5.6, o raciocínio deixou de ser um modelo separado: é uma definição que controla o tempo de reflexão em toda a família de modelos.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

O nível low responde rapidamente a perguntas simples, medium constitui um compromisso honesto para a maioria das tarefas e high envolve um raciocínio aprofundado que deve ser reservado a problemas genuinamente difíceis. A equação diferencial acima merece-o; reformular uma frase de boas-vindas não — estaria a pagar por tempo de reflexão numa tarefa que não o exige.

Observe a Variação por Si Mesmo

Nada substitui ver estas definições em ação. Escreva um script Python que envie o mesmo prompt para o GPT-5.6 Terra com cinco valores de temperatura (0, 0,3, 0,7, 1,0 e 1,3) e apresente as cinco saídas lado a lado. Escolha uma instrução francamente criativa, por exemplo, “Invente um nome para uma startup de IA”: a repetição quase palavra por palavra em 0 e a dispersão em 1,3 tornam-se impossíveis de ignorar, e esta memória visual servirá de ponto de referência por muito mais tempo do que uma tabela de valores.

Pontos-chave

  • A temperatura controla a dispersão da distribuição de probabilidade
  • top_p filtra tokens por probabilidade cumulativa
  • Nunca modifique ambos simultaneamente
  • Temperatura baixa para tarefas factuais, alta para tarefas criativas
  • A definição de raciocínio (de none a max) aplica-se a toda a família GPT-5.6