Ir para o conteúdo principal
Português— Escolher um idioma
Menu

Hiperparâmetros: Épocas, Taxa de Aprendizagem, Tamanho do Lote

Aula 6 de 16 Atualizada a 2 de novembro de 2026 Avancado
Nesta página
  1. O papel dos hiperparâmetros
  2. O número de épocas
  3. O multiplicador da taxa de aprendizagem
  4. O tamanho do lote
  5. Um método de otimização
  6. O valor “auto”
  7. Pontos-chave

Atualização de 2 de novembro de 2026 — Disponibilidade do fine-tuning. O serviço de fine-tuning self-service da OpenAI está a ser descontinuado: desde 7 de maio de 2026, as organizações que nunca executaram um job de fine-tuning já não podem criar um; desde 2 de julho, é necessário ter utilizado um modelo com fine-tuning nos últimos 60 dias; e a partir de 6 de janeiro de 2027, nenhum cliente poderá lançar novos jobs. Os modelos já treinados permanecem utilizáveis até que o seu modelo base seja desativado. Este curso mantém a sua utilidade para compreender e aproveitar um modelo existente; para novos projetos, priorize a engenharia de prompts, RAG e avaliações.

O papel dos hiperparâmetros

Os seus dados descrevem o que o modelo deve aprender; os hiperparâmetros descrevem como ele aprende. Por predefinição, a OpenAI seleciona automaticamente valores razoáveis com base no tamanho do seu conjunto de dados e, para um primeiro job, essa é a decisão correta. No entanto, quando um modelo tem um desempenho insuficiente apesar de um corpus limpo, a diferença reside quase sempre nestas definições, e ajustá-las manualmente pode melhorar significativamente os resultados.

O número de épocas

Uma época corresponde a uma passagem completa por todo o seu conjunto de dados de treino. Quanto mais épocas executar, mais vezes o modelo vê cada exemplo e mais detalhes retém. Com poucas épocas, o modelo não aprende o suficiente: isto é subajuste (underfitting) e as suas respostas continuam a parecer as do modelo base. Com demasiadas épocas, o modelo memoriza os exemplos em vez de generalizar: isto é sobreajuste (overfitting) e o modelo recita as suas cem respostas de treino assim que uma pergunta se assemelha vagamente a uma delas, falhando completamente em formulações não vistas anteriormente.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
    }
)

A definição correta depende diretamente do volume dos seus dados: quanto menos exemplos tiver, mais vezes precisa de passar por eles para que o sinal seja assimilado.

Tamanho do conjunto de dados Épocas recomendadas Motivo
50–100 exemplos 4–8 Poucos dados, necessita de mais passagens
100–500 exemplos 2–4 Bom equilíbrio entre aprendizagem e generalização
500+ exemplos 1–2 Dados suficientes, risco de sobreajuste

O multiplicador da taxa de aprendizagem

A taxa de aprendizagem controla a magnitude dos ajustes aplicados aos pesos do modelo em cada passo de treino. Se definida demasiado alta, o modelo corrige de forma demasiado agressiva em cada passo, oscila em torno da resposta correta e falha na convergência; se definida demasiado baixa, aprende muito lentamente, ou nem sequer aprende, deixando-o no final do treino com um modelo quase idêntico ao inicial.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "learning_rate_multiplier": 1.8
    }
)

O valor predefinido é calculado automaticamente pela OpenAI com base no tamanho do seu conjunto de dados. Na prática, o intervalo entre 1,0 e 2,0 corresponde a este comportamento predefinido e adequa-se à maioria dos casos. Descer para 0,5–1,0 torna a aprendizagem mais cautelosa, o que ajuda em conjuntos de dados pequenos onde alguns exemplos atípicos poderiam desviar demasiado o modelo. Valores acima de 2,0 resultam numa aprendizagem agressiva, reservada para situações em que observou que o modelo não está a evoluir o suficiente — e deve ser verificado imediatamente contra a perda de validação.

O tamanho do lote

O tamanho do lote determina quantos exemplos são processados em conjunto antes de atualizar os pesos do modelo. Um lote pequeno produz atualizações frequentes: a aprendizagem é mais ruidosa, com cada exemplo a ter um peso elevado na correção, mas também mais responsiva. Um lote grande faz a média de mais exemplos antes de cada correção, resultando em atualizações menos frequentes e numa aprendizagem mais estável — esta é a alavanca a acionar quando as suas curvas apresentam instabilidade sem razão aparente.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "batch_size": 4
    }
)

Não precisa de ajustar estes parâmetros separadamente: todos os três vão para o mesmo dicionário.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    validation_file=validation_file.id,
    model="gpt-5.6-luna",
    suffix="optimise-v2",
    hyperparameters={
        "n_epochs": 3,
        "learning_rate_multiplier": 1.5,
        "batch_size": 4
    }
)

Um método de otimização

O erro clássico é alterar os três valores de uma vez, observar uma melhoria e não fazer ideia de qual deles a causou. Prossiga pela seguinte ordem:

  1. Primeira execução: mantenha os valores predefinidos (auto)
  2. Analise a perda: se a perda de treino diminuir mas a perda de validação aumentar, está em sobreajuste
  3. Ajuste um parâmetro de cada vez: nunca altere tudo em simultâneo
  4. Documente cada execução: anote os hiperparâmetros e os resultados

Este registo não é apenas burocracia. Na terceira ou quarta execução, uma tabela que ligue um ID de job, os hiperparâmetros utilizados e o resultado observado supera sempre a sua memória. Eis como interpretar os sintomas mais comuns.

Sintoma observadoCorreção a tentar
A perda de treino não diminuiAumentar a taxa de aprendizagem ou o número de épocas
A perda de validação aumentaReduzir o número de épocas, aumentar o tamanho do lote
Resultados instáveisReduzir a taxa de aprendizagem
Modelo demasiado semelhante ao modelo baseAumentar o número de épocas

O valor “auto”

Se não especificar um hiperparâmetro, a OpenAI escolhe automaticamente um valor ótimo. Portanto, nunca é obrigado a preencher tudo: defina o que deseja controlar e deixe o resto para o ajuste automático. Este é frequentemente o melhor ponto de partida e fornece uma base de comparação para os seus ajustes posteriores.

# Apenas n_epochs está definido; o resto é auto
job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
        # learning_rate_multiplier e batch_size serão auto
    }
)

Pontos-chave

  • Comece sempre com os valores predefinidos (auto) antes de ajustar
  • n_epochs: ajuste primeiro, com base no tamanho dos seus dados
  • learning_rate_multiplier: ajuste se a convergência for demasiado lenta ou instável
  • batch_size: ajuste se o treino for ruidoso
  • Altere apenas um hiperparâmetro de cada vez para compreender o seu impacto
  • Utilize sempre um ficheiro de validação para detetar o sobreajuste