Hiperparâmetros: Épocas, Taxa de Aprendizagem, Tamanho do Lote
Nesta página
Atualização de 2 de novembro de 2026 — Disponibilidade do fine-tuning. O serviço de fine-tuning self-service da OpenAI está a ser descontinuado: desde 7 de maio de 2026, as organizações que nunca executaram um job de fine-tuning já não podem criar um; desde 2 de julho, é necessário ter utilizado um modelo com fine-tuning nos últimos 60 dias; e a partir de 6 de janeiro de 2027, nenhum cliente poderá lançar novos jobs. Os modelos já treinados permanecem utilizáveis até que o seu modelo base seja desativado. Este curso mantém a sua utilidade para compreender e aproveitar um modelo existente; para novos projetos, priorize a engenharia de prompts, RAG e avaliações.
O papel dos hiperparâmetros
Os seus dados descrevem o que o modelo deve aprender; os hiperparâmetros descrevem como ele aprende. Por predefinição, a OpenAI seleciona automaticamente valores razoáveis com base no tamanho do seu conjunto de dados e, para um primeiro job, essa é a decisão correta. No entanto, quando um modelo tem um desempenho insuficiente apesar de um corpus limpo, a diferença reside quase sempre nestas definições, e ajustá-las manualmente pode melhorar significativamente os resultados.
O número de épocas
Uma época corresponde a uma passagem completa por todo o seu conjunto de dados de treino. Quanto mais épocas executar, mais vezes o modelo vê cada exemplo e mais detalhes retém. Com poucas épocas, o modelo não aprende o suficiente: isto é subajuste (underfitting) e as suas respostas continuam a parecer as do modelo base. Com demasiadas épocas, o modelo memoriza os exemplos em vez de generalizar: isto é sobreajuste (overfitting) e o modelo recita as suas cem respostas de treino assim que uma pergunta se assemelha vagamente a uma delas, falhando completamente em formulações não vistas anteriormente.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"n_epochs": 3
}
)
A definição correta depende diretamente do volume dos seus dados: quanto menos exemplos tiver, mais vezes precisa de passar por eles para que o sinal seja assimilado.
| Tamanho do conjunto de dados | Épocas recomendadas | Motivo |
|---|---|---|
| 50–100 exemplos | 4–8 | Poucos dados, necessita de mais passagens |
| 100–500 exemplos | 2–4 | Bom equilíbrio entre aprendizagem e generalização |
| 500+ exemplos | 1–2 | Dados suficientes, risco de sobreajuste |
O multiplicador da taxa de aprendizagem
A taxa de aprendizagem controla a magnitude dos ajustes aplicados aos pesos do modelo em cada passo de treino. Se definida demasiado alta, o modelo corrige de forma demasiado agressiva em cada passo, oscila em torno da resposta correta e falha na convergência; se definida demasiado baixa, aprende muito lentamente, ou nem sequer aprende, deixando-o no final do treino com um modelo quase idêntico ao inicial.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"learning_rate_multiplier": 1.8
}
)
O valor predefinido é calculado automaticamente pela OpenAI com base no tamanho do seu conjunto de dados. Na prática, o intervalo entre 1,0 e 2,0 corresponde a este comportamento predefinido e adequa-se à maioria dos casos. Descer para 0,5–1,0 torna a aprendizagem mais cautelosa, o que ajuda em conjuntos de dados pequenos onde alguns exemplos atípicos poderiam desviar demasiado o modelo. Valores acima de 2,0 resultam numa aprendizagem agressiva, reservada para situações em que observou que o modelo não está a evoluir o suficiente — e deve ser verificado imediatamente contra a perda de validação.
O tamanho do lote
O tamanho do lote determina quantos exemplos são processados em conjunto antes de atualizar os pesos do modelo. Um lote pequeno produz atualizações frequentes: a aprendizagem é mais ruidosa, com cada exemplo a ter um peso elevado na correção, mas também mais responsiva. Um lote grande faz a média de mais exemplos antes de cada correção, resultando em atualizações menos frequentes e numa aprendizagem mais estável — esta é a alavanca a acionar quando as suas curvas apresentam instabilidade sem razão aparente.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"batch_size": 4
}
)
Não precisa de ajustar estes parâmetros separadamente: todos os três vão para o mesmo dicionário.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
validation_file=validation_file.id,
model="gpt-5.6-luna",
suffix="optimise-v2",
hyperparameters={
"n_epochs": 3,
"learning_rate_multiplier": 1.5,
"batch_size": 4
}
)
Um método de otimização
O erro clássico é alterar os três valores de uma vez, observar uma melhoria e não fazer ideia de qual deles a causou. Prossiga pela seguinte ordem:
- Primeira execução: mantenha os valores predefinidos (auto)
- Analise a perda: se a perda de treino diminuir mas a perda de validação aumentar, está em sobreajuste
- Ajuste um parâmetro de cada vez: nunca altere tudo em simultâneo
- Documente cada execução: anote os hiperparâmetros e os resultados
Este registo não é apenas burocracia. Na terceira ou quarta execução, uma tabela que ligue um ID de job, os hiperparâmetros utilizados e o resultado observado supera sempre a sua memória. Eis como interpretar os sintomas mais comuns.
| Sintoma observado | Correção a tentar |
|---|---|
| A perda de treino não diminui | Aumentar a taxa de aprendizagem ou o número de épocas |
| A perda de validação aumenta | Reduzir o número de épocas, aumentar o tamanho do lote |
| Resultados instáveis | Reduzir a taxa de aprendizagem |
| Modelo demasiado semelhante ao modelo base | Aumentar o número de épocas |
O valor “auto”
Se não especificar um hiperparâmetro, a OpenAI escolhe automaticamente um valor ótimo. Portanto, nunca é obrigado a preencher tudo: defina o que deseja controlar e deixe o resto para o ajuste automático. Este é frequentemente o melhor ponto de partida e fornece uma base de comparação para os seus ajustes posteriores.
# Apenas n_epochs está definido; o resto é auto
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"n_epochs": 3
# learning_rate_multiplier e batch_size serão auto
}
)
Pontos-chave
- Comece sempre com os valores predefinidos (auto) antes de ajustar
n_epochs: ajuste primeiro, com base no tamanho dos seus dadoslearning_rate_multiplier: ajuste se a convergência for demasiado lenta ou instávelbatch_size: ajuste se o treino for ruidoso- Altere apenas um hiperparâmetro de cada vez para compreender o seu impacto
- Utilize sempre um ficheiro de validação para detetar o sobreajuste