Few-Shot Prompting
Nesta página
Aprenda com exemplos
O few-shot prompting consiste em fornecer ao modelo um ou mais exemplos da tarefa a realizar antes de submeter o pedido real. Em vez de explicar abstratamente o que espera, mostra-lhe concretamente — tal como um formador que, em vez de descrever durante vinte minutos como deve ser um bom relatório de reunião, distribui duas amostras bem escritas e deixa os participantes assimilá-las. Esta técnica é uma das mais eficazes para obter resultados precisos e consistentes com os modelos Mistral.
O princípio é simples: o modelo baseia-se nos exemplos fornecidos para compreender o formato, o tom, o nível de detalhe e a lógica esperados, reproduzindo depois esse padrão para o seu pedido. Um exemplo bem escolhido substitui frequentemente um parágrafo inteiro de explicações — e fá-lo melhor.
Zero-shot, one-shot, few-shot: três níveis de orientação
O vocabulário da área distingue três variantes consoante o número de exemplos. No zero-shot, dá uma instrução sem quaisquer exemplos e o modelo baseia-se apenas nos seus conhecimentos:
Classifique o sentimento deste texto como positivo, neutro ou negativo:
"O serviço ao cliente foi prestável, mas a entrega atrasou."
O zero-shot funciona para tarefas simples e comuns que o modelo encontrou milhares de vezes durante o treino. Para tarefas específicas do seu negócio, é frequentemente insuficiente: o modelo fará a classificação, mas não necessariamente de acordo com os seus critérios.
No one-shot, um único exemplo é por vezes suficiente para orientar o modelo. O exemplo mostra tanto o formato da resposta como a forma de justificar a resposta:
Classifique o sentimento e justifique numa frase.
Exemplo:
Texto: "Produto excelente, altamente recomendado!"
Sentimento: positivo
Justificação: Expressão de entusiasmo e recomendação explícita.
A classificar:
Texto: "O serviço ao cliente foi prestável, mas a entrega atrasou."
Sentimento:
Justificação:
Com o few-shot, vários exemplos reduzem a ambiguidade e reforçam a consistência. Isto é particularmente útil quando abundam os casos limite — como esta crítica mista que combina um ponto positivo e um ponto negativo:
Classifique o sentimento e justifique numa frase.
Exemplo 1:
Texto: "Produto excelente, altamente recomendado!"
Sentimento: positivo
Justificação: Expressão de entusiasmo e recomendação explícita.
Exemplo 2:
Texto: "O preço é justo para o que é."
Sentimento: neutro
Justificação: Avaliação factual sem emoção forte.
Exemplo 3:
Texto: "Três semanas de espera por um produto defeituoso."
Sentimento: negativo
Justificação: Problema de atraso combinado com um defeito de qualidade.
A classificar:
Texto: "O serviço ao cliente foi prestável, mas a entrega atrasou."
Sentimento:
Justificação:
Com três exemplos que cobrem as três categorias, o modelo viu como se parece cada caso e calibrará a sua resposta em conformidade.
Implementar few-shot com a API Mistral
Num prompt de texto, os exemplos empilham-se como acima. Mas com a API, existe um método mais limpo: utilize as funções user e assistant para criar trocas artificiais que sirvam de exemplos. Cria um histórico de conversação de raiz onde o modelo “já” respondeu perfeitamente:
messages = [
{
"role": "system",
"content": "You classify customer reviews. Respond only with the indicated format."
},
# Example 1
{
"role": "user",
"content": "Classify: \"Excellent product, highly recommended!\""
},
{
"role": "assistant",
"content": "Sentiment: positive\nJustification: Expression of enthusiasm and explicit recommendation."
},
# Example 2
{
"role": "user",
"content": "Classify: \"Three weeks of waiting for a defective product.\""
},
{
"role": "assistant",
"content": "Sentiment: negative\nJustification: Delay issue combined with a quality defect."
},
# Actual request
{
"role": "user",
"content": "Classify: \"Customer service was responsive but delivery was late.\""
}
]
Ao passar exemplos como mensagens de utilizador/assistente, o modelo trata-os como um histórico de conversação bem-sucedido que deve continuar na mesma linha. Este é o padrão a priorizar assim que escalar para produção: os exemplos permanecem separados dos dados, sendo fáceis de manter e enriquecer.
Quando utilizar few-shot
O few-shot destaca-se em quatro tipos de situações. Primeiro, a classificação personalizada: quando as suas categorias não são padrão — tipos de tickets internos específicos da sua empresa, por exemplo — nenhuma descrição supera alguns tickets já classificados. Em seguida, a extração de dados, quando o formato de saída é específico da sua organização. Também a escrita com um tom específico: se quiser que o modelo adote o seu estilo editorial, mostre-lhe dois ou três dos seus próprios textos em vez de tentar descrever o seu estilo com adjetivos. Por fim, tarefas ambíguas em geral: assim que a descrição textual não for suficiente para resolver dúvidas, um exemplo resolve a questão.
Quantos exemplos fornecer
O número ótimo depende da complexidade da tarefa. Para uma tarefa simples com um formato claro — classificação binária, extração de um único campo — um ou dois exemplos são suficientes. Para uma tarefa com múltiplas categorias ou um formato complexo, conte com três a cinco exemplos, idealmente um por categoria. Além de cinco, entra no território de tarefas muito específicas ou ricas em casos limite a cobrir explicitamente.
Tenha contudo em conta o custo: cada exemplo consome tokens de entrada e, com os modelos Mistral, os tokens de entrada são faturados. Um prompt de classificação chamado dez mil vezes por dia com oito exemplos redundantes custa significativamente mais do que o mesmo com três exemplos bem escolhidos, muitas vezes sem ganho de qualidade. Encontre o equilíbrio certo entre precisão e eficiência.
Construir bons exemplos
Algumas boas práticas para concluir. Varie os seus exemplos para cobrir diferentes casos possíveis, incluindo casos limite: três exemplos todos positivos não ensinam nada sobre como lidar com críticas negativas. Mantenha um formato rigorosamente idêntico de um exemplo para o outro — a mais pequena variação na estrutura será interpretada como significativa e reproduzida. Utilize exemplos realistas, próximos dos seus dados reais: um modelo treinado com as suas críticas reais de clientes classificará as suas críticas reais de clientes melhor do que se tivesse visto apenas frases de manual. E coloque sempre o pedido real no final: o modelo presta mais atenção ao início e ao fim do prompt.
Pontos-chave
- O few-shot prompting mostra ao modelo o que espera através de exemplos
- Utilize as funções user/assistant para criar exemplos na API Mistral
- De 1 a 5 exemplos são suficientes na maioria dos casos
- Varie os exemplos para cobrir diferentes cenários, mantendo um formato idêntico em tudo
- O few-shot é ideal para classificação, extração e escrita com um formato específico