Few-shot a través de la API
En esta página
Enseña con ejemplos
El prompting few-shot consiste en proporcionar al modelo algunos ejemplos de entrada y salida antes de enviar tu solicitud real. Con la API de Chat Completions, estos ejemplos no tienen un espacio reservado especial: los inyectas en el historial de conversación como pares de mensajes falsos user/assistant, como si el intercambio hubiera ocurrido realmente. El modelo no puede distinguir entre un turno genuino y uno fabricado por ti, y esa es precisamente la razón por la que esta técnica es tan eficaz. Sin necesidad de ajuste fino (fine-tuning), esta es la forma más fiable de obtener un formato de salida preciso.
El truco reside en una inversión: en lugar de describir extensamente el formato esperado en el prompt del sistema, lo muestras. Para una tarea de clasificación de sentimientos, tres ejemplos bastan para que el modelo entienda que debe responder con una etiqueta en mayúsculas y nada más.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Clasificas el sentimiento de las reseñas de clientes."
},
# Ejemplo 1
{"role": "user", "content": "Reseña: Entrega rápida, producto según lo descrito. ¡Muy satisfecho!"},
{"role": "assistant", "content": "POSITIVE"},
# Ejemplo 2
{"role": "user", "content": "Reseña: El paquete llegó dañado, no se pudo contactar con el servicio de atención al cliente."},
{"role": "assistant", "content": "NEGATIVE"},
# Ejemplo 3
{"role": "user", "content": "Reseña: El producto está bien, pero es un poco caro para lo que es."},
{"role": "assistant", "content": "MIXED"},
# Solicitud real
{"role": "user", "content": "Reseña: Calidad excelente, recomiendo encarecidamente esta tienda."}
],
temperature=0.0
)
print(response.choices[0].message.content)
# POSITIVE
El modelo extrajo el patrón —reseña como entrada, etiqueta en mayúsculas como salida— y lo aplicó a la nueva entrada. No se escribió ninguna instrucción de formato explícita: los tres pares fueron suficientes.
Cuántos ejemplos proporcionar
El número de ejemplos depende de la dificultad de la tarea, y te encontrarás con rendimientos decrecientes muy acusados.
| Número | Cuándo usarlo |
|---|---|
| 0 (zero-shot) | Tareas sencillas que el modelo gestiona de forma natural |
| 1–2 | Formato de salida estándar (JSON, etiqueta) |
| 3–5 | Clasificación con múltiples categorías |
| 5–10 | Tareas complejas o formatos muy específicos |
Más allá de diez ejemplos, consumes muchos tokens de entrada sin una ganancia proporcional: cada solicitud arrastra el mismo bloque de ejemplos, que se factura en cada llamada. En ese punto, el ajuste fino se convierte en la opción económicamente sensata.
Dos usos que cambian la salida
La extracción de entidades nombradas muestra qué aportan los ejemplos más allá de un esquema descrito al completo. Estos no solo fijan las claves JSON, sino también cómo manejar las categorías vacías: el segundo ejemplo muestra explícitamente listas vacías en lugar de un campo ausente, lo que evita que tu analizador se encuentre con una estructura inesperada.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Extrae entidades nombradas en formato JSON."
},
# Ejemplo 1
{
"role": "user",
"content": "Pierre Martin se unió a Google France en París en enero de 2025."
},
{
"role": "assistant",
"content": '{"personnes": ["Pierre Martin"], "organisations": ["Google France"], "lieux": ["Paris"], "dates": ["janvier 2025"]}'
},
# Ejemplo 2
{
"role": "user",
"content": "La conferencia VivaTech organizada por Publicis tendrá lugar en junio."
},
{
"role": "assistant",
"content": '{"personnes": [], "organisations": ["Publicis"], "lieux": [], "dates": ["juin"]}'
},
# Solicitud real
{
"role": "user",
"content": "Sophie Leclerc, directora en Mistral AI, anunció una asociación con Microsoft en el evento AI Paris el 15 de marzo de 2026."
}
],
temperature=0.0
)
import json
result = json.loads(response.choices[0].message.content)
print(json.dumps(result, indent=2, ensure_ascii=False))
La transformación de texto sigue una lógica diferente: no transmites un esquema, sino un registro lingüístico. Un único ejemplo de simplificación —traducir la arquitectura transformer a una frase accesible— enseña al modelo el nivel de abstracción deseado, algo que ninguna instrucción como «sé pedagógico» lograría con esta precisión.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Transforma texto técnico en un resumen para legos."
},
# Ejemplo
{
"role": "user",
"content": "El modelo utiliza una arquitectura transformer codificador-decodificador con atención multi-cabezal y normalización RMS de pre-capa."
},
{
"role": "assistant",
"content": "Este sistema de IA utiliza tecnología avanzada que le permite entender y generar texto analizando las relaciones entre las palabras en paralelo y de manera eficiente."
},
# Solicitud real
{
"role": "user",
"content": "La API utiliza muestreo de núcleo con top_p para truncar la distribución de probabilidad de los tokens candidatos durante la generación autorregresiva."
}
]
)
print(response.choices[0].message.content)
Few-shot dinámico
En producción, un conjunto fijo de ejemplos acaba perjudicando la mitad de tus solicitudes: los ejemplos técnicos inflan innecesariamente una pregunta sobre facturación. La solución consiste en construir una base de ejemplos por categoría e inyectar solo aquellos que coincidan con el contexto detectado previamente. La siguiente función ensambla el prompt del sistema, los ejemplos para la categoría y la pregunta real en el orden correcto.
# Base de ejemplos
EXAMPLES = {
"technical": [
{"user": "¿Cómo configuro una VPN?", "assistant": "Estos son los pasos..."},
{"user": "Mi servidor está devolviendo un error 502.", "assistant": "Error 502..."},
],
"sales": [
{"user": "¿Cuáles son sus tarifas?", "assistant": "Nuestros planes comienzan en..."},
{"user": "¿Hay un periodo de prueba?", "assistant": "Sí, 14 días..."},
],
"billing": [
{"user": "No he recibido mi factura.", "assistant": "Comprueba tu..."},
{"user": "¿Cómo cambio de plan?", "assistant": "Ve a..."},
]
}
def build_messages(category: str, user_question: str) -> list:
"""Construye mensajes con few-shot dinámico."""
messages = [
{"role": "system", "content": "Asistente de soporte técnico."}
]
# Añadir ejemplos para la categoría
for ex in EXAMPLES.get(category, []):
messages.append({"role": "user", "content": ex["user"]})
messages.append({"role": "assistant", "content": ex["assistant"]})
# Añadir la pregunta real
messages.append({"role": "user", "content": user_question})
return messages
# Uso
messages = build_messages("technical", "Mi despliegue de Docker está fallando.")
response = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
Qué hace bueno a un conjunto de ejemplos
El few-shot falla la mayoría de las veces por falta de diversidad: tres reseñas rotundamente positivas y el modelo clasificará todo como POSITIVE. Cubre casos normales y casos límite, incluyendo un ejemplo de lo que el modelo NO debe hacer; mostrar una negativa suele ser más eficaz que prohibirlo con una regla. La consistencia en la forma importa tanto como el contenido: si un ejemplo devuelve POSITIVE y otro Positive, acabas de enseñarle al modelo que las mayúsculas son opcionales.
Dos hábitos completan el ejercicio. Cuenta los tokens, ya que cada ejemplo se factura como entrada en cada llamada: un conjunto de ocho pares se convierte rápidamente en el principal impulsor de costes para una API de clasificación de alto volumen. Y prueba primero sin ejemplos: los modelos recientes manejan en zero-shot tareas que hace dos años requerían cinco ejemplos, y ahorrarás lo que no necesitabas escribir.
Puntos clave
- Few-shot inyecta pares falsos user/assistant antes de la solicitud real
- 3–5 ejemplos son suficientes para la mayoría de tareas de clasificación y extracción
- Usa
temperature=0con few-shot para maximizar la consistencia - El few-shot dinámico selecciona ejemplos relevantes basándose en el contexto
- Más allá de 10 ejemplos, considera el ajuste fino en lugar del few-shot