Penalizaciones de presencia y frecuencia
En esta página
Cómo combatir la repetición
Los modelos de lenguaje tienen una tendencia natural a repetirse. Esto se manifiesta de tres formas reconocibles: la misma palabra apareciendo una y otra vez en un párrafo, estructuras de oraciones idénticas repitiéndose línea tras línea, o párrafos enteros reformulados sin aportar información nueva. La temperatura no soluciona esto; subir la aleatoriedad global degrada la coherencia sin garantizar variedad léxica. Los parámetros presence_penalty y frequency_penalty ofrecen un control mucho más fino, siempre que entiendas qué los diferencia.
Penalización de presencia: una sanción fija
La penalización de presencia aplica una sanción única y fija a cada token que haya aparecido al menos una vez en la respuesta generada. Da igual si el token se usó una vez o quince; la penalización es la misma. El efecto es animar al modelo a recurrir a palabras que aún no ha usado, lo que amplía el vocabulario de la respuesta. Pide diez adjetivos para describir el mar y verás la diferencia de inmediato: sin penalización, las variaciones suelen dar vueltas alrededor de tres o cuatro campos semánticos.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
# Sin penalización: el modelo puede repetirse
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Lista 10 adjetivos para describir el mar."}],
presence_penalty=0.0
)
print("Sin penalización:", response.choices[0].message.content)
# Con penalización de presencia: fomenta la diversidad de vocabulario
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Lista 10 adjetivos para describir el mar."}],
presence_penalty=1.0
)
print("Con penalización:", response.choices[0].message.content)
El parámetro acepta valores de -2.0 a 2.0, siendo 0.0 el valor por defecto. Un valor positivo penaliza los tokens ya vistos y, por tanto, produce más diversidad; un valor negativo hace lo contrario y favorece la repetición, algo útil solo en casos muy concretos, como generar estribillos o fórmulas repetitivas. En producción, mantente dentro del rango de 0.0 a 1.5.
Penalización de frecuencia: una sanción acumulativa
La penalización de frecuencia funciona de forma distinta: la sanción es acumulativa y crece con el número de apariciones del token. Cuantas más veces se repita una palabra, menos probable será que aparezca en la siguiente ocasión. Mientras que la penalización de presencia abre el vocabulario, esta frena progresivamente las palabras que vuelven con demasiada frecuencia, lo que la hace especialmente eficaz contra los bucles en textos largos.
# Sin penalización de frecuencia
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Escribe un párrafo sobre la inteligencia artificial."}],
frequency_penalty=0.0
)
print("Sin penalización:", response.choices[0].message.content)
# Con penalización de frecuencia: reduce los tokens muy frecuentes
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Escribe un párrafo sobre la inteligencia artificial."}],
frequency_penalty=0.8
)
print("Con penalización:", response.choices[0].message.content)
Al igual que el anterior, su rango va de -2.0 a 2.0 con 0.0 como predeterminado, y un valor positivo penaliza cada vez más los tokens frecuentes. Sin embargo, su rango útil en producción es más estrecho: 0.0 a 1.0, porque su naturaleza acumulativa lo hace más agresivo para valores iguales.
La siguiente tabla resume qué los diferencia.
| Característica | Penalización de presencia | Penalización de frecuencia |
|---|---|---|
| Activación | En la 1.ª aparición | En cada aparición |
| Crecimiento | Fijo (misma penalización) | Acumulativo (aumenta) |
| Efecto | Diversidad de vocabulario | Reduce repeticiones |
| Ideal para | Explorar nuevos temas | Evitar bucles de palabras |
Configuraciones según la intención
En la práctica, ajustas estos dos parámetros junto con la temperatura, dependiendo de lo que produzca tu aplicación. Un chatbot necesita ligera diversidad y cero repeticiones, nada más. La escritura creativa lleva la penalización de presencia al máximo para enriquecer el vocabulario, mientras mantiene la de frecuencia moderada. La extracción de datos, por el contrario, desactiva ambas: allí la repetición es legítima y el mismo nombre de campo puede necesitar aparecer diez veces. El resumen se sitúa en un punto intermedio, con la penalización justa para evitar copiar y pegar el texto fuente.
# Chatbot: ligera diversidad, sin repeticiones
CONFIG_CHATBOT = {
"temperature": 0.7,
"presence_penalty": 0.3,
"frequency_penalty": 0.3
}
# Escritura creativa: vocabulario rico, sin bucles
CONFIG_CREATIF = {
"temperature": 0.9,
"presence_penalty": 0.8,
"frequency_penalty": 0.5
}
# Extracción de datos: sin penalizaciones (respuesta exacta)
CONFIG_EXTRACTION = {
"temperature": 0.0,
"presence_penalty": 0.0,
"frequency_penalty": 0.0
}
# Resumen: algo de diversidad para evitar copiar y pegar
CONFIG_RESUME = {
"temperature": 0.3,
"presence_penalty": 0.2,
"frequency_penalty": 0.4
}
Diagnostica antes de ajustar
Ajustar estos parámetros «al oído» lleva rápidamente a modificaciones arbitrarias. Mide en su lugar. La función siguiente calcula una ratio de diversidad (palabras únicas sobre total de palabras) y aísla las palabras de más de tres letras que aparecen más de dos veces, lo que filtra artículos y preposiciones cuya repetición es normal. Ejecútala con el mismo prompt y tres valores de frequency_penalty y verás cómo la ratio sube y luego se estabiliza: ese estancamiento marca el valor más allá del cual no ganas nada más.
def analyze_repetition(text: str) -> dict:
"""Analiza la tasa de repetición del texto generado."""
words = text.lower().split()
total = len(words)
unique = len(set(words))
# Cuenta palabras que aparecen más de 2 veces
from collections import Counter
counts = Counter(words)
repeated = {w: c for w, c in counts.items() if c > 2 and len(w) > 3}
return {
"total_words": total,
"unique_words": unique,
"diversity_ratio": round(unique / total, 3) if total > 0 else 0,
"repeated_words": dict(sorted(repeated.items(), key=lambda x: -x[1])[:10])
}
# Prueba con y sin penalizaciones
for fp in [0.0, 0.5, 1.0]:
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Escribe un párrafo largo sobre energías renovables."}],
max_tokens=500,
frequency_penalty=fp
)
text = response.choices[0].message.content
stats = analyze_repetition(text)
print(f"frequency_penalty={fp} | Diversidad: {stats['diversity_ratio']} | Repetidas: {stats['repeated_words']}")
Dos formas de estropearlo todo
La primera es pasarse de alto. Por encima de 1.5, el modelo evita tanto las palabras comunes que las sustituye por alternativas inadecuadas: el texto se vuelve inconexo, plagado de términos raros mal empleados. En una explicación del teorema de Pitágoras, penalizaciones de 2.0 impiden al modelo repetir «lado» y «triángulo», precisamente las palabras que la demostración necesita.
# MAL: penalización demasiado fuerte
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Explica el teorema de Pitágoras."}],
presence_penalty=2.0,
frequency_penalty=2.0
)
# Resultado: texto inconexo, palabras raras mal usadas
La segunda es combinar penalizaciones altas con temperatura alta. Cada mecanismo añade su cuota de aleatoriedad al mismo proceso de selección, y su superposición produce un texto casi aleatorio. Al igual que con temperature y top_p, la disciplina consiste en ajustar un parámetro cada vez.
# EVITAR: demasiada aleatoriedad
{"temperature": 1.5, "presence_penalty": 1.5, "frequency_penalty": 1.5}
# CORRECTO: ajusta un parámetro cada vez
{"temperature": 0.7, "presence_penalty": 0.5, "frequency_penalty": 0.3}
Puntos clave
- Penalización de presencia: sanción fija una vez visto el token; amplía el vocabulario.
- Penalización de frecuencia: sanción acumulativa proporcional a la frecuencia; combate los bucles.
- Ambas van de -2.0 a 2.0, con 0.0 como valor por defecto.
- En producción, mantente en el rango de 0.0 a 1.0 para la mayoría de los casos.
- No combines valores altos con temperatura alta.
- Desactiva las penalizaciones para extracción y clasificación (donde la repetición es aceptable).