Huella del sistema y reproducibilidad
En esta página
El system_fingerprint: rastreo de la configuración
Cada respuesta de la API de Chat Completions incluye un campo system_fingerprint: una cadena que identifica la configuración del sistema utilizada para generar dicha respuesta. Los desarrolladores suelen ignorar este campo, pero resulta valioso para la depuración y la reproducibilidad.
{
"id": "chatcmpl-abc123",
"system_fingerprint": "fp_44709d6fcb",
"choices": [...],
"usage": {...}
}
¿Para qué sirve el system_fingerprint?
La huella identifica la combinación de versión del modelo, parámetros del sistema e infraestructura utilizados para procesar tu solicitud. Dos solicitudes idénticas procesadas con la misma huella producirán resultados más similares que dos solicitudes con huellas diferentes.
Casos de uso prácticos
- Depuración: cuando una respuesta cambia de forma inesperada, comprueba si la huella ha variado. Un cambio en la huella indica una actualización en el lado del servidor.
- Reproducibilidad: si necesitas reproducir un resultado, anota la huella. Mismo prompt + misma huella = mayores probabilidades de obtener la misma respuesta.
- Auditoría: en entornos regulados, la huella te permite documentar exactamente qué versión del sistema generó una respuesta determinada.
Versiones de modelos y huellas
La huella está estrechamente vinculada a la versión del modelo. xAI ofrece tres convenciones de nomenclatura para los modelos:
Alias simple
model = "grok-4.20"
Apunta a la última versión estable. La huella puede cambiar cuando xAI actualiza esta versión estable, incluso si el nombre del modelo permanece igual.
Alias latest
model = "grok-4.20-latest"
Apunta a la versión de vanguardia. La huella cambiará con frecuencia, ya que esta versión evoluciona continuamente.
Versión fija
model = "grok-4.20-0309"
Apunta a una versión específica que nunca cambiará. La huella será más estable con este tipo de referencia.
Reproducibilidad de las respuestas
Incluso con el mismo prompt, modelo y huella, las respuestas no siempre son idénticas. La generación de texto implica un elemento de aleatoriedad controlado por el parámetro temperature.
Para maximizar la reproducibilidad:
response = client.chat.completions.create(
model="grok-4.20-0309", # Versión fija
messages=[
{"role": "user", "content": "Calcula 2 + 2"}
],
temperature=0, # Determinista
seed=42 # Semilla para el generador aleatorio
)
# Guarda la huella como referencia
print(f"Huella: {response.system_fingerprint}")
Combinación para una reproducibilidad máxima
- Versión fija del modelo (
grok-4.20-0309): garantiza que el modelo no cambie - Temperatura establecida en 0: elimina el muestreo aleatorio
- Semilla fija: inicializa el generador aleatorio en el mismo punto
- Misma huella: confirma que la infraestructura no ha cambiado
Incluso con todo esto, la reproducibilidad no está garantizada al 100 % debido a optimizaciones numéricas (operaciones de coma flotante no deterministas). Pero, en la práctica, los resultados serán muy similares.
Registro de huellas en producción
Una buena práctica consiste en guardar la huella con cada solicitud para facilitar la depuración posterior:
def call_grok(messages: list, model: str = "grok-4.20-0309"):
response = client.chat.completions.create(
model=model,
messages=messages
)
# Registro para depuración
log = {
"response_id": response.id,
"model": response.model,
"fingerprint": response.system_fingerprint,
"finish_reason": response.choices[0].finish_reason,
"tokens": response.usage.total_tokens
}
logger.info("Llamada a la API", extra=log)
return response.choices[0].message.content
Ciclo de vida del modelo
Los modelos de xAI siguen un ciclo de vida de tres etapas:
- Activo: disponible y recomendado para uso en producción
- Obsoleto (Deprecated): sigue funcionando, pero se eliminará. Puede aparecer una advertencia en las respuestas. Migra lo antes posible.
- Retirado (Obsolete): eliminado. Las solicitudes fallarán con un error.
Cuando un modelo pasa de Activo a Obsoleto (Deprecated), la huella suele cambiar porque xAI puede redirigir las solicitudes a una versión más nueva.
Puntos clave
- El
system_fingerprintidentifica la configuración del sistema utilizada para generar la respuesta - Un cambio en la huella indica un cambio en el lado del servidor (actualización del modelo o de la infraestructura)
- Utiliza versiones fijas (
grok-4.20-0309) para lograr la máxima estabilidad en producción - Combina versión fija + temperatura 0 + semilla fija para obtener la mejor reproducibilidad
- Registra la huella con cada solicitud para facilitar la depuración