System fingerprint en reproduceerbaarheid
Op deze pagina
De system_fingerprint: configuratie traceren
Elk antwoord van de Chat Completions API bevat een veld system_fingerprint—een tekenreeks die de systeemconfiguratie identificeert die is gebruikt om het antwoord te genereren. Ontwikkelaars negeren dit veld vaak, maar het is waardevol voor foutopsporing en reproduceerbaarheid.
{
"id": "chatcmpl-abc123",
"system_fingerprint": "fp_44709d6fcb",
"choices": [...],
"usage": {...}
}
Waar dient de system_fingerprint voor?
De fingerprint identificeert de combinatie van modelversie, systeemparameters en infrastructuur die is gebruikt om uw verzoek te verwerken. Twee identieke verzoeken die met dezelfde fingerprint worden verwerkt, leveren resultaten op die dichter bij elkaar liggen dan twee verzoeken met verschillende fingerprints.
Praktische gebruiksscenario’s
- Foutopsporing: wanneer een antwoord onverwacht verandert, controleert u of de fingerprint is gewijzigd. Een wijziging in de fingerprint duidt op een update aan de serverzijde.
- Reproduceerbaarheid: als u een resultaat moet reproduceren, noteert u de fingerprint. Dezelfde prompt + dezelfde fingerprint = grotere kans op hetzelfde antwoord.
- Audit: in gereguleerde omgevingen stelt de fingerprint u in staat om exact te documenteren welke versie van het systeem een bepaald antwoord heeft gegenereerd.
Modelversies en fingerprints
De fingerprint is nauw verbonden met de modelversie. xAI biedt drie naamgevingsconventies voor modellen:
Eenvoudige alias
model = "grok-4.20"
Verwijst naar de nieuwste stabiele versie. De fingerprint kan wijzigen wanneer xAI deze stabiele versie bijwerkt, zelfs als de modelnaam hetzelfde blijft.
Laatste alias
model = "grok-4.20-latest"
Verwijst naar de allernieuwste versie (bleeding-edge). De fingerprint zal frequent wijzigen, omdat deze versie continu evolueert.
Vaste versie
model = "grok-4.20-0309"
Verwijst naar een specifieke versie die nooit zal veranderen. De fingerprint zal het meest stabiel zijn bij dit type referentie.
Reproduceerbaarheid van antwoorden
Zelfs met dezelfde prompt, hetzelfde model en dezelfde fingerprint zijn antwoorden niet altijd identiek. Tekstgeneratie bevat een element van willekeur dat wordt geregeld door de parameter temperature.
Om de reproduceerbaarheid te maximaliseren:
response = client.chat.completions.create(
model="grok-4.20-0309", # Vaste versie
messages=[
{"role": "user", "content": "Calculate 2 + 2"}
],
temperature=0, # Deterministisch
seed=42 # Seed voor de willekeurige generator
)
# Sla de fingerprint op voor referentie
print(f"Fingerprint: {response.system_fingerprint}")
Combinatie voor maximale reproduceerbaarheid
- Vaste modelversie (
grok-4.20-0309): zorgt ervoor dat het model niet verandert - Temperature ingesteld op 0: verwijdert willekeurige sampling
- Vaste seed: initialiseert de willekeurige generator op hetzelfde punt
- Dezelfde fingerprint: bevestigt dat de infrastructuur niet is gewijzigd
Zelfs met dit alles is reproduceerbaarheid niet 100% gegarandeerd vanwege numerieke optimalisaties (niet-deterministische drijvende-kommabewerkingen). In de praktijk zullen de resultaten echter zeer dicht bij elkaar liggen.
Fingerprints loggen in productie
Een best practice is om de fingerprint bij elk verzoek op te slaan om latere foutopsporing te vergemakkelijken:
def call_grok(messages: list, model: str = "grok-4.20-0309"):
response = client.chat.completions.create(
model=model,
messages=messages
)
# Loggen voor foutopsporing
log = {
"response_id": response.id,
"model": response.model,
"fingerprint": response.system_fingerprint,
"finish_reason": response.choices[0].finish_reason,
"tokens": response.usage.total_tokens
}
logger.info("API call", extra=log)
return response.choices[0].message.content
Levenscyclus van modellen
xAI-modellen volgen een levenscyclus in drie fasen:
- Actief: beschikbaar en aanbevolen voor gebruik in productie
- Verouderd (Deprecated): werkt nog, maar zal worden verwijderd. Er kan een waarschuwing in de antwoorden verschijnen. Migreer zo snel mogelijk.
- Obsoleet: verwijderd. Verzoeken zullen mislukken met een foutmelding.
Wanneer een model van Actief naar Verouderd gaat, verandert de fingerprint vaak omdat xAI verzoeken mogelijk doorstuurt naar een nieuwere versie.
Belangrijkste punten
- De
system_fingerprintidentificeert de systeemconfiguratie die is gebruikt om het antwoord te genereren - Een wijziging in de fingerprint duidt op een wijziging aan de serverzijde (update van model of infrastructuur)
- Gebruik vaste versies (
grok-4.20-0309) voor maximale stabiliteit in productie - Combineer vaste versie + temperature 0 + vaste seed voor de beste reproduceerbaarheid
- Log de fingerprint bij elk verzoek om foutopsporing te vergemakkelijken