Systemavtryck och reproducerbarhet
På denna sida
system_fingerprint: spårning av konfiguration
Varje svar från Chat Completions API innehåller ett fält system_fingerprint – en sträng som identifierar den systemkonfiguration som användes för att generera svaret. Utvecklare ignorerar ofta detta fält, men det är värdefullt för felsökning och reproducerbarhet.
{
"id": "chatcmpl-abc123",
"system_fingerprint": "fp_44709d6fcb",
"choices": [...],
"usage": {...}
}
Vad används system_fingerprint till?
Avtrycket identifierar kombinationen av modellversion, systemparametrar och infrastruktur som användes för att bearbeta din begäran. Två identiska begäranden som bearbetas med samma avtryck ger resultat som ligger närmare varandra än två begäranden med olika avtryck.
Praktiska användningsområden
- Felsökning: när ett svar ändras oväntat, kontrollera om avtrycket har ändrats. En ändring i avtrycket indikerar en uppdatering på serversidan.
- Reproducerbarhet: om du behöver reproducera ett resultat, notera avtrycket. Samma prompt + samma avtryck = större chans att få samma svar.
- Granskning: i reglerade miljöer låter avtrycket dig dokumentera exakt vilken version av systemet som producerade ett givet svar.
Modellversioner och avtryck
Avtrycket är nära kopplat till modellversionen. xAI erbjuder tre namngivningskonventioner för modeller:
Enkelt alias
model = "grok-4.20"
Pekar på den senaste stabila versionen. Avtrycket kan ändras när xAI uppdaterar denna stabila version – även om modellnamnet förblir detsamma.
Senaste alias
model = "grok-4.20-latest"
Pekar på den allra senaste utvecklingsversionen. Avtrycket kommer att ändras ofta, eftersom denna version utvecklas kontinuerligt.
Fast version
model = "grok-4.20-0309"
Pekar på en specifik version som aldrig kommer att ändras. Avtrycket blir mest stabilt med denna typ av referens.
Reproducerbarhet av svar
Även med samma prompt, modell och avtryck är svaren inte alltid identiska. Textgenerering innehåller ett inslag av slumpmässighet som styrs av parametern temperature.
För att maximera reproducerbarheten:
response = client.chat.completions.create(
model="grok-4.20-0309", # Fast version
messages=[
{"role": "user", "content": "Calculate 2 + 2"}
],
temperature=0, # Deterministisk
seed=42 # Frö för slumptalsgeneratorn
)
# Spara avtrycket för referens
print(f"Fingerprint: {response.system_fingerprint}")
Kombination för maximal reproducerbarhet
- Fast modellversion (
grok-4.20-0309): säkerställer att modellen inte ändras - Temperature inställd på 0: tar bort slumpmässig sampling
- Fast frö: initierar slumptalsgeneratorn vid samma punkt
- Samma avtryck: bekräftar att infrastrukturen inte har ändrats
Även med allt detta är reproducerbarheten inte 100 % garanterad på grund av numeriska optimeringar (icke-deterministiska flyttalsoperationer). I praktiken kommer resultaten dock att vara mycket lika.
Loggning av avtryck i produktion
En bästa praxis är att spara avtrycket tillsammans med varje begäran för att underlätta framtida felsökning:
def call_grok(messages: list, model: str = "grok-4.20-0309"):
response = client.chat.completions.create(
model=model,
messages=messages
)
# Logga för felsökning
log = {
"response_id": response.id,
"model": response.model,
"fingerprint": response.system_fingerprint,
"finish_reason": response.choices[0].finish_reason,
"tokens": response.usage.total_tokens
}
logger.info("API call", extra=log)
return response.choices[0].message.content
Modellivscykel
xAI-modeller följer en livscykel i tre steg:
- Aktiv: tillgänglig och rekommenderad för produktionsanvändning
- Avskriven: fungerar fortfarande, men kommer att tas bort. En varning kan visas i svaren. Migrera så snart som möjligt.
- Föråldrad: borttagen. Begäranden kommer att misslyckas med ett felmeddelande.
När en modell går från Aktiv till Avskriven ändras avtrycket ofta eftersom xAI kan omdirigera begäranden till en nyare version.
Viktiga punkter
system_fingerprintidentifierar den systemkonfiguration som användes för att generera svaret- En ändring i avtrycket indikerar en ändring på serversidan (uppdatering av modell eller infrastruktur)
- Använd fasta versioner (
grok-4.20-0309) för maximal stabilitet i produktion - Kombinera fast version + temperature 0 + fast frö för bäst reproducerbarhet
- Logga avtrycket vid varje begäran för att underlätta felsökning