Otisk systému a reprodukovatelnost
Na této stránce
system_fingerprint: sledování konfigurace
Každá odpověď z API Chat Completions obsahuje pole system_fingerprint – řetězec, který identifikuje konfiguraci systému použitou k vygenerování odpovědi. Vývojáři toto pole často ignorují, ale je cenné pro ladění a reprodukovatelnost.
{
"id": "chatcmpl-abc123",
"system_fingerprint": "fp_44709d6fcb",
"choices": [...],
"usage": {...}
}
K čemu slouží system_fingerprint?
Otisk identifikuje kombinaci verze modelu, systémových parametrů a infrastruktury použité ke zpracování vašeho požadavku. Dva identické požadavky zpracované se stejným otiskem přinesou výsledky bližší sobě než dva požadavky s různými otisky.
Praktická použití
- Ladění: když se odpověď neočekávaně změní, zkontrolujte, zda se změnil otisk. Změna otisku signalizuje aktualizaci na straně serveru.
- Reprodukovatelnost: pokud potřebujete výsledek reprodukovat, zaznamenejte si otisk. Stejný prompt + stejný otisk = vyšší šance na získání stejné odpovědi.
- Audit: v regulovaných prostředích vám otisk umožňuje zdokumentovat přesně, která verze systému vygenerovala danou odpověď.
Verze modelů a otisky
Otisk je úzce spjat s verzí modelu. xAI nabízí tři konvence pojmenování pro modely:
Jednoduchý alias
model = "grok-4.20"
Odkazuje na nejnovější stabilní verzi. Otisk se může změnit, když xAI tuto stabilní verzi aktualizuje – i když název modelu zůstane stejný.
Alias „nejnovější“
model = "grok-4.20-latest"
Odkazuje na verzi na hraně možností (bleeding-edge). Otisk se bude měnit často, protože tato verze se neustále vyvíjí.
Pevná verze
model = "grok-4.20-0309"
Odkazuje na konkrétní verzi, která se nikdy nezmění. Otisk bude u tohoto typu odkazu nejstabilnější.
Reprodukovatelnost odpovědí
I se stejným promptem, modelem a otiskem nejsou odpovědi vždy totožné. Generování textu zahrnuje prvek náhodnosti řízený parametrem temperature.
Pro maximalizaci reprodukovatelnosti:
response = client.chat.completions.create(
model="grok-4.20-0309", # Pevná verze
messages=[
{"role": "user", "content": "Calculate 2 + 2"}
],
temperature=0, # Deterministické
seed=42 # Seed pro generátor náhodných čísel
)
# Uložte otisk pro budoucí reference
print(f"Fingerprint: {response.system_fingerprint}")
Kombinace pro maximální reprodukovatelnost
- Pevná verze modelu (
grok-4.20-0309): zajišťuje, že se model nezmění - Teplota nastavená na 0: odstraňuje náhodný výběr
- Pevný seed: inicializuje generátor náhodných čísel ve stejném bodě
- Stejný otisk: potvrzuje, že se infrastruktura nezměnila
I přes všechna tato opatření není reprodukovatelnost 100% garantována kvůli numerickým optimalizacím (nedeterministické operace s plovoucí řádovou čárkou). V praxi však budou výsledky velmi blízké.
Logování otisků v produkci
Osvědčeným postupem je ukládat otisk s každým požadavkem, aby se usnadnilo budoucí ladění:
def call_grok(messages: list, model: str = "grok-4.20-0309"):
response = client.chat.completions.create(
model=model,
messages=messages
)
# Log pro ladění
log = {
"response_id": response.id,
"model": response.model,
"fingerprint": response.system_fingerprint,
"finish_reason": response.choices[0].finish_reason,
"tokens": response.usage.total_tokens
}
logger.info("API call", extra=log)
return response.choices[0].message.content
Životní cyklus modelu
Modely xAI procházejí tříetapovým životním cyklem:
- Aktivní: dostupné a doporučené pro produkční použití
- Zastaralé (Deprecated): stále funguje, ale bude odstraněno. V odpovědích se může objevit varování. Migrujte co nejdříve.
- Zastaralé (Obsolete): odstraněno. Požadavky selžou s chybou.
Když se model přesune ze stavu Aktivní do Zastaralý, otisk se často změní, protože xAI může přesměrovat požadavky na novější verzi.
Klíčové poznatky
system_fingerprintidentifikuje konfiguraci systému použitou k vygenerování odpovědi- Změna otisku signalizuje změnu na straně serveru (aktualizace modelu nebo infrastruktury)
- Pro maximální stabilitu v produkci používejte pevné verze (
grok-4.20-0309) - Pro nejlepší reprodukovatelnost kombinujte pevnou verzi + teplotu 0 + pevný seed
- Logujte otisk s každým požadavkem, abyste usnadnili ladění