Sistemos piršto atspaudas ir atkuriamumas
Šiame puslapyje
system_fingerprint: konfigūracijos sekimas
Kiekvienas „Chat Completions“ API atsakymas turi lauką system_fingerprint – tai eilutė, identifikuojanti sistemos konfigūraciją, naudotą atsakymui sugeneruoti. Kūrėjai dažnai ignoruoja šį lauką, tačiau jis yra vertingas derinimui ir atkuriamumui užtikrinti.
{
"id": "chatcmpl-abc123",
"system_fingerprint": "fp_44709d6fcb",
"choices": [...],
"usage": {...}
}
Kam skirtas system_fingerprint?
Šis piršto atspaudas identifikuoja modelio versijos, sistemos parametrų ir infrastruktūros derinį, naudotą tavo užklausai apdoroti. Du identiški prašymai, apdoroti su tuo pačiu piršto atspaudu, duos artimesnius rezultatus nei du prašymai su skirtingais piršto atspaudais.
Praktiniai naudojimo atvejai
- Derinimas: kai atsakymas netikėtai pasikeičia, patikrink, ar pasikeitė piršto atspaudas. Piršto atspaudo pokytis rodo serverio pusės atnaujinimą.
- Atkuriamumas: jei tau reikia atkurti rezultatą, užsirašyk piršto atspaudą. Tas pats raginimas + tas pats piršto atspaudas = didesnė tikimybė gauti tą patį atsakymą.
- Auditas: reguliuojamoje aplinkoje piršto atspaudas leidžia tiksliai dokumentuoti, kuri sistemos versija sugeneravo konkretų atsakymą.
Modelio versijos ir piršto atspaudai
Piršto atspaudas yra glaudžiai susijęs su modelio versija. xAI siūlo tris modelio pavadinimų konvencijas:
Paprastas aliasas
model = "grok-4.20"
Nurodo naujausią stabilią versiją. Piršto atspaudas gali pasikeisti, kai xAI atnaujina šią stabilią versiją – net jei modelio pavadinimas lieka toks pats.
Naujausias aliasas
model = "grok-4.20-latest"
Nurodo pačią naujausią („bleeding-edge“) versiją. Piršto atspaudas keisis dažnai, nes ši versija nuolat evoliucionuoja.
Fiksuota versija
model = "grok-4.20-0309"
Nurodo konkrečią versiją, kuri niekada nepasikeis. Piršto atspaudas bus stabiliausias naudojant šio tipo nuorodą.
Atsakymų atkuriamumas
Net naudojant tą patį raginimą, modelį ir piršto atspaudą, atsakymai ne visada būna identiški. Teksto generavimas apima atsitiktinumo elementą, kurį valdo parametras temperature.
Norint maksimaliai padidinti atkuriamumą:
response = client.chat.completions.create(
model="grok-4.20-0309", # Fiksuota versija
messages=[
{"role": "user", "content": "Calculate 2 + 2"}
],
temperature=0, # Deterministinis
seed=42 # Atsitiktinių skaičių generatoriaus sėkla
)
# Išsaugokite piršto atspaudą nuorodai
print(f"Fingerprint: {response.system_fingerprint}")
Derinys maksimaliam atkuriamumui
- Fiksuota modelio versija (
grok-4.20-0309): užtikrina, kad modelis nepasikeistų - Temperatūra nustatyta į 0: pašalina atsitiktinį ėmimą
- Fiksuota sėkla: inicijuoja atsitiktinių skaičių generatorių toje pačioje vietoje
- Tas pats piršto atspaudas: patvirtina, kad infrastruktūra nepasikeitė
Net ir tai darant, atkuriamumas nėra 100 % garantuotas dėl skaitmeninių optimizacijų (nedeterministinių slankiojo kablelio operacijų). Tačiau praktiškai rezultatai bus labai artimi.
Piršto atspaudų registravimas gamyboje
Gera praktika yra išsaugoti piršto atspaudą su kiekviena užklausa, kad vėliau būtų lengviau derinti:
def call_grok(messages: list, model: str = "grok-4.20-0309"):
response = client.chat.completions.create(
model=model,
messages=messages
)
# Registravimas derinimui
log = {
"response_id": response.id,
"model": response.model,
"fingerprint": response.system_fingerprint,
"finish_reason": response.choices[0].finish_reason,
"tokens": response.usage.total_tokens
}
logger.info("API call", extra=log)
return response.choices[0].message.content
Modelio gyvavimo ciklas
xAI modeliai eina per tris gyvavimo ciklo etapus:
- Aktyvus: prieinamas ir rekomenduojamas naudoti gamyboje
- Pasenęs: vis dar veikia, bet bus pašalintas. Atsakymuose gali atsirasti įspėjimas. Migravuok kuo greičiau.
- Nebenaudojamas: pašalintas. Užklausos nepavyks ir grąžins klaidą.
Kai modelis pereina iš „Aktyvus“ į „Pasenęs“, piršto atspaudas dažnai pasikeičia, nes xAI gali nukreipti prašymus į naujesnę versiją.
Svarbiausi punktai
system_fingerprintidentifikuoja sistemos konfigūraciją, naudotą atsakymui sugeneruoti- Piršto atspaudo pokytis rodo serverio pusės pokytį (modelio ar infrastruktūros atnaujinimą)
- Naudok fiksuotas versijas (
grok-4.20-0309) maksimaliam stabilumui gamyboje - Derink fiksuotą versiją + temperatūrą 0 + fiksuotą sėklą geriausiam atkuriamumui
- Registruok piršto atspaudą su kiekviena užklausa, kad palengvintum derinimą