Järjestelmän sormenjälki ja toistettavuus
Tällä sivulla
system_fingerprint: konfiguraation jäljittäminen
Jokainen Chat Completions -rajapinnan vastaus sisältää system_fingerprint-kentän – merkkijonon, joka tunnistaa vastauksen tuottamiseen käytetyn järjestelmäkonfiguraation. Kehittäjät jättävät tämän kentän usein huomiotta, mutta se on arvokas vianetsinnässä ja toistettavuuden varmistamisessa.
{
"id": "chatcmpl-abc123",
"system_fingerprint": "fp_44709d6fcb",
"choices": [...],
"usage": {...}
}
Mihin system_fingerprintia käytetään?
Sormenjälki tunnistaa pyyntösi käsittelyyn käytetyn malliversion, järjestelmäparametrien ja infrastruktuurin yhdistelmän. Kaksi identtistä pyyntöä, jotka käsitellään samalla sormenjäljellä, tuottavat tuloksia, jotka ovat lähempänä toisiaan kuin kaksi eri sormenjäljellä käsiteltyä pyyntöä.
Käytännön käyttötapaukset
- Vianetsintä: jos vastaus muuttuu odottamatta, tarkista, onko sormenjälki muuttunut. Sormenjäljen muutos kertoo palvelinpuolen päivityksestä.
- Toistettavuus: jos sinun tarvitsee toistaa tulos, kirjaa sormenjälki muistiin. Sama kehote + sama sormenjälki = suuremmat mahdollisuudet saada sama vastaus.
- Auditointi: säännellyissä ympäristöissä sormenjäljen avulla voit dokumentoida tarkasti, mikä järjestelmäversio tuotti tietyn vastauksen.
Malliversiot ja sormenjäljet
Sormenjälki on tiiviisti sidoksissa malliversioon. xAI tarjoaa malleille kolme nimeämiskäytäntöä:
Yksinkertainen alias
model = "grok-4.20"
Viittaa viimeisimpään vakaaseen versioon. Sormenjälki voi muuttua, kun xAI päivittää tätä vakaata versiota – vaikka mallin nimi pysyisi samana.
Uusin alias
model = "grok-4.20-latest"
Viittaa aivan uusimpaan kehitysversioon. Sormenjälki muuttuu usein, koska tämä versio kehittyy jatkuvasti.
Kiinteä versio
model = "grok-4.20-0309"
Viittaa tiettyyn versioon, joka ei koskaan muutu. Sormenjälki on vakain juuri tämän tyyppistä viittausta käytettäessä.
Vastauksen toistettavuus
Vaikka käytät samaa kehotetta, mallia ja sormenjälkeä, vastaukset eivät ole aina identtisiä. Tekstin tuottamiseen liittyy satunnaisuutta, jota ohjataan temperature-parametrilla.
Maksimoidaksesi toistettavuuden:
response = client.chat.completions.create(
model="grok-4.20-0309", # Kiinteä versio
messages=[
{"role": "user", "content": "Calculate 2 + 2"}
],
temperature=0, # Deterministinen
seed=42 # Satunnaislukugeneraattorin siemenluku
)
# Tallenna sormenjälki viitteeksi
print(f"Fingerprint: {response.system_fingerprint}")
Yhdistelmä maksimaalista toistettavuutta varten
- Kiinteä malliversio (
grok-4.20-0309): varmistaa, ettei malli muutu - Lämpötila asetettu arvoon 0: poistaa satunnaisotannan
- Kiinteä siemenluku: alustaa satunnaislukugeneraattorin samaan pisteeseen
- Sama sormenjälki: vahvistaa, ettei infrastruktuuri ole muuttunut
Kaikista näistä toimista huolimatta toistettavuus ei ole 100-prosenttisesti taattua numeeristen optimointien (ei-deterministiset liukulukuoperaatiot) vuoksi. Käytännössä tulokset ovat kuitenkin hyvin lähellä toisiaan.
Sormenjälkien lokitus tuotantoympäristössä
Paras käytäntö on tallentaa sormenjälki jokaisen pyynnön yhteydessä myöhempää vianetsintää varten:
def call_grok(messages: list, model: str = "grok-4.20-0309"):
response = client.chat.completions.create(
model=model,
messages=messages
)
# Loki vianetsintää varten
log = {
"response_id": response.id,
"model": response.model,
"fingerprint": response.system_fingerprint,
"finish_reason": response.choices[0].finish_reason,
"tokens": response.usage.total_tokens
}
logger.info("API call", extra=log)
return response.choices[0].message.content
Mallin elinkaari
xAI-mallit noudattavat kolmivaiheista elinkaarta:
- Aktiivinen: saatavilla ja suositeltu tuotantokäyttöön
- Vanhenemassa: toimii edelleen, mutta poistetaan pian. Vastauksissa voi ilmestyä varoitus. Siirry uuteen versioon mahdollisimman pian.
- Vanhentunut: poistettu. Pyynnöt epäonnistuvat virheellä.
Kun malli siirtyy aktiivisesta vanhenemaan -tilaan, sormenjälki muuttuu usein, koska xAI voi ohjata pyynnöt uudempaan versioon.
Keskeiset asiat
system_fingerprinttunnistaa vastauksen tuottamiseen käytetyn järjestelmäkonfiguraation- Sormenjäljen muutos kertoo palvelinpuolen muutoksesta (malli- tai infrastruktuuripäivitys)
- Käytä kiinteitä versioita (
grok-4.20-0309) saavuttaaksesi maksimaalisen vakauden tuotannossa - Yhdistä kiinteä versio + lämpötila 0 + kiinteä siemenluku parhaan toistettavuuden saavuttamiseksi
- Lokita sormenjälki jokaisen pyynnön yhteydessä vianetsinnän helpottamiseksi