API antraštės ir viršijimų valdymas
Šiame puslapyje
Nuspręsk, kurios užklausos naudoja tavo pajėgumus
Pajėgumų rezervavimas išsprendžia tik pusę problemos: vis dar reikia pasirinkti, kurioms užklausoms tai iš tikrųjų naudinga. Rezervuotas pralaidumas nėra vienkartinis pirkimas mėnesio pradžioje; tai mechanizmas, kurį valdai kiekvieno kvietimo metu. xAI tam skirtas specialias HTTP antraštes, kurios kiekvienai užklausai atskirai nusprendžia, ar ji naudoja tavo skirtą pajėgumą, ar bendrą baseiną. Taip fiksuotas paskirstymas tampa operacine svirtimi, kurią tavo komandos tiesiogiai valdo iš programos kodo.
Savanoriškai apeik skirtą pajėgumą
Pirmoji antraštė skirta užklausai pašalinti iš tavo paskirstymo:
curl https://api.x.ai/v1/chat/completions \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "x-pt-disable: true" \
-H "Content-Type: application/json" \
-d '{
"model": "grok-4.3",
"messages": [{"role": "user", "content": "Summarize this document."}]
}'
Atsisakyti savo pajėgumo gali atrodyti nelogiška. Kasdienėje veikloje tai pateisina keturios situacijos. Pirma, nekritinės užduotys: 22 val. paleista grupinė analizė arba atidėtas duomenų apdorojimo darbas nereikalauja delsos garantijų, ir būtų gaila, jei jis sunaudotų interaktyviam srautui skirtą mokamą rezervą. Antra, pajėgumų išsaugojimas pikų metu: išjungus rezervuotą pralaidumą antriniams procesams, atlaisvini paskirstymą būtent tada, kai didelėmis apimtimis plūsta prioritetinės užklausos. Ši antraštė taip pat naudinga A/B testavimui, kai nori išmatuoti tikrąjį veiklos skirtumą tarp skirto ir bendro pajėgumo pagal savo krūvį, o ne remtis tiekėjo pažadais. Galiausiai ji vertinga derinimui: priversdamas užklausą eiti per bendrą baseiną, iškart sužinai, ar stebima anomalija kyla iš rezervuoto pajėgumo, ar iš tavo kodo.
Nukreipk užklausą į konkretų baseiną
Antroji antraštė nukreipia kvietimą į identifikuotą pajėgumų baseiną:
curl https://api.x.ai/v1/chat/completions \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "x-pt-id: pool-support-client" \
-H "Content-Type: application/json" \
-d '{
"model": "grok-4.3",
"messages": [{"role": "user", "content": "How can I help you?"}]
}'
Ši antraštė tampa būtina, kai tavo organizacijoje Grok kviečia kelios programos. Tuomet kuri atskirus baseinus: pool-support klientų aptarnavimo pokalbių robotui, pool-analysis dokumentų analizei, pool-internal verslo įrankiams – ir kiekvienas veikia nepriklausomai. Segmentavimas izoliuoja veiklą: pirmadienio rytą paleista dokumentų analizės kampanija nebepablogina palaikymo atsakymų laiko. Ji taip pat suteikia sunaudojimo duomenis, suskirstytus pagal naudojimą, todėl atsiranda faktinis pagrindas vidiniam apskaitymui ar sprendimų priėmimui, kur anksčiau tekdavo spėlioti. Be to, tai iš esmės neleidžia vienai programai monopolizuoti pajėgumų kitų sąskaita.
Kas nutinka viršijus ribą
Kai srautas viršija rezervuotą pajėgumą, atsarginis variantas suveikia automatiškai ir nepastebimai: užklausa nukreipiama į bendrą baseiną taikant „mokėk pagal naudojimą“ kainodarą, galioja standartiniai modelio tarifai ir įprasti dažnio apribojimai. Klaida negrąžinama; tavo programa nemato jokio pokyčio.
Šis diskretiškumas turi dvi puses. Prieinamumo požiūriu žinios geros: niekada nepatirsi 429 klaidos dėl rezervuoto pajėgumo viršijimo. Finansų ir paslaugų kokybės požiūriu situacija prastesnė. Užklausa apmokestinama „mokėk pagal naudojimą“ tarifu, kuris gali būti didesnis; atsakymo laikas gali svyruoti, nes apdorojimas vyksta bendroje infrastruktūroje; ir svarbiausia – 99,9 % SLA galioja tik užklausoms, apdorotoms naudojant rezervuotą pralaidumą. Viršijimas nieko nesulaužo, jis tiesiog tyliai išveda tave iš mokamos aprėpties. Valdymo API atskleidžia rezervuotu režimu ir „mokėk pagal naudojimą“ režimu apdorotų užklausų dalį: tikrink šį santykį kas mėnesį lygiai taip pat, kaip sąskaitą. Didėjantis viršijimų rodiklis yra signalas, kad reikia didinti paskirstymą.
Išversk prioritetą į programos kodą
Užuot dauginę kvietimų funkcijas, tvirčiausia praktika – nustatyti prioritetą užklausos išsiuntimo momentu:
import httpx
def query_grok(prompt: str, priority: str = "normal"):
headers = {
"Authorization": f"Bearer {API_KEY}",
"Content-Type": "application/json",
}
if priority == "low":
headers["x-pt-disable"] = "true"
elif priority == "high":
headers["x-pt-id"] = "pool-critical"
response = httpx.post(
"https://api.x.ai/v1/chat/completions",
headers=headers,
json={
"model": "grok-4.3",
"messages": [{"role": "user", "content": prompt}],
},
)
return response.json()
Parametras priority tampa vieninteliu verslo logikai matomu sprendimu, o maršrutizavimo politika lieka sutelkta vienoje funkcijoje, kurią gali keisti neliesdamas likusio kodo. Peržiūrėk savo kvietimų kodą ir suskirstyk kiekvieną įvesties tašką į vieną iš trijų kategorijų: ši praktika dažnai parodo, kad maždaug pusė srauto visiškai nereikalavo skirto pajėgumo.
Svarbiausi punktai
- Antraštė
x-pt-disable: trueapeina rezervuotą pajėgumą konkrečiai užklausai - Antraštė
x-pt-idnukreipia į konkretų pajėgumų baseiną - Viršijimai automatiškai perjungiami į „mokėk pagal naudojimą“ be klaidų
- Skirstymas į baseinus leidžia izoliuoti veiklą ir stebėti sunaudojimą pagal programą
- Stebėk viršijimų rodiklį, kad prireikus pakoreguotum savo paskirstymą