Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

API galvenes un pārplūdes pārvaldība

Nodarbība 8 no 14 Atjaunota 2026. gada 28. jūlijs Vidējs
Šajā lapā
  1. Izlem, kuri pieprasījumi izmanto tavu jaudu
  2. Brīvprātīga apiet nodrošināto jaudu
  3. Novirzīt pieprasījumu uz konkrētu baseinu
  4. Kas notiek pārplūdes gadījumā
  5. Pārvērst prioritāti lietojumprogrammu kodā
  6. Galvenās atziņas

Izlem, kuri pieprasījumi izmanto tavu jaudu

Jaudas rezervēšana atrisina tikai pusi no problēmas: tev joprojām ir jāizvēlas, kuri pieprasījumi no tās faktiski gūs labumu. Nodrošinātā caurlaidspēja nav vienreizējs pirkums mēneša sākumā; tas ir mehānisms, ko tu kontrolē katrā izsaukumā atsevišķi. xAI piedāvā īpašas HTTP galvenes šim nolūkam, kas katrā pieprasījumā atsevišķi sadala plūsmu starp tavu dedificēto jaudu un koplietojamo resursu baseinu. Tādējādi fiksēta alokācija kļūst par operatīvu sviru, ko tavas komandas tieši manipulē no lietojumprogrammu koda.

Brīvprātīga apiet nodrošināto jaudu

Pirmā galvene kalpo, lai izslēgtu pieprasījumu no tavas alokācijas:

curl https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-pt-disable: true" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.3",
    "messages": [{"role": "user", "content": "Summarize this document."}]
  }'

Atteikšanās no pašam piederošās jaudas var šķist pretrunīga loģikai. Tomēr ikdienas operācijās ir četras situācijas, kas to attaisno. Pirmkārt, nekritiski uzdevumi: partijas analīzei, kas palaista plkst. 22.00, vai atliktai apstrādes darbībai nav nepieciešama latentces garantija, un būtu žēl, ja tā iztērētu alokāciju, kas paredzēta interaktīvai satiksmei. Otrkārt, jaudas saglabāšana pīķa slodzes laikā: atspējot nodrošināto caurlaidspēju sekundārajai apstrādei, tu atbrīvo alokāciju tieši brīdī, kad lielos apjomos ierodas prioritāri pieprasījumi. Galvene noder arī A/B testēšanai, kad vēlies izmērīt faktisko veiktspējas starpību starp dedificēto un koplietojamo jaudu uz savas slodzes, nevis balstoties uz pārdevēja solījumiem. Visbeidzot, tā ir vērtīga atkļūdošanai: piespiežot pieprasījumu iet caur koplietojamo baseinu, tu uzreiz uzzini, vai novērotā anomālija rodas no nodrošinātās caurlaidspējas vai tava koda.

Novirzīt pieprasījumu uz konkrētu baseinu

Otrā galvene novirza izsaukumu uz identificētu jaudas baseinu:

curl https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-pt-id: pool-support-client" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.3",
    "messages": [{"role": "user", "content": "How can I help you?"}]
  }'

Šī galvene kļūst neaizstājama, tiklīdz vairākas tavas organizācijas lietojumprogrammas izsauc Grok. Tad tu izveido atsevišķus baseinus – pool-support klientu atbalsta čatbotam, pool-analysis dokumentu analīzei, pool-internal biznesa rīkiem – un katrs darbojas neatkarīgi. Segmentācija izolē veiktspēju: dokumentu analīzes kampaņa, kas palaista pirmdienas rītā, vairs nepasliktina atbalsta atbildes laikus. Tā arī nodrošina patēriņa uzskaiti pa lietojumiem, tādējādi radot faktisku pamatu izmaksu sadalei vai arbitrāžai, kur iepriekš paļāvies uz minējumiem. Turklāt tas pēc būtības novērš situāciju, kad viena lietojumprogramma monopolizē jaudu uz citu rēķina.

Kas notiek pārplūdes gadījumā

Kad satiksme pārsniedz nodrošināto caurlaidspēju, rezerves risinājums tiek aktivizēts automātiski un nemanāmi: pieprasījums nonāk koplietojamajā baseinā, piemērojot maksu par faktiski izmantoto („pay-as-you-go”), tiek piemērotas standarta modeļa likmes, un tas pakļauts parastajiem ātruma ierobežojumiem. Netiek atgriezta neviena kļūda; tava lietojumprogramma neredz nekādas izmaiņas.

Šai diskrecijai ir divas puses. Pieejamības ziņā ziņas ir labas: tu nekad nesaskarsies ar 429 kļūdu, ko izraisījusi nodrošinātās caurlaidspējas pārsniegšana. Finanšu un pakalpojumu kvalitātes ziņā situācija ir mazāk rožaina. Pieprasījums tiek apmaksāts pēc „pay-as-you-go” likmes, kas var būt augstāka; atbildes laiki var svārstīties, jo apstrāde notiek koplietojamajā infrastruktūrā; un, pats galvenais, 99,9 % SLA attiecas tikai uz pieprasījumiem, kas apstrādāti nodrošinātās caurlaidspējas ietvaros. Pārplūde neko nesalauž, tā vienkārši liek tev nemanāmi izslīdēt ārpus apmaksātā tvēruma. Pārvaldības API atklāj to pieprasījumu proporciju, kas apstrādāti nodrošinātā režīmā, salīdzinot ar „pay-as-you-go”: pārbaudi šo attiecību katru mēnesi tāpat kā rēķinu. Pieaugošs pārplūdes līmenis ir signāls, ka tev jāpalielina alokācija.

Pārvērst prioritāti lietojumprogrammu kodā

Tā vietā, lai vairotu izsaukumu funkcijas, visstabilākā prakse ir kvalificēt prioritāti brīdī, kad tiek veikts pieprasījums:

import httpx

def query_grok(prompt: str, priority: str = "normal"):
    headers = {
        "Authorization": f"Bearer {API_KEY}",
        "Content-Type": "application/json",
    }

    if priority == "low":
        headers["x-pt-disable"] = "true"
    elif priority == "high":
        headers["x-pt-id"] = "pool-critical"

    response = httpx.post(
        "https://api.x.ai/v1/chat/completions",
        headers=headers,
        json={
            "model": "grok-4.3",
            "messages": [{"role": "user", "content": prompt}],
        },
    )
    return response.json()

Parametrs priority kļūst par vienīgo lēmumu, kas eksponēts biznesa loģikai, un maršrutēšanas politika paliek koncentrēta vienā funkcijā, ko tu vari pilnveidot, neaiztiekot pārējo kodu. Pārskati savu izsaukumu kodu un sakārto katru ieejas punktu vienā no trim kategorijām: regulāra šī uzdevuma veikšana bieži parāda, ka aptuveni pusei satiksmes nodrošinātā jauda nebija nepieciešama.

Galvenās atziņas

  • Galvene x-pt-disable: true apiet nodrošināto caurlaidspēju konkrētam pieprasījumam
  • Galvene x-pt-id novirza pieprasījumu uz konkrētu jaudas baseinu
  • Pārplūdes automātiski pāriet uz „pay-as-you-go” režīmu bez kļūdām
  • Sadalīšana baseinos ļauj izolēt veiktspēju un izsekot patēriņu pa lietojumprogrammām
  • Uzraugi pārplūdes līmeni, lai vajadzības gadījumā pielāgotu savu alokāciju