Lähe põhisisu juurde
Eesti— Vali keel
Menüü

API päised ja ülekoormuse haldamine

Õppetund 8 / 14 Värskendatud 28. juuli 2026 Kesktase
Sellel lehel
  1. Otsusta, millised päringud sinu mahtuvust tarbivad
  2. Loobu vabatahtlikult pühendatud mahtuvusest
  3. Suuna päring kindlasse reservuaari
  4. Mis juhtub ülekoormuse korral
  5. Tõlgi prioriteet rakenduse koodi
  6. Peamised punktid

Otsusta, millised päringud sinu mahtuvust tarbivad

Mahtuvuse reserveerimine lahendab vaid pooled probleemist: sa pead endiselt valima, millised päringud sellest tegelikult kasu saavad. Reserveeritud läbilaskevõime ei ole kord kuus tehtav üldine ost; see on mehhanism, mida saad juhtida iga väljakutse kaupa. xAI pakub selleks spetsiaalseid HTTP päiseid, mis vahendavad iga päringu puhul otsust sinu pühendatud mahtuvuse ja ühiskasutuses oleva reservuaari vahel. Fikseeritud eraldisest saab seega operatiivne hoob, mida sinu meeskonnad saavad otse rakenduse koodist manipuleerida.

Loobu vabatahtlikult pühendatud mahtuvusest

Esimene päis teenib selleks, et jätta päring sinu eraldise väljapoole:

curl https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-pt-disable: true" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.3",
    "messages": [{"role": "user", "content": "Summarize this document."}]
  }'

Omaenda mahtuvusest loobumine tundub ebaloogiline. Igapäevases töös on neli olukorda, mis seda õigustavad. Esiteks, mitte-kriitilised ülesanded: kell 22.00 käivitatud partiianalüüs või edasilükatud töötlemistöö ei vaja latentsuse garantiid ja oleks kahju, kui see tarbiks interaktiivse liikluse jaoks makstud eraldist. Teiseks, mahtuvuse säilitamine tipptundidel: lülitades teisese töötlemise puhul reserveeritud läbilaskevõime välja, vabastad eraldise täpselt siis, kui prioriteetsed päringud saabuvad suurel hulgal. Päist kasutatakse ka A/B-testimisel, kui soovid mõõta tegelikku jõudluse vahet pühendatud ja ühiskasutuses oleva mahtuvuse vahel omaenda koormusel, mitte müüja lubadusel. Lõpuks on see väärtuslik silumisel: päringu sundimine läbi ühiskasutuses oleva reservuaari annab kohe teada, kas täheldatud anomaalia tuleneb reserveeritud mahtuvusest või sinu koodist.

Suuna päring kindlasse reservuaari

Teine päis suunab väljakutse tuvastatud mahtuvuse reservuaari:

curl https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-pt-id: pool-support-client" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.3",
    "messages": [{"role": "user", "content": "How can I help you?"}]
  }'

See päis muutub hädavajalikuks niipea, kui sinu organisatsioonis kutsub Groki mitu rakendust. Seejärel lood eraldatud reservuaarid – pool-support klienditoe vestlusrobotile, pool-analysis dokumendianalüüsiks, pool-internal äritööriistadele – ja igaüks töötab sõltumatult. Segmenteerimine isoleerib jõudluse: esmaspäeva hommikul käivitatud dokumendianalüüsi kampaania ei halventa enam toe vastamisaegu. Samuti toodab see tarbimise aruande kasutuse kaupa, pakkudes seega faktilist alust kulude ümberjaotamiseks või otsuste tegemiseks, kus varem tuginesid aimdusele. Lisaks hoiab see loomupäraselt ära olukorra, kus üks rakendus monopoliseerib mahtuvust teiste arvelt.

Mis juhtub ülekoormuse korral

Kui liiklus ületab reserveeritud mahtuvuse, on varuplaan automaatne ja märkamatu: päring suunatakse tasu-põhisele ühiskasutuses olevale reservuaarile, kehtivad mudeli tavahinnad ja sellele rakenduvad tavalised kiirusepiirangud. Ühtegi viga ei tagastata; sinu rakendus ei märka midagi juhtuvat.

Sellel diskreetsusel on kaks külge. Saadavuse seisukohalt on uudised head: sa ei kohtu kunagi veaga 429, mis oleks põhjustatud reserveeritud mahtuvuse ületamisest. Rahanduse ja teenuse kvaliteedi seisukohalt on lugu halvem. Päringut arveldatakse tasu-põhise määraga, mis võib olla kõrgem; vastamisajad võivad varieeruda, kuna töötlemine toimub ühiskasutuses olevas taristus; ja mis kõige tähtsam, 99,9% SLA hõlmab ainult reserveeritud läbilaskevõimes töödeldud päringuid. Ülekoormus ei katkesta midagi, see lihtsalt libistab sind vaikselt välja sellest ulatusest, mille eest sa maksad. Haldus-API paljastab reserveeritud režiimis versus tasu-põhiselt töödeldud päringute osakaalu: uurige seda suhet iga kuu nagu arvet. Kasvav ülekoormuse määr on signaal, et peate eraldist suurendama.

Tõlgi prioriteet rakenduse koodi

Selle asemel, et korrutada väljakutsefunktsioone, seisneb kindlaim tava prioriteedi kvalifitseerimises päringu esitamise hetkel:

import httpx

def query_grok(prompt: str, priority: str = "normal"):
    headers = {
        "Authorization": f"Bearer {API_KEY}",
        "Content-Type": "application/json",
    }

    if priority == "low":
        headers["x-pt-disable"] = "true"
    elif priority == "high":
        headers["x-pt-id"] = "pool-critical"

    response = httpx.post(
        "https://api.x.ai/v1/chat/completions",
        headers=headers,
        json={
            "model": "grok-4.3",
            "messages": [{"role": "user", "content": prompt}],
        },
    )
    return response.json()

Parameeter priority muutub äriloogikale avaldatavaks ainsaks otsuseks ja marsruutimispoliitika jääb koondatuks ühte funktsiooni, mida saad arendada, puutumata ülejäänud koodi. Vaata oma väljakutsekood üle ja liigita iga sisendpunkt ühte kolmest kategooriast: harjutus näitab regulaarselt, et pool liiklusest ei vajanud tegelikult pühendatud mahtuvust.

Peamised punktid

  • Päis x-pt-disable: true möödub päringu puhul reserveeritud mahtuvusest
  • Päis x-pt-id suunab konkreetsele mahtuvuse reservuaarile
  • Ülekoormused langevad automaatselt tagasi tasu-põhisele mudelile ilma veata
  • Reservuaarideks segmenteerimine võimaldab isoleerida jõudlust ja jälgida tarbimist rakenduse kaupa
  • Jälgi ülekoormuse määra, et vajadusel oma eraldist kohandada