HTTP 429 agus Cúlú Easpónantúil
Ar an leathanach seo
Conas Sárú Teorann a Láimhseáil
Chomh luath agus a shroicheann d’iarratas a theorainneacha Iarratas in Aghaidh an Nóiméid (RPM) nó Tokain in Aghaidh an Nóiméid (TPM, freagraíonn API Grok le cód stádais HTTP 429 (Iomarca Iarratas). Léigh an cód seo mar atá sé: ní briseadh é, ach comhartha rialaithe sreafa. Tá an API ag rá “moilligh”, ní “tá sé briste”. Braitheann an difríocht idir comhtháthú láidir agus ceann leochaileach ar an gcaoi a léirmhíníonn do chód an t-idirdhealú seo. Ní fhanann 429 mí-láimhseáilte inaonar riamh: scaipeann sé tríd an scuaine, ansin isteach i seirbhísí glaoite, agus críochnaíonn sé mar tharlúint atá infheicthe don úsáideoir deiridh.
Cad nach ba chóir a dhéanamh
Is é an freagairt öösctheach nuair a theipeann ar iarratas é a athsheoladh láithreach. Is é seo an gníomh mícheart go díreach. Bhí tú cheana féin thar do chuóta; trí athsheoladh láithreach, dóigh tú glao breise a theipfidh freisin, agus fadaíonn tú an tréimhse blocála in ionad í a ghiorrú. Déanann athriail éigríochta rudaí níos measa trí snáitheanna a cheangal gan ghá. Os a choinne sin, trí 429 a chóireáil mar earráid bhuan agus géilleadh, díchumasaíonn tú d’úsáideoir ó thoradh a thiocfadh cúpla soicind ina dhiaidh sin. Luíonn an cur chuige ceart idir an dá rud: déan athriail, ach fan, agus fan níos faide gach uair.
Cúlú Easpónantúil
Is é an prionsabal ná an mhoill a dhúbailt tar éis gach iarrachta theipthe, ag cur athraithe randamaigh ar a dtugtar “jitter” leis.
import time
import random
def call_with_retry(request, max_retries=5):
for attempt in range(max_retries):
response = send_request(request)
if response.status_code != 429:
return response
base_delay = 2 ** attempt # 1, 2, 4, 8, 16 seconds
jitter = random.uniform(0, base_delay * 0.5)
delay = base_delay + jitter
time.sleep(delay)
raise Exception("Retry limit reached")
Tuillfidh jitter aird toisc gurb é an líne is minice a scriostar faoin mbreiseán go gcuireann sé castacht gan ghá leis an gcód. Samhlaigh tríocha sampla de do sheirbhís ag fáil 429 ag an soicind céanna. Gan jitter, ríomhann siad go léir an mhoill chéanna agus déanann siad athriail ag an nóiméad céanna go beacht: tá tú tar éis an buaic ualaigh a atáirgeadh go díreach, soicind ina dhiaidh sin, ansin dhá cheann, ansin ceathair. Is é seo an feiniméan thundering herd. Scaipeann randamú iarrachtaí thar am agus briseann sé an sioncronú neamhdheonach seo. Tabhair faoi deara freisin go dtosaíonn an bhunmhoill ag soicind amháin: ná téigh faoi bhun seo riamh don chéad iarracht.
Scálú: Rialaigh Sula dTeipeann
Ar iarratas ard-toirte, níl sé leor a thuilleadh freagairt do 429anna; is fearr iad a sheachaint. Cuireann teorainneoir ráta taobh an chliaint teorainn le líon na nglaoiteanna comhthreomhara agus forfheidhmíonn sé spásáil íosta idir seoltaí, ionas go bhfanfaidh an t-ualach amuigh faoin uasteorainn in ionad é a thástáil go leanúnach.
import asyncio
from asyncio import Semaphore
# Limit to 25 requests/second (margin under the allowed 30 req/s)
semaphore = Semaphore(25)
async def limited_request(payload):
async with semaphore:
response = await send_request_async(payload)
await asyncio.sleep(1.0 / 25) # minimum spacing
return response
Tabhair faoi deara an corrlach d’aon ghnó: 25 iarratas in aghaidh an tsoicind in ionad na 30 a cheadaítear. Súnn an cúltaca seo neamhrialtachtaí líonra agus buaicphointí tráchta gan an t-uasteorainn a bhaint amach riamh.
Cuireann an briseadh ciorcaid an socrú i gcrích trí ghlaoiteanna a ghearradh nuair a charnaítear teipeanna. Agus é dúnta, téann iarratais tríd go gnáth. Tar éis líon socraithe de theipeanna leantacha, osclaíonn sé agus diúltaíonn sé do gach iarratas go háitiúil ar feadh tréimhse cumraithe: stopann tú ag casúrú API atá do dhiúltú, agus fanann do snáitheanna ar fáil don chuid eile den iarratas. Nuair a théann an mhoill in éag, bogann sé go leath-oscailte agus ligeann sé d’iarracht tástála amháin dul tríd; má éiríonn leis, leanann an gnáth-thrácht ar aghaidh, murach sin, athshocraítear an t-áireamh. Cosnaíonn an mheicníocht seo do sheirbhís chomh maith leis an API ar an taobh eile.
Cóireáil 429 mar Mhéadracht
Reflex deireanach amháin, a bhíonn in easnamh go minic i gcomhtháthuithe: déan ráta 429 a ionstraimiú. Ní thomhaiseann an figiúr seo cáilíocht do chóid athriail; tomhaiseann sé an oiriúnacht idir do chéim agus do thrácht iarbhír. Comharthaíonn cuar a ardaíonn seachtain i ndiaidh seachtaine méid neamhleor i bhfad roimh go ndéanann úsáideoirí gearán, agus tugann sé am duit gníomhú go ciúin—dáil an t-ualach, buiséadaigh d’uasghrádú céime—in ionad impreasáil a dhéanamh oíche Aoine.
Príomhphointí
- Comharthaíonn cód HTTP 429 sárú ar theorainn RPM nó TPM
- Is é cúlú easpónantúil le jitter an straitéis a mholann xAI
- Sa táirgeadh, comhlánaigh cúlú le teorainneoir ráta taobh an chliaint agus briseadh ciorcaid
- Ná déan athriail láithreach riamh: fan ar a laghad 1 soicind roimh an gcéad athriail
- Déan monatóireacht ar ráta 429 i do mhéadrachtaí mar tháscaire ar mhéid neamhleor