Taisce x-grok-conv-id agus Teorainn Ama Réasúnaíochta
Ar an leathanach seo
Costais a Optamú le Taisce
Gach iarratas a sheoltar chuig API xAI, táilleofar é ag an gnáthphraghas tócan. Ach nuair a sheolann tú iarratais iolracha gaolmhara (an comhrá céanna, an t-ábhar céanna), déantar cuid den chomhthéacs a athdhéanamh. Ligeann an ceanntásc x-grok-conv-id do xAI na hiarratais gaolmhara seo a aithint agus an ráta buailte taisce a mhéadú, rud a laghdaíonn do chostais.
An Ceanntásc x-grok-conv-id
Chun taisce comhrá a chumasú, cuir ceanntásc saincheaptha leis a bhfuil UUID v4 uathúil in aghaidh an chomhrá:
import uuid
conversation_id = str(uuid.uuid4())
# With the OpenAI SDK
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": prompt}],
extra_headers={
"x-grok-conv-id": conversation_id
}
)
Baineann gach iarratas a roinneann an x-grok-conv-id céanna tairbhe as ráta buailte taisce feabhsaithe. Táilleofar tócan taiscthe ag ráta laghdaithe i gcomparáid le tócan caighdeánacha.
Rialacha Úsáide
- Giniúint UUID nua do gach comhrá nó seisiún loighciúil
- An tUUID céanna a athúsáid do gach iarratas laistigh den chomhrá céanna
- Ná hathúsáid UUID thar chomhráite éagsúla (cuireann sé seo isteach ar an taisce)
# Pattern for a chatbot
class ConversationManager:
def __init__(self):
self.conv_id = str(uuid.uuid4())
self.messages = []
async def send(self, user_message: str) -> str:
self.messages.append({"role": "user", "content": user_message})
response = await client.chat.completions.create(
model="grok-4.5",
messages=self.messages,
extra_headers={"x-grok-conv-id": self.conv_id}
)
assistant_message = response.choices[0].message.content
self.messages.append({"role": "assistant", "content": assistant_message})
return assistant_message
Teorainn Ama 3600 Soicind don Réasúnaíocht
Déanann samhlacha réasúnaíochta (grok-4.20-0309-reasoning agus a leithéidí) réasúnaíocht inmheánach sula bhfreagraíonn siad. Is féidir leis an réasúnaíocht seo roinnt nóiméad a ghlacadh i gcás fadhbanna casta. Níl an teorainn ama réamhshocraithe do chliaint HTTP formhóra (30-120 soicind) leordhóthanach.
# Correct configuration for reasoning
from openai import AsyncOpenAI
import httpx
client = AsyncOpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1",
timeout=httpx.Timeout(
connect=10.0, # fast connection
read=3600.0, # 1 hour for read
write=30.0, # prompt submission
pool=10.0 # connection wait
)
)
Is é read=3600.0 an luach ríthábhachtach. Seo an t-uasmhoill idir an t-am a thosaíonn an freastalaí do d’iarratas a phróiseáil agus an t-am a fhaigheann tú an freagra. I gcás samhail réasúnaíochta a dhéanann réasúnaíocht ar feadh 5 nóiméad, teastaíonn an corrlach seo uait.
Cathin an Teorainn Ama a Laghdú
Ní gá an teorainn ama 3600 soicind i gcónaí:
- grok-4.5 (gan réasúnaíocht): de ghnáth, is leor teorainn ama 120-300 soicind
- Iarratais shimplí: fiú le samhail réasúnaíochta, freagraíonn ceisteanna gairide faoi bhun nóiméid
- Timpeallacht tástála: ligeann teorainn ama 60 soicind duit fadhbanna a bhrath go tapa
# Client for fast requests
fast_client = AsyncOpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1",
timeout=httpx.Timeout(120.0)
)
# Client for complex reasoning
reasoning_client = AsyncOpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1",
timeout=httpx.Timeout(3600.0)
)
Is gnáthphatrún é dhá chliant a úsáid le teorainneacha ama éagsúla i dtimpeallachtaí táirgeachta.
Nóta ar grok-4.5 agus Réasúnaíocht
Ní thugann an tsamhail grok-4.5 an réimse reasoning_content ar ais i ngnáth-théacs sa fhreagra. Déantar réasúnaíocht inmheánach ach fanann sí dofheicthe. Má theastaíonn uait an próiseas réasúnaíochta a fheiceáil, úsáid use_encrypted_content=True chun é a chaomhnú idir iarratais gan é a bheith in ann é a léamh, nó grok-4.20-0309-reasoning, a nochtann níos mó dá phróiseas.
Tionchar na Taisce a Sheiceáil
Chun éifeachtúlacht na taisce a thomhas, déan comparáid idir an réimse usage i measc iarratas le x-grok-conv-id agus gan é:
response = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
extra_headers={"x-grok-conv-id": conv_id}
)
usage = response.usage
if hasattr(usage, 'prompt_tokens_details'):
cached = usage.prompt_tokens_details.cached_tokens
total = usage.prompt_tokens
print(f"Cache hit: {cached}/{total} tokens ({cached/total*100:.0f}%)")
Ciallaíonn ráta buailte taisce ard go n-athúsáidtear do thócan comhthéacs in ionad iad a athphróiseáil, rud a laghdaíonn do bhille go díreach.
Príomhphointí
- Cumasaíonn
x-grok-conv-idle UUID v4 taisce comhrá d’iarratais ghaolmhara - Táilleofar tócan taiscthe ag ráta laghdaithe
- Teastaíonn teorainn ama 3600 soicind do shamhlacha réasúnaíochta
- Úsáid cliain ar leithligh d’iarratais tapa agus d’iarratais réasúnaíochta
- Ní thugann
grok-4.5reasoning_contentar ais i ngnáth-théacs - Déan monatóireacht ar an ráta buailte taisce in
usage.prompt_tokens_detailschun an t-optamú a bhailíochtú