Kuntest Multi-Turn: Ħażna u Krittografija
F'din il-paġna
Il-Problema tal-Kuntest Bejn it-Talbiet
F’konversazzjoni multi-turn b’għodod, il-volum tal-kuntest jikber malajr. Kull sejħa ta’ għodda żżid ir-riżultati tagħha mal-fil tal-messaġġi, u r-raġunament intern tal-mudell irid jinżamm għall-konsistenza. Żewġ mekkaniżmi jsolvu din il-problema: ħażna remota u krittografija fuq in-naħa tal-klijent.
Metodu 1: store_messages u previous_response_id
Il-ħażna remota tiddelega l-ġestjoni tal-kuntest lis-servers ta’ xAI. Tattiva store_messages=True fl-ewwel talba tiegħek, imbagħad tgħaqqad it-talbiet sussegwenti b’previous_response_id:
# L-ewwel talba: attiva l-ħażna
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this sales dataset"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # salva l-ID
# It-talba li jmiss: uża l-kuntest maħżun
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
previous_response_id=response_id,
store_messages=True
)
B’dan l-approċċ, m’għandekx bżonn terġa’ tibgħat l-istorja sħiħa tal-messaġġi. Is-server ta’ xAI jżomm il-kuntest u jwaħħlu awtomatikament. Dan inaqqas id-daqs tat-talba u jissimplifika l-kodiċi tiegħek.
Vantaġġi
- Talbiet eħfef (l-ebda ħtieġa li terġa’ tibgħat l-istorja sħiħa)
- Ir-raġunament intern tal-mudell jinżamm awtomatikament
- L-ebda ġestjoni kumplessa tal-istat fuq in-naħa tal-klijent
Limitazzjonijiet
- Il-messaġġi jinħażnu fuq is-servers ta’ xAI (kunsiderazzjoni tal-privatezza)
- L-
response_idirid jinżamm bejn it-talbiet - Il-ħażna għandha perjodu ta’ ritenzjoni limitat
Metodu 2: use_encrypted_content
Il-krittografija fuq in-naħa tal-klijent toffri alternattiva għal każijiet fejn trid iżżomm il-kontroll tal-kuntest mingħajr ma taħżen id-data tiegħek fuq is-servers ta’ xAI:
# Attiva kontenut ikkrittografjat
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this contract"}],
tools=my_tools,
use_encrypted_content=True
)
# Ir-raġunament u l-output tal-għodod jiġu rritornati kkrittografjati
# Inti żidhom kif inhuma fil-messaġġi sussegwenti
messages = [
{"role": "user", "content": "Analyze this contract"},
response.choices[0].message, # fih kontenut ikkrittografjat
{"role": "user", "content": "What are the termination clauses?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
B’use_encrypted_content=True, ir-raġunament intern u r-riżultati tal-għodod jiġu rritornati f’forma kkrittografjata. Ma tistax taqrahom, iżda terġa’ tibgħathom f’talbiet sussegwenti. Is-server jiddeċifrahom biex iżomm il-kontinwità tar-raġunament.
Vantaġġi
- Il-kuntest jibqa’ taħt il-kontroll tiegħek (l-ebda ħażna remota)
- Ir-raġunament intern jinżamm mingħajr ma jiġi espost f’test ċar
- Kompatibbli ma’ politiki stretti tal-privatezza
Limitazzjonijiet
- It-talbiet huma akbar (il-kontenut ikkrittografjat huwa inkluż)
- Trid timmaniġġja l-istorja tal-messaġġi fuq in-naħa tal-klijent
L-Għażla Bejn iż-Żewġ Metodi
L-għażla tiddependi mill-kuntest tiegħek:
- store_messages: preferibbli għal applikazzjonijiet ta’ chat, assistenti interattivi, u każijiet fejn is-simpliċità tiġi l-ewwel. Il-kuntest jiġi ġestit awtomatikament.
- use_encrypted_content: preferibbli għal applikazzjonijiet sensittivi, l-ipproċessar ta’ dokumenti kunfidenzjali, u każijiet fejn id-data m’għandhiex toħroġ mill-infrastruttura tiegħek (lil hinn mit-transitu tal-API).
Tagħqid mal-Fluss tax-Xogħol Ibridu
Iż-żewġ metodi jintegraw fil-mudell tal-lupu (loop) li rajt fil-lezzjoni preċedenti:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Dan il-mudell jgħaqqad il-mistoqsijiet waqt li jżomm il-kuntest sħiħ tal-konversazzjoni, inklużi r-riżultati tal-għodod u r-raġunament intern tal-mudell.
Punti Ewlenin
store_messages=True+previous_response_idjiddelegaw il-ġestjoni tal-kuntest lil xAIuse_encrypted_content=Trueiżomm ir-raġunament mingħajr ħażna remota- L-għażla tiddependi mir-restrizzjonijiet tal-privatezza u s-simpliċità tiegħek
- Iż-żewġ metodi huma kompatibbli ma’ flussi tax-xogħol multi-turn u għodod ibridi
previous_response_idtelimina l-ħtieġa li terġa’ tibgħat l-istorja sħiħa tal-messaġġi