Konversazzjonijiet b'diversi dawriet: iż-żamma tar-raġunar fl-istorja
F'din il-paġna
Lezzjoni miktuba mill-ġdid fit-2 ta’ Novembru 2026. Qabel kienet tkopri l-parametru
prompt_modeta’ Magistral, li tneħħa ma’ dak il-mudell. Issa tindirizza regola enfasizzata fid-dokumentazzjoni attwali: f’konversazzjonijiet b’diversi dawriet, ir-raġunar irid jibqa’ fl-istorja. Sors: Reasoning — Multi-turn conversations.
Ir-regola: erġa’ ibgħat il-messaġġ sħiħ
Bl-API ta’ Chat Completions, int responsabbli li tibgħat l-istorja tal-konversazzjoni f’kull dawra. It-tentazzjoni hija qawwija li tinkludi biss it-test tar-risposta, li huwa iqsar u aktar leġibbli. Id-dokumentazzjoni ta’ Mistral hija espliċita: dejjem erġa’ ibgħat il-messaġġ sħiħ tal-assistent, inklużi l-frammenti tar-raġunar. It-tneħħija tat-traċċa tar-raġunar minn dawra għall-oħra tnaqqas il-prestazzjoni tal-mudell, peress li l-mudell jiddependi fuqha biex iżomm il-koerenza. L-iffrankar tat-tokens jiġi bi prezz ta’ kwalità.
Kodiċi ta’ referenza
L-aktar approċċ sempliċi huwa li żżid l-oġġett tal-messaġġ irritornat mill-SDK fl-istorja eżattament kif inhu:
import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, UserMessage
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"], timeout_ms=300_000)
messages = []
for question in ["What is 17 × 23?", "Now multiply that result by 3."]:
messages.append(UserMessage(content=question))
response = client.chat.complete(
model="mistral-large-4-0",
messages=messages,
reasoning_effort="high",
)
assistant_message = response.choices[0].message
# Wirja: biss it-test tar-risposta
content = assistant_message.content
if isinstance(content, str):
print(content)
else:
print("".join(c.text for c in content or [] if isinstance(c, TextChunk)))
# Storja: messaġġ sħiħ, inkluż ir-raġunar
messages.append(assistant_message)
Il-parametru timeout_ms iżżid il-ħin ta’ stennja tal-klijent, li huwa utli meta raġunar twil jestendi l-ħin tar-risposta. Il-punt kritiku huwa l-aħħar linja: ma żżidx messaġġ rikostruwit mit-test biss, iżda assistant_message innifsu.
L-ispiża
L-eżempju uffiċjali juri l-impatt fuq it-tokens. Fl-ewwel dawra, it-talba fiha 25 token tal-input: biss il-mistoqsija. Il-mudell jirrispondi b’187 token, inkluż ir-raġunar. Fit-tieni dawra, l-input jogħla għal 221 token: l-ewwel mistoqsija (25), ir-risposta sħiħa tal-ewwel dawra bir-raġunar tagħha (187), u l-mistoqsija l-ġdida (9). It-tokens tal-output minn dawra jsiru tokens tal-input fid-dawra li jmiss, u dan huwa preċiżament dak li jippermetti lill-mudell ikun jaf mingħajr ambigwità għal liema “riżultat” qed jirreferi l-utent.
Fuq konversazzjoni twila, dan il-mekkaniżmu jikkawża li l-istorja tikber ma’ kull dawra. Żewġ konsegwenzi prattiċi: immonitorja usage.prompt_tokens, li jikber mal-konversazzjoni, u żomm f’moħħok it-tieqa tal-kuntest tal-mudell (256,000 token għal Small 4, miljun għal Large 4). Jekk l-istorja ssir tqila wisq, ibda konversazzjoni ġdida b’sommarju ta’ dik ta’ qabel minflok ma tneħħi t-traċċi tar-raġunar.
Streaming u l-API tal-Konversazzjonijiet
Fil-modalità streaming, ir-risposta tasal f’biċċiet (Lezzjoni 3): għall-istorja, għalhekk trid terġa’ tgħaqqad messaġġ sħiħ int stess, inkluż ir-raġunar, li jikkumplika l-kodiċi. Jekk l-applikazzjoni tiegħek hija konversazzjonali, l-API tal-Konversazzjonijiet toffri alternattiva: l-istorja tinżamm fuq is-server, u tkompli l-iskambju b’conversations.append mingħajr ma terġa’ tibgħat id-dawriet ta’ qabel (Lezzjoni 4).
Storji ġġenerati minn Magistral
Jekk qed iżżomm konversazzjonijiet ġġenerati minn Magistral, innota li l-format tagħhom ivarja. Il-verżjonijiet 25.07 u 25.09 diġà sseparaw ir-raġunar f’frammenti thinking, kif huma llum. Il-verżjoni 25.06, l-ewwel rilaxx, poġġiet ir-raġunar direttament fit-test tar-risposta, bejn it-tags <think> u “. Qabel ma terġa’ tgħaddi dawn l-istorji fuq Small 4 jew Large 4, ittestja r-ripristina fuq ftit konversazzjonijiet: m’hemm l-ebda garanzija li mudell attwali se jisfrutta r-raġunar miktub f’format differenti minn mudell ieħor.
Punti Ewlenin
- F’Chat Completions, erġa’ ibgħat il-messaġġ sħiħ tal-assistent, inkluż ir-raġunar
- It-tneħħija tal-frammenti tar-raġunar tiffranka tokens iżda tnaqqas il-kwalità b’mod sinifikanti
- It-tokens tal-output minn dawra jsiru tokens tal-input fid-dawra li jmiss: immonitorja
prompt_tokens - Fil-streaming, l-API tal-Konversazzjonijiet tevita l-ħtieġa li terġa’ tgħaqqad l-istorja manwalment
- L-istorji ta’ Magistral 25.06 ħalltu r-raġunar u r-risposta fit-test, bl-użu ta’ tags
<think>