Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Konversazzjonijiet b'diversi dawriet: iż-żamma tar-raġunar fl-istorja

Lezzjoni 7 / 12 Aġġornat 2 ta’ Novembru 2026 Zviluppatur
F'din il-paġna
  1. Ir-regola: erġa’ ibgħat il-messaġġ sħiħ
  2. Kodiċi ta’ referenza
  3. L-ispiża
  4. Streaming u l-API tal-Konversazzjonijiet
  5. Storji ġġenerati minn Magistral
  6. Punti Ewlenin

Lezzjoni miktuba mill-ġdid fit-2 ta’ Novembru 2026. Qabel kienet tkopri l-parametru prompt_mode ta’ Magistral, li tneħħa ma’ dak il-mudell. Issa tindirizza regola enfasizzata fid-dokumentazzjoni attwali: f’konversazzjonijiet b’diversi dawriet, ir-raġunar irid jibqa’ fl-istorja. Sors: Reasoning — Multi-turn conversations.

Ir-regola: erġa’ ibgħat il-messaġġ sħiħ

Bl-API ta’ Chat Completions, int responsabbli li tibgħat l-istorja tal-konversazzjoni f’kull dawra. It-tentazzjoni hija qawwija li tinkludi biss it-test tar-risposta, li huwa iqsar u aktar leġibbli. Id-dokumentazzjoni ta’ Mistral hija espliċita: dejjem erġa’ ibgħat il-messaġġ sħiħ tal-assistent, inklużi l-frammenti tar-raġunar. It-tneħħija tat-traċċa tar-raġunar minn dawra għall-oħra tnaqqas il-prestazzjoni tal-mudell, peress li l-mudell jiddependi fuqha biex iżomm il-koerenza. L-iffrankar tat-tokens jiġi bi prezz ta’ kwalità.

Kodiċi ta’ referenza

L-aktar approċċ sempliċi huwa li żżid l-oġġett tal-messaġġ irritornat mill-SDK fl-istorja eżattament kif inhu:

import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, UserMessage

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"], timeout_ms=300_000)
messages = []

for question in ["What is 17 × 23?", "Now multiply that result by 3."]:
    messages.append(UserMessage(content=question))

    response = client.chat.complete(
        model="mistral-large-4-0",
        messages=messages,
        reasoning_effort="high",
    )
    assistant_message = response.choices[0].message

    # Wirja: biss it-test tar-risposta
    content = assistant_message.content
    if isinstance(content, str):
        print(content)
    else:
        print("".join(c.text for c in content or [] if isinstance(c, TextChunk)))

    # Storja: messaġġ sħiħ, inkluż ir-raġunar
    messages.append(assistant_message)

Il-parametru timeout_ms iżżid il-ħin ta’ stennja tal-klijent, li huwa utli meta raġunar twil jestendi l-ħin tar-risposta. Il-punt kritiku huwa l-aħħar linja: ma żżidx messaġġ rikostruwit mit-test biss, iżda assistant_message innifsu.

L-ispiża

L-eżempju uffiċjali juri l-impatt fuq it-tokens. Fl-ewwel dawra, it-talba fiha 25 token tal-input: biss il-mistoqsija. Il-mudell jirrispondi b’187 token, inkluż ir-raġunar. Fit-tieni dawra, l-input jogħla għal 221 token: l-ewwel mistoqsija (25), ir-risposta sħiħa tal-ewwel dawra bir-raġunar tagħha (187), u l-mistoqsija l-ġdida (9). It-tokens tal-output minn dawra jsiru tokens tal-input fid-dawra li jmiss, u dan huwa preċiżament dak li jippermetti lill-mudell ikun jaf mingħajr ambigwità għal liema “riżultat” qed jirreferi l-utent.

Fuq konversazzjoni twila, dan il-mekkaniżmu jikkawża li l-istorja tikber ma’ kull dawra. Żewġ konsegwenzi prattiċi: immonitorja usage.prompt_tokens, li jikber mal-konversazzjoni, u żomm f’moħħok it-tieqa tal-kuntest tal-mudell (256,000 token għal Small 4, miljun għal Large 4). Jekk l-istorja ssir tqila wisq, ibda konversazzjoni ġdida b’sommarju ta’ dik ta’ qabel minflok ma tneħħi t-traċċi tar-raġunar.

Streaming u l-API tal-Konversazzjonijiet

Fil-modalità streaming, ir-risposta tasal f’biċċiet (Lezzjoni 3): għall-istorja, għalhekk trid terġa’ tgħaqqad messaġġ sħiħ int stess, inkluż ir-raġunar, li jikkumplika l-kodiċi. Jekk l-applikazzjoni tiegħek hija konversazzjonali, l-API tal-Konversazzjonijiet toffri alternattiva: l-istorja tinżamm fuq is-server, u tkompli l-iskambju b’conversations.append mingħajr ma terġa’ tibgħat id-dawriet ta’ qabel (Lezzjoni 4).

Storji ġġenerati minn Magistral

Jekk qed iżżomm konversazzjonijiet ġġenerati minn Magistral, innota li l-format tagħhom ivarja. Il-verżjonijiet 25.07 u 25.09 diġà sseparaw ir-raġunar f’frammenti thinking, kif huma llum. Il-verżjoni 25.06, l-ewwel rilaxx, poġġiet ir-raġunar direttament fit-test tar-risposta, bejn it-tags <think> u “. Qabel ma terġa’ tgħaddi dawn l-istorji fuq Small 4 jew Large 4, ittestja r-ripristina fuq ftit konversazzjonijiet: m’hemm l-ebda garanzija li mudell attwali se jisfrutta r-raġunar miktub f’format differenti minn mudell ieħor.

Punti Ewlenin

  • F’Chat Completions, erġa’ ibgħat il-messaġġ sħiħ tal-assistent, inkluż ir-raġunar
  • It-tneħħija tal-frammenti tar-raġunar tiffranka tokens iżda tnaqqas il-kwalità b’mod sinifikanti
  • It-tokens tal-output minn dawra jsiru tokens tal-input fid-dawra li jmiss: immonitorja prompt_tokens
  • Fil-streaming, l-API tal-Konversazzjonijiet tevita l-ħtieġa li terġa’ tgħaqqad l-istorja manwalment
  • L-istorji ta’ Magistral 25.06 ħalltu r-raġunar u r-risposta fit-test, bl-użu ta’ tags <think>