Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Smointíní smaointeoireachta: léamh ar réasúnaíocht an mhúnla

Ceacht 3 as 12 Nuashonraithe 2 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Dhá chruth freagartha
  2. Anatamaíocht smointín smaointeoireachta
  3. An freagra a pharsáil i bPython
  4. An réasúnaíocht a thaispeáint i gcomhéadan
  5. Sruthú i dtrí chéim
  6. Príomhphointí

Athscríodh an ceacht seo an 2 Samhain 2026 bunaithe ar an roinn Handling thinking chunks de doiciméadú Mistral. Léigh an leagan roimhe seo an réasúnaíocht ó réimse text sa smointín smaointeoireachta: níl an réimse sin ann; is liosta de smointíní téacs í an réasúnaíocht.

Dhá chruth freagartha

Le reasoning_effort="high", ní teaghrán a thuilleadh é réimse message.content freagra, ach liosta de smointíní. Le reasoning_effort="none", is teaghrán simplí arís é, gan aon rian de réasúnaíocht. Déanann cód láidir láimhseáil ar an dá chruth i gcónaí: sin riail órga an cheachta seo.

Anatamaíocht smointín smaointeoireachta

Tá dhá chineál smointín le feiceáil sa liosta:

  • ThinkChunk (type: "thinking") a iompraíonn an rian réasúnaíochta. Is liosta de bhlúirí TextChunk é a réimse thinking féin;
  • TextChunk (type: "text") a iompraíonn an freagra deiridh, ina réimse text.

Seo cruth freagra ó Mistral Small 4, tógtha ón sampla oifigiúil (téacsanna giorraithe):

{
  "model": "mistral-small-2603",
  "usage": {"prompt_tokens": 77, "completion_tokens": 1114, "total_tokens": 1191},
  "choices": [{
    "finish_reason": "stop",
    "message": {
      "role": "assistant",
      "content": [
        {"type": "thinking", "thinking": [
          {"type": "text", "text": "Okay, let's try to figure out John's age..."}
        ]},
        {"type": "text", "text": "Let's denote the ages of the sisters as follows..."}
      ]
    }
  }]
}

Leanann múnla oibiachta an SDK Python an struchtúr seo go beacht: coinníonn ThinkChunk.thinking na smointíní réasúnaíochta, agus nochtann gach TextChunk a chuid ábhair trí .text.

An freagra a pharsáil i bPython

Déanann an cód oifigiúil idirdhealú idir smointíní le isinstance, tar éis an cás teaghráin shimplí a dhíbirt:

from mistralai.client.models import TextChunk, ThinkChunk

content = chat_response.choices[0].message.content

if isinstance(content, str):          # reasoning_effort="none"
    print(content)
else:
    for chunk in content:
        if isinstance(chunk, ThinkChunk):
            print("--- reasoning ---")
            for inner in chunk.thinking:
                if isinstance(inner, TextChunk):
                    print(inner.text)
            print("--- end of reasoning ---")
        elif isinstance(chunk, TextChunk):
            print(chunk.text)

I bhfeidhmchlár, ba mhaith leat feidhm a thugann ar ais an réasúnaíocht agus an freagra ar leithligh. Tugaimid separate uirthi agus úsáidfimid arís í níos déanaí sa chúrsa:

from mistralai.client.models import TextChunk, ThinkChunk

def separate(content):
    """Return (reasoning, answer) for content that is either a string or a list of chunks."""
    if isinstance(content, str):
        return "", content
    reasoning, answer = [], []
    for chunk in content or []:
        if isinstance(chunk, ThinkChunk):
            reasoning.extend(i.text for i in chunk.thinking if isinstance(i, TextChunk))
        elif isinstance(chunk, TextChunk):
            answer.append(chunk.text)
    return "".join(reasoning), "".join(answer)

reasoning, answer = separate(chat_response.choices[0].message.content)

An réasúnaíocht a thaispeáint i gcomhéadan

Ligeann an dá chuid a scaradh duit a chinneadh cad a fheiceann an t-úsáideoir. Trí chur chuige choitianta:

  • Folaigh an réasúnaíocht agus ná taispeáin ach an freagra, do chúntóir atá dírithe ar an tomhaltóir;
  • Laghdaigh an réasúnaíocht go bloc is féidir leis an úsáideoir a oscailt más mian leis, d’uirlis shaineolach;
  • Taispeáin an réasúnaíocht iomlán, do thiútor oideachais áit a bhfuil tábhacht leis an bpróiseas chomh mór leis an toradh.
def render_html(content, show_reasoning=False):
    reasoning, answer = separate(content)
    html = f"<div class='answer'>{answer}</div>"
    if show_reasoning and reasoning:
        html = (
            "<details><summary>View model reasoning</summary>"
            f"<pre>{reasoning}</pre></details>" + html
        )
    return html

I dtionscadal fíor, déan éalú ar an téacs sula gcuireann tú isteach in HTML é (mar shampla le html.escape): is téacs ginte é an réasúnaíocht agus an freagra araon, ní marcáil iontaofa.

Sruthú i dtrí chéim

I sruthú, athraíonn cruth delta.content de réir mar a fhorbraíonn an freagra:

  1. Céim na réasúnaíochta: is liosta é delta.content ina bhfuil ThinkChunk;
  2. An t-aistriú: liosta amháin ina bhfuil an ThinkChunk dúnta agus an chéad TextChunk;
  3. Céim an fhreagra: is teaghrán simplí é delta.content.

Taispeánann an cód seo a leanas, oiriúnaithe ón sampla oifigiúil, an dá chéim trí bhratach stáit a rianú:

import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, ThinkChunk

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
in_reasoning = False

for event in client.chat.stream(
    model="mistral-large-4-0",
    messages=[{"role": "user", "content": "What is 17 × 23?"}],
    reasoning_effort="high",
):
    delta = event.data.choices[0].delta.content
    if not delta:
        continue
    if isinstance(delta, str):            # answer phase
        if in_reasoning:
            print("\n--- end of reasoning ---")
            in_reasoning = False
        print(delta, end="", flush=True)
        continue
    for chunk in delta:                   # reasoning phase and transition
        if isinstance(chunk, ThinkChunk):
            if not in_reasoning:
                print("--- reasoning ---")
                in_reasoning = True
            for inner in chunk.thinking:
                if isinstance(inner, TextChunk):
                    print(inner.text, end="", flush=True)
        elif isinstance(chunk, TextChunk):
            if in_reasoning:
                print("\n--- end of reasoning ---")
                in_reasoning = False
            print(chunk.text, end="", flush=True)

Athraíonn sruthú an taithí: in ionad fanacht le próiseas fada réasúnaíochta críochnú os comhair scáileáin reoite, feiceann an t-úsáideoir an múnla ag obair, nó ar a laghad táscaire gníomhaíochta má roghnaíonn tú an réasúnaíocht a fholaigh.

Príomhphointí

  • Is teaghrán é content le none, liosta smointíní le high: láimhseáil an dá cheann i gcónaí
  • Is liosta de TextChunk é ThinkChunk.thinking; tá an freagra deiridh i TextChunk barrleibhéil
  • Simplíonn feidhm separate a thugann ar ais (réasúnaíocht, freagra) an chuid eile de do chód
  • I sruthú: liosta réasúnaíochta, aistriú measctha, ansin teaghráin fhreagra
  • Déan éalú ar an réasúnaíocht agus ar an bhfreagra araon sula dtaispeánann tú iad