Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Mitme vooruga vestlused Pythonis

Õppetund 7 / 14 Värskendatud 2. november 2026 Arendajatele
Sellel lehel
  1. Mälu, mis tegelikult mälu ei ole
  2. Kolm rolli, mis struktureerivad ajalugu
  3. Täielik vestlus vooru haaval
  4. Ajaloo hoidmine liiga kalliks muutumise eest
  5. Süsteemsõnumi vormistamine
  6. Peamised punktid

Mälu, mis tegelikult mälu ei ole

Erinevalt otsingumootorist järgib keelemudel vestluse niiti: see võtab arvesse varasemat öeldut ja rajab oma vastused sellele kogunenud kontekstile. Seda nimetatakse mitme vooruga (multi-turn) vestluseks ja just see võimaldab esitada lühivorme nagu „ja argumentidega?“.

Tehniliselt ei mäleta mudel aga midagi. Serveris ei säilitata kõnede vahel mingit olekut. Iga päringuga pead saatma tagasi kogu ajaloo, mille mudel loeb algusest lõpuni läbi enne vastamist. See mehhanism selgitab kaht asja, mille juurde hiljem tagasi pöördume: sa oled täielikult vastutav mäluhalduse eest ja iga vestlusvoor maksab rohkem kui eelmine.

Kolm rolli, mis struktureerivad ajalugu

Igal ajaloo sõnumil on roll, mis ütleb mudelile, kes parajasti räägib. Roll system määratleb üldise käitumise: see asetatakse esimesena ja mõjutab kõiki järgnevaid vastuseid.

{"role": "system", "content": "You are an expert assistant in French cuisine. Always respond in French using precise culinary terms."}

Roll user kannab kasutaja sõnumeid – ehk saadetud küsimust või juhendit:

{"role": "user", "content": "How do I make perfect puff pastry?"}

Lõpuks sisaldab roll assistant mudeli eelmisi vastuseid. Need on sõnumid, mida süstid ajalukku tagasi, et säilitada järjepidevus. Nende unustamine on samaväärne vestluse mälu kustutamisega igas voorus.

{"role": "assistant", "content": "To make perfect puff pastry, start by..."}

Täielik vestlus vooru haaval

Allpool olev kood rakendab seda põhimõtet: funktsioon, mis lisab küsimuse ajalukku, kutsub mudeli ja salvestab seejärel vastuse õigesse kohta enne selle tagastamist.

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

historique = [
    {
        "role": "system",
        "content": "You are a teaching assistant specialized in Python programming. Respond concisely and include code examples."
    }
]

def poser_question(question: str) -> str:
    """Sends a question and updates the history."""
    historique.append({"role": "user", "content": question})

    response = client.chat.complete(
        model="mistral-small-latest",
        messages=historique,
    )

    reponse_texte = response.choices[0].message.content
    historique.append({"role": "assistant", "content": reponse_texte})

    return reponse_texte

# Turn 1
print("Q: What is a decorator in Python?")
r1 = poser_question("What is a decorator in Python?")
print(f"R: {r1}\n")

# Turn 2 — the model knows the context
print("Q: Can you show me a concrete example?")
r2 = poser_question("Can you show me a concrete example?")
print(f"R: {r2}\n")

# Turn 3 — implicit reference to previous turns
print("Q: How do I use it with arguments?")
r3 = poser_question("How do I use it with arguments?")
print(f"R: {r3}\n")

Kolmandaks vooruks ei maini küsimus enam kordagi sõna „dekaoraator“. Mudel mõistab siiski, et „seda kasutama“ viitab sellele mõistele, kuna see loeb kogu vahetuse uuesti läbi. Eemalda rida, mis lisab vastuse ajalukku, ja käivita kood uuesti: mudel küsib, millest sa räägid. See on kiireim tõestus, et järjepidevus ei tule mudelilt, vaid sinu koodilt.

Ajaloo hoidmine liiga kalliks muutumise eest

Igal mudelil on piiratud konteksti aken, mida mõõdetakse tokenites. Kui ajalugu kasvab, muutub iga päring kallimaks, kuna kõik edastatakse uuesti. Kolmekümne vooruga vestlus tähendab sisuliselt seda, et selle algust arveldatakse kolmkümmend korda üle.

Lihtsaim lahendus on lühendamine, säilitades süsteemsõnumi ja viimased N vahetust:

MAX_MESSAGES = 20

def ajouter_message(historique, role, content):
    historique.append({"role": role, "content": content})

    # Keep the system message + the last N messages
    if len(historique) > MAX_MESSAGES + 1:  # +1 for the system message
        system_msg = historique[0]
        historique = [system_msg] + historique[-(MAX_MESSAGES):]

    return historique

See lähenemine on odav, kuid brutaalne: see, mida kasutaja teises voorus täpsustas, kaob igaveseks. Kui vestlus on pikk ja vanem kontekst on oluline – näiteks nõuete kogumise intervjuu –, siis selle asemel, et see minema visata, tee sellest kokkuvõte:

def resumer_historique(client, historique):
    """Summarizes old messages to free up context."""
    texte_complet = "\n".join(
        f"{m['role']}: {m['content']}"
        for m in historique[1:-4]  # Exclude system and the last 4 messages
    )

    resume = client.chat.complete(
        model="mistral-small-latest",
        messages=[
            {"role": "user", "content": f"Summarize this conversation in 3-4 sentences:\n{texte_complet}"}
        ]
    )

    return [
        historique[0],  # System message
        {"role": "assistant", "content": f"[Conversation Summary] {resume.choices[0].message.content}"},
    ] + historique[-4:]  # The last 4 messages

Ideeks on suruda kaug minevik kokku mõneks lauseks, hoides samal ajal viimased neli sõnumit puutumatuna, kuna need kannavad vahetut konteksti. Kokkuvõte tarbib ühe lisaväljakutse, kuid tasub end järgnevates voorudes mitmekordselt ära.

Süsteemsõnumi vormistamine

Süsteemsõnum on selle õppetüki võimsaim ja alakasutatud tööriist. Paljud leppivad üldise „Sa oled abivalmis assistent“ fraasiga, mis ei lisa midagi. Hea süsteemsõnum sätestab kontrollitavad piirangud:

system_prompt = """You are a Corsen AI technical assistant.

Rules:
- Respond in French with a professional tone
- Provide code examples when relevant
- If you are unsure, say so rather than making things up
- Limit your responses to 200 words unless asked otherwise

Context: The user is working on a Python 3.12 project with FastAPI."""

Iga rida siin tekitab mõõdetava efekti: pikkusepiirang hoiab kulusid kontrolli all, kutsumine tunnistada ebakindlust vähendab hallutsinatsioone ja tehnoloogiapistmaini mainimine väldib üldiseid, teemast kõrvalekalduvaid vastuseid. Lühike, täpne, ühemõtteline – see on kõik, mida vaja on.

Peamised punktid

  • Kogu ajalugu saadetakse iga päringuga uuesti – mudel ei „mäleta“ midagi
  • Kolm rolli (system, user, assistant) struktureerivad vestlust
  • Sõnum system määratleb üldise käitumise – asetada see alati esimesena
  • Halda konteksti suurust, lühendades või tehes vanadest sõnumitest kokkuvõtteid
  • Mida pikem on ajalugu, seda rohkem tokenites maksab iga päring