Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Keskustelut usealla vuorovaikutuskerralla Pythonilla

Oppitunti 7 / 14 Päivitetty 2. marraskuuta 2026 Kehittäjä
Tällä sivulla
  1. Muisti, joka ei ole oikeasti muistia
  2. Kolme roolia, jotka jäsentelevät historiaa
  3. Täydellinen keskustelu kierros kerrallaan
  4. Historian pitämisen estäminen liian kalliiksi
  5. System-viestin laatiminen
  6. Keskeiset asiat

Muisti, joka ei ole oikeasti muistia

Toisin kuin hakukone, kielimalli seuraa keskustelun lankaa: se ottaa huomioon aiemmin sanotun ja rakentaa vastauksensa tämän kertyneen kontekstin pohjalle. Tätä kutsutaan usean vuorovaikutuskerran (multi-turn) keskusteluksi, ja se mahdollistaa elliptiset kysymykset kuten “entä argumenteilla?”.

Teknisesti malli ei kuitenkaan muista mitään. Palvelimelle ei tallennu tilaa kutsujen välillä. Sinun on lähetettävä koko historia uudelleen jokaisella pyynnöllä, ja malli lukee sen alusta loppuun ennen vastaamista. Tämä mekanismi selittää kaksi asiaa, joihin palaamme myöhemmin: olet täysin vastuussa muistin hallinnasta, ja jokainen keskustelukierros maksaa enemmän kuin edellinen.

Kolme roolia, jotka jäsentelevät historiaa

Jokaisella historian viestillä on rooli, joka kertoo mallille, kuka puhuu. system-rooli määrittelee yleisen käyttäytymisen: se sijoitetaan ensimmäiseksi, ja se vaikuttaa kaikkiin seuraaviin vastauksiin.

{"role": "system", "content": "You are an expert assistant in French cuisine. Always respond in French using precise culinary terms."}

user-rooli sisältää käyttäjän viestit, eli lähetetyn kysymyksen tai ohjeen:

{"role": "user", "content": "How do I make perfect puff pastry?"}

Lopuksi assistant-rooli sisältää mallin aiemmat vastaukset. Nämä ovat viestejä, jotka syötät takaisin historiaan johdonmukaisuuden säilyttämiseksi. Niiden unohtaminen vastaa keskustelun muistin pyyhkimistä jokaisella kierroksella.

{"role": "assistant", "content": "To make perfect puff pastry, start by..."}

Täydellinen keskustelu kierros kerrallaan

Alla oleva koodi soveltaa tätä periaatetta: funktio lisää kysymyksen historiaan, kutsuu mallia ja tallentaa vastauksen oikeaan paikkaan ennen sen palauttamista.

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

historique = [
    {
        "role": "system",
        "content": "You are a teaching assistant specialized in Python programming. Respond concisely and include code examples."
    }
]

def poser_question(question: str) -> str:
    """Sends a question and updates the history."""
    historique.append({"role": "user", "content": question})

    response = client.chat.complete(
        model="mistral-small-latest",
        messages=historique,
    )

    reponse_texte = response.choices[0].message.content
    historique.append({"role": "assistant", "content": reponse_texte})

    return reponse_texte

# Turn 1
print("Q: What is a decorator in Python?")
r1 = poser_question("What is a decorator in Python?")
print(f"R: {r1}\n")

# Turn 2 — the model knows the context
print("Q: Can you show me a concrete example?")
r2 = poser_question("Can you show me a concrete example?")
print(f"R: {r2}\n")

# Turn 3 — implicit reference to previous turns
print("Q: How do I use it with arguments?")
r3 = poser_question("How do I use it with arguments?")
print(f"R: {r3}\n")

Kolmannella kierroksella kysymyksessä ei enää mainita sanaa “decorator”. Malli ymmärtää silti, että “use it” viittaa tähän käsitteeseen, koska se lukee koko vaihdon uudelleen. Poista rivi, joka lisää vastauksen historiaan, ja suorita koodi uudelleen: malli kysyy, mistä puhut. Tämä on nopein todiste siitä, että jatkuvuus ei tule mallista, vaan koodistasi.

Historian pitämisen estäminen liian kalliiksi

Jokaisella mallilla on rajoitettu konteksti-ikkuna, joka mitataan tokeneina. Historian kasvaessa jokainen pyyntö tulee kalliimmaksi, koska kaikki lähetetään uudelleen. Kolmenkymmenen kierroksen keskustelu laskuttaa käytännössä alkunsa kolmekymmentä kertaa.

Yksinkertaisin workaround on typistää historia pitäen vain system-viestin ja viimeiset N vaihtoa:

MAX_MESSAGES = 20

def ajouter_message(historique, role, content):
    historique.append({"role": role, "content": content})

    # Keep the system message + the last N messages
    if len(historique) > MAX_MESSAGES + 1:  # +1 for the system message
        system_msg = historique[0]
        historique = [system_msg] + historique[-(MAX_MESSAGES):]

    return historique

Tämä lähestymistapa on halpa, mutta brutaali: toisella kierroksella käyttäjän määrittämä tieto katoaa ikuisesti. Kun keskustelu on pitkä ja vanhempi konteksti on tärkeä – kuten vaatimusmäärittelyhaastattelussa – tiivistä se sen sijaan, että heittäisit sen pois:

def resumer_historique(client, historique):
    """Summarizes old messages to free up context."""
    texte_complet = "\n".join(
        f"{m['role']}: {m['content']}"
        for m in historique[1:-4]  # Exclude system and the last 4 messages
    )

    resume = client.chat.complete(
        model="mistral-small-latest",
        messages=[
            {"role": "user", "content": f"Summarize this conversation in 3-4 sentences:\n{texte_complet}"}
        ]
    )

    return [
        historique[0],  # System message
        {"role": "assistant", "content": f"[Conversation Summary] {resume.choices[0].message.content}"},
    ] + historique[-4:]  # The last 4 messages

Ajatus on puristaa kaukainen menneisyys muutamaan lauseeseen pitäen viimeiset neljä viestiä koskemattomina, sillä ne kantavat välitöntä kontekstia. Tiivistelmä kuluttaa yhden lisäkutsun, mutta se maksaa itsensä takaisin moninkertaisesti myöhemmillä kierroksilla.

System-viestin laatiminen

System-viesti on tämän oppitunnin tehokkain ja alikäytetyin työkalu. Monet tyytyvät yleiseen “Olet avulias assistentti” -viestiin, joka ei lisää mitään. Hyvä system-viesti ilmoittaa varmennettavia rajoitteita:

system_prompt = """You are a Corsen AI technical assistant.

Rules:
- Respond in French with a professional tone
- Provide code examples when relevant
- If you are unsure, say so rather than making things up
- Limit your responses to 200 words unless asked otherwise

Context: The user is working on a Python 3.12 project with FastAPI."""

Jokainen rivi tuottaa mitattavan vaikutuksen: pituusrajoitus hillitsee kustannuksia, kehotus myöntää epävarmuus vähentää hallusinaatioita, ja pinon mainitseminen välttää yleiset, aiheesta poikkeavat vastaukset. Tiivis, tarkka ja yksiselitteinen – siinä kaikki, mitä sen tarvitsee olla.

Keskeiset asiat

  • Koko historia lähetetään uudelleen jokaisella pyynnöllä – malli ei “muista” mitään
  • Kolme roolia (system, user, assistant) jäsentelevät keskustelua
  • system-viesti määrittelee yleisen käyttäytymisen – sijoita se aina ensimmäiseksi
  • Hallitse kontekstin kokoa typistämällä tai tiivistämällä vanhoja viestejä
  • Mitä pidempi historia, sitä enemmän jokainen pyyntö maksaa tokeneina