Salt la conținutul principal
Română— Alege o limbă
Meniu

Conversații multi-tour în Python

Lecția 7 din 14 Actualizată 2 noiembrie 2026 Dezvoltator
Pe această pagină
  1. O memorie care nu este chiar memorie
  2. Cele trei roluri care structurează istoricul
  3. O conversație completă, tur cu tur
  4. Evitarea costurilor prohibitive ale istoricului
  5. Elaborarea mesajului de sistem
  6. Puncte cheie

O memorie care nu este chiar memorie

Spre deosebire de un motor de căutare, un model lingvistic urmărește firul unei conversații: ia în considerare ce s-a spus anterior și își construiește răspunsurile pe baza acestui context acumulat. Aceasta se numește o conversație multi-tour, iar acest mecanism face posibile întrebările eliptice de genul „și cu argumente?“.

Totuși, din punct de vedere tehnic, modelul nu reține nimic. Nicio stare nu este păstrată pe server între apeluri. La fiecare solicitare, trebuie să retrimiteți istoricul complet, pe care modelul îl citește de la început până la sfârșit înainte de a răspunde. Acest mecanism explică două aspecte pe care le vom relua mai târziu: sunteți singurul responsabil de gestionarea memoriei, iar fiecare tur de conversație costă mai mult decât cel precedent.

Cele trei roluri care structurează istoricul

Fiecare mesaj din istoric are un rol care indică modelului cine vorbește. Rolul system definește comportamentul global: plasat primul, acesta influențează fiecare răspuns ulterior.

{"role": "system", "content": "You are an expert assistant in French cuisine. Always respond in French using precise culinary terms."}

Rolul user conține mesajele utilizatorului, adică întrebarea sau instrucțiunea trimisă:

{"role": "user", "content": "How do I make perfect puff pastry?"}

În final, rolul assistant conține răspunsurile anterioare ale modelului. Acestea sunt mesajele pe care le reinjectați în istoric pentru a menține coerența. Omiterea lor echivalează cu ștergerea memoriei conversației la fiecare tur.

{"role": "assistant", "content": "To make perfect puff pastry, start by..."}

O conversație completă, tur cu tur

Codul de mai jos aplică acest principiu: o funcție care adaugă întrebarea la istoric, apelează modelul, apoi stochează răspunsul la locul potrivit înainte de a-l returna.

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

historique = [
    {
        "role": "system",
        "content": "You are a teaching assistant specialized in Python programming. Respond concisely and include code examples."
    }
]

def poser_question(question: str) -> str:
    """Sends a question and updates the history."""
    historique.append({"role": "user", "content": question})

    response = client.chat.complete(
        model="mistral-small-latest",
        messages=historique,
    )

    reponse_texte = response.choices[0].message.content
    historique.append({"role": "assistant", "content": reponse_texte})

    return reponse_texte

# Turn 1
print("Q: What is a decorator in Python?")
r1 = poser_question("What is a decorator in Python?")
print(f"R: {r1}\n")

# Turn 2 — the model knows the context
print("Q: Can you show me a concrete example?")
r2 = poser_question("Can you show me a concrete example?")
print(f"R: {r2}\n")

# Turn 3 — implicit reference to previous turns
print("Q: How do I use it with arguments?")
r3 = poser_question("How do I use it with arguments?")
print(f"R: {r3}\n")

La al treilea tur, întrebarea nu mai menționează cuvântul „decorator“. Modelul înțelege totuși că „a-l folosi“ se referă la acel concept, deoarece recitește întregul schimb. Eliminați linia care adaugă răspunsul la istoric și rulați din nou codul: modelul va întreba despre ce vorbiți. Aceasta este cea mai rapidă dovadă că continuitatea nu provine de la model, ci de la codul dumneavoastră.

Evitarea costurilor prohibitive ale istoricului

Fiecare model are o fereastră de context limitată, măsurată în tokeni. Pe măsură ce istoricul crește, fiecare solicitare devine mai costisitoare, deoarece totul este retransmis. O conversație de treizeci de tururi facturează efectiv începutul său de treizeci de ori.

Soluția cea mai simplă este trunchierea, păstrând mesajul de sistem și ultimele N schimburi:

MAX_MESSAGES = 20

def ajouter_message(historique, role, content):
    historique.append({"role": role, "content": content})

    # Keep the system message + the last N messages
    if len(historique) > MAX_MESSAGES + 1:  # +1 for the system message
        system_msg = historique[0]
        historique = [system_msg] + historique[-(MAX_MESSAGES):]

    return historique

Această abordare este ieftină, dar brutală: ceea ce utilizatorul a specificat în al doilea tur dispare pentru totdeauna. Atunci când conversația este lungă și acel context vechi contează – de exemplu, un interviu de colectare a cerințelor – este preferabil să îl rezumați în loc să îl aruncați:

def resumer_historique(client, historique):
    """Summarizes old messages to free up context."""
    texte_complet = "\n".join(
        f"{m['role']}: {m['content']}"
        for m in historique[1:-4]  # Exclude system and the last 4 messages
    )

    resume = client.chat.complete(
        model="mistral-small-latest",
        messages=[
            {"role": "user", "content": f"Summarize this conversation in 3-4 sentences:\n{texte_complet}"}
        ]
    )

    return [
        historique[0],  # System message
        {"role": "assistant", "content": f"[Conversation Summary] {resume.choices[0].message.content}"},
    ] + historique[-4:]  # The last 4 messages

Ideea este de a comprima trecutul îndepărtat în câteva propoziții, păstrând în același timp ultimele patru mesaje intacte, deoarece acestea poartă contextul imediat. Rezumatul consumă un apel suplimentar, dar se amortizează de multe ori în tururile ulterioare.

Elaborarea mesajului de sistem

Mesajul de sistem este cel mai puternic și cel mai subutilizat instrument din această lecție. Mulți se mulțumesc cu un generic „Ești un asistent util“, care nu adaugă nimic. Un mesaj de sistem bun enunță constrângeri verificabile:

system_prompt = """You are a Corsen AI technical assistant.

Rules:
- Respond in French with a professional tone
- Provide code examples when relevant
- If you are unsure, say so rather than making things up
- Limit your responses to 200 words unless asked otherwise

Context: The user is working on a Python 3.12 project with FastAPI."""

Fiecare linie de aici produce un efect măsurabil: limita de lungime controlează costurile, invitația de a recunoaște incertitudinea reduce halucinațiile, iar menționarea stivei tehnologice evită răspunsurile generice și irelevante. Concis, precis, fără ambiguități – asta este tot ce trebuie să fie.

Puncte cheie

  • Istoricul complet este retrimis la fiecare solicitare – modelul nu „își amintește“ nimic
  • Trei roluri (system, user, assistant) structurează conversația
  • Mesajul system definește comportamentul global – plasați-l întotdeauna primul
  • Gestionați dimensiunea contextului prin trunchierea sau rezumarea mesajelor vechi
  • Cu cât istoricul este mai lung, cu atât fiecare solicitare costă mai mulți tokeni