Премини към основното съдържание
Български— Изберете език
Меню

Многократни разговори на Python

Урок 7 от 14 Обновен 2 ноември 2026 г. Програмист
На тази страница
  1. Памет, която всъщност не е памет
  2. Трите роли, които структурират историята
  3. Пълен разговор, ход по ход
  4. Предпазване на историята от прекомерни разходи
  5. Изграждане на системното съобщение
  6. Ключови изводи

Памет, която всъщност не е памет

За разлика от търсачката, езиковият модел следва нишката на разговора: той взема предвид казаното дотук и изгражда отговорите си върху този натрупан контекст. Това се нарича многократен разговор и именно то прави възможни елиптични въпроси като „а с аргументи?“.

Технически погледнато обаче моделът не помни нищо. Между отделните заявки на сървъра не се запазва никакво състояние. При всяка заявка трябва да изпратите отново цялата история, която моделът прочита от начало до край, преди да отговори. Този механизъм обяснява две неща, към които ще се върнем по-късно: Вие носите пълната отговорност за управлението на паметта и всеки следващ ход в разговора струва повече от предишния.

Трите роли, които структурират историята

Всяко съобщение в историята има роля, която указва на модела кой говори. Ролята system дефинира общото поведение: поставена първа, тя влияе върху всеки следващ отговор.

{"role": "system", "content": "You are an expert assistant in French cuisine. Always respond in French using precise culinary terms."}

Ролята user съдържа съобщенията на потребителя – тоест въпроса или инструкцията, която изпращате:

{"role": "user", "content": "How do I make perfect puff pastry?"}

Накрая, ролята assistant съдържа предишните отговори на модела. Това са съобщенията, които reinject-вате в историята, за да запазите последователността. Пропускането им е равносилно на изтриване на паметта на разговора при всеки ход.

{"role": "assistant", "content": "To make perfect puff pastry, start by..."}

Пълен разговор, ход по ход

Кодът по-долу прилага този принцип: функция, която добавя въпроса към историята, извиква модела, след което съхранява отговора на правилното място, преди да го върне.

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

historique = [
    {
        "role": "system",
        "content": "You are a teaching assistant specialized in Python programming. Respond concisely and include code examples."
    }
]

def poser_question(question: str) -> str:
    """Sends a question and updates the history."""
    historique.append({"role": "user", "content": question})

    response = client.chat.complete(
        model="mistral-small-latest",
        messages=historique,
    )

    reponse_texte = response.choices[0].message.content
    historique.append({"role": "assistant", "content": reponse_texte})

    return reponse_texte

# Turn 1
print("Q: What is a decorator in Python?")
r1 = poser_question("What is a decorator in Python?")
print(f"R: {r1}\n")

# Turn 2 — the model knows the context
print("Q: Can you show me a concrete example?")
r2 = poser_question("Can you show me a concrete example?")
print(f"R: {r2}\n")

# Turn 3 — implicit reference to previous turns
print("Q: How do I use it with arguments?")
r3 = poser_question("How do I use it with arguments?")
print(f"R: {r3}\n")

До третия ход въпросът вече не споменава думата „декоратор“. Моделът все пак разбира, че „използването му“ се отнася до тази концепция, защото препрочита целия обмен. Премахнете реда, който добавя отговора към историята, и стартирайте кода отново: моделът ще попита за какво става въпрос. Това е най-бързото доказателство, че непрекъснатостта не идва от модела, а от Вашия код.

Предпазване на историята от прекомерни разходи

Всеки модел има ограничено прозорче за контекст, измервано в токени. С нарастването на историята всяка заявка става по-скъпа, защото всичко се предава отново. Разговор от тридесет хода фактически таксува началото си тридесет пъти.

Най-простото решение е съкращаване, като се запази системното съобщение и последните N размени:

MAX_MESSAGES = 20

def ajouter_message(historique, role, content):
    historique.append({"role": role, "content": content})

    # Keep the system message + the last N messages
    if len(historique) > MAX_MESSAGES + 1:  # +1 for the system message
        system_msg = historique[0]
        historique = [system_msg] + historique[-(MAX_MESSAGES):]

    return historique

Този подход е евтин, но е брутален: онова, което потребителят е посочил във втория ход, изчезва завинаги. Когато разговорът е дълъг и този по-стар контекст има значение – например при интервю за събиране на изисквания – обобщете го, вместо да го изхвърляте:

def resumer_historique(client, historique):
    """Summarizes old messages to free up context."""
    texte_complet = "\n".join(
        f"{m['role']}: {m['content']}"
        for m in historique[1:-4]  # Exclude system and the last 4 messages
    )

    resume = client.chat.complete(
        model="mistral-small-latest",
        messages=[
            {"role": "user", "content": f"Summarize this conversation in 3-4 sentences:\n{texte_complet}"}
        ]
    )

    return [
        historique[0],  # System message
        {"role": "assistant", "content": f"[Conversation Summary] {resume.choices[0].message.content}"},
    ] + historique[-4:]  # The last 4 messages

Идеята е да компресирате далечното минало в няколко изречения, като същевременно запазите последните четири съобщения непокътнати, тъй като те носят непосредствения контекст. Обобщението консумира една допълнителна заявка, но се изплаща многократно в следващите ходове.

Изграждане на системното съобщение

Системното съобщение е най-мощният и най-недоизползван инструмент в този урок. Мнозина се задоволяват с общото „Вие сте полезен асистент“, което не добавя нищо. Доброто системно съобщение формулира проверяеми ограничения:

system_prompt = """You are a Corsen AI technical assistant.

Rules:
- Respond in French with a professional tone
- Provide code examples when relevant
- If you are unsure, say so rather than making things up
- Limit your responses to 200 words unless asked otherwise

Context: The user is working on a Python 3.12 project with FastAPI."""

Всеки ред тук произвежда измерим ефект: ограничението за дължина съдържа разходите, покана да се признае несигурност намалява халюцинациите, а споменаването на стека избягва общи и извън темата отговори. Кратко, точно и недвусмислено – това е всичко, от което се нуждае.

Ключови изводи

  • Цялата история се изпраща отново с всяка заявка – моделът не „помни“ нищо
  • Три роли (system, user, assistant) структурират разговора
  • Съобщението system дефинира общото поведение – винаги го поставяйте първо
  • Управлявайте размера на контекста, като съкращавате или обобщавате стари съобщения
  • Колкото по-дълга е историята, толкова повече токени струва всяка заявка