Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Sekvence zaustavljanja

Lekcija 7 od 16 Ažurirano 2. studenoga 2026. Programer
Na ovoj stranici
  1. Zaustavljanje generiranja u pravom trenutku
  2. Kako funkcionira parametar stop
  3. Tri tipična slučaja upotrebe
  4. Kombiniranje sekvenci zaustavljanja i streaminga
  5. Ograničenja mehanizma
  6. Skupe pogreške
  7. Potpuni primjer: kontrolirano pitanje i odgovor
  8. Ključne točke

Zaustavljanje generiranja u pravom trenutku

Zadano, model prestaje iz samo dva razloga: sam procijeni da je završio odgovor i emitira svoj završni token, ili dosegne strop max_tokens. Ta dva kriterija ne pokrivaju sve slučajeve upotrebe. Ponekad želiš da se generiranje zaustavi točno na točki koju znaš samo ti – neposredno prije sljedećeg odjeljka dokumenta, odmah nakon zatvaranja JSON bloka ili čim model počne dodavati komentare koji ti nisu potrebni.

Sekvence zaustavljanja dodaju taj treći kriterij: čim model proizvede tekstualni niz koji si odredio/la, generiranje se trenutno prekida. Zamisli to kao precizan alat za rezanje, prirodnu nadopunu uputa za formatiranje u tvojoj sistemskoj poruci, koje model dobro slijedi, ali ne uvijek savršeno.

Kako funkcionira parametar stop

Parametar prihvaća popis nizova (stringova). Prvi koji se pojavi u izlazu prekida generiranje:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Navedi 10 najvećih gradova u Francuskoj."}
    ],
    stop=["6."]  # Zaustavi nakon prvih 5
)

print(response.choices[0].message.content)
# 1. Paris
# 2. Marseille
# 3. Lyon
# 4. Toulouse
# 5. Nice

U ovom primjeru ističu se dva ponašanja. Sekvenca zaustavljanja nije uključena u odgovor: dobivaš tekst koji joj prethodi, bez potrebe za dodatnim čišćenjem s tvoje strane. A finish_reason iznosi "stop", baš kao i kod prirodnog zaustavljanja – API ne pravi razliku između ta dva slučaja, pa je na tebi da zapamtiš što si zatražio/la.

Tri tipična slučaja upotrebe

Prvi slučaj rješava problem „brbljavog“ modela. Pitaš za glavni grad, a on ti da glavni grad plus tri rečenice objašnjenja koje tvoje sučelje nije očekivalo. Sistemska poruka postavlja namjeru; sekvence zaustavljanja je nameću:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Odgovori samo imenom grada, ništa više."
        },
        {
            "role": "user",
            "content": "Koji je glavni grad Italije?"
        }
    ],
    stop=["\n", ".", "Objašnjenje"]  # Zaustavi na prvom novom retku ili točki
)

print(response.choices[0].message.content.strip())
# Rim

Drugi slučaj pokriva generiranje dokumenata odjeljak po odjeljak, kada želiš zadržati kontrolu između dijelova umjesto da dopustiš modelu da proizvede cijelo izvješće odjednom. Zaustavljaš se na razdjelnicima koji signaliziraju što slijedi:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Napiši odjeljak Uvod izvješća."
        },
        {
            "role": "user",
            "content": "Tema: utjecaj umjetne inteligencije na zapošljavanje u Europi."
        }
    ],
    stop=["## ", "---", "Zaključak"]  # Zaustavi prije sljedećeg odjeljka
)

Treći slučaj je u praksi najisplativiji: izvlačenje upotrebljivog JSON-a bez koraka čišćenja. Modeli imaju tendenciju omotavati svoj izlaz objašnjavajućim tekstom, što ruši json.loads(); rezanje na dvostrukom novom retku ili trostrukim obrnutim navodnicima eliminira problem u samom izvoru.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Odgovori isključivo valjanim JSON-om."
        },
        {
            "role": "user",
            "content": "Daj mi podatke za Pariz: populacija, država, vremenska zona."
        }
    ],
    stop=["\n\n", "```"]  # Zaustavi nakon JSON bloka
)

Kombiniranje sekvenci zaustavljanja i streaminga

Ništa te ne sprječava da kombiniraš oba mehanizma: stream se zaustavlja čim se jedna od sekvenci zaustavljanja otkrije u generiranom tekstu, a chunkovi koje si već primio/la ostaju valjani.

stream = client.chat.stream(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Ispričaj kratku priču."}
    ],
    stop=["Kraj.", "KONAC", "---"]
)

full_text = ""
for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        full_text += content
        print(content, end="", flush=True)

print(f"\n\nTekst: {len(full_text)} znakova")

Ograničenja mehanizma

Četiri ograničenja upravljaju korištenjem parametra stop. Možeš navesti najviše četiri sekvence po zahtjevu, što te prisiljava da odabereš one najdiskriminativnije umjesto da ih gomilaš. One razlikuju velika i mala slova: "kraj" nikada neće uhvatiti "Kraj", pa moraš uzeti u obzir varijante koje su bitne. Sekvenca nikada nije uključena u odgovor, što je važno ako tvoj očekivani format završava tim razdjelnikom. Konačno, detekcija se događa token po token: ako tvoja sekvenca padne usred tokena, ona prolazi nezapaženo – još jedan razlog da odabereš razdjelnike od više znakova umjesto jednog simbola.

Skupe pogreške

Najčešća pogreška je sekvenca koja je prekratka, što izaziva prerano zaustavljanje. Sama točka zaustavlja generiranje kod prve rečenice na koju naiđe, čak i usred kratice; simetrična pogreška je odabir niza koji model nikada neće proizvesti, u kojem slučaju parametar ne radi ništa, a ti pogrešno vjeruješ da si postavio/la zaštitnu ogradu.

# LOŠE: sekvenca prekratka, prerano zaustavljanje
stop=["."]  # Zaustavlja se kod svake rečenice!

# DOBRO: sekvenca specifična za kontekst
stop=[".\n\n"]  # Zaustavlja nakon točke praćene dvostrukim novim retkom

# LOŠE: sekvenca koju model nikada neće proizvesti
stop=["XYZZY"]  # Nema učinka

# DOBRO: realistična sekvenca temeljena na očekivanom formatu
stop=["Sljedeće pitanje:", "---"]

Pravilo koje proizlazi iz ova četiri retka jednostavno je: dobra sekvenca zaustavljanja proizlazi iz formata koji si zatražio/la od modela, nikada iz tvoje mašte.

Potpuni primjer: kontrolirano pitanje i odgovor

Sastavimo ove elemente u kratku funkciju za pitanja i odgovore, gdje niska temperatura osigurava činjeničnu stabilnost, max_tokens postavlja sigurnosni strop, a sekvence zaustavljanja odsijecaju komentare koje bi model mogao biti u iskušenju dodati nakon svog odgovora:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

def ask_single_question(question: str) -> str:
    """Postavi pitanje i dobij sažet odgovor bez brbljanja."""
    response = client.chat.complete(
        model="mistral-large-latest",
        messages=[
            {
                "role": "system",
                "content": "Odgovori u jednoj rečenici, izravno i činjenično."
            },
            {"role": "user", "content": question}
        ],
        max_tokens=100,
        stop=["\n\n", "Napomena:", "Bilješka:"],
        temperature=0.1
    )

    return response.choices[0].message.content.strip()

# Test
questions = [
    "Kolika je brzina svjetlosti?",
    "Tko je izumio telefon?",
    "Koliko planeta ima u Sunčevom sustavu?"
]

for q in questions:
    print(f"P: {q}")
    print(f"O: {ask_single_question(q)}\n")

Pokreni ovu skriptu jednom kakva jest, a zatim drugi put nakon uklanjanja parametra stop: usporedba dva izlaza točno ti pokazuje što te tri sekvence filtriraju.

Ključne točke

  • Sekvence zaustavljanja prekidaju generiranje kada model proizvede specifičan tekst
  • Maksimalno 4 sekvence po zahtjevu; razlikuju velika i mala slova
  • Sekvenca zaustavljanja nikada nije uključena u odgovor
  • Koristi sekvence dovoljno specifične kako bi izbjegao/la prerano zaustavljanje
  • Kompatibilno sa streamingom i svim ostalim parametrima