Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Osvedčené postupy a zhrnutie

Lekcia 12 z 12 Aktualizované 2. novembra 2026 Vývojár
Na tejto strane
  1. Zhrnutie kurzu
  2. Výber tvojho prístupu
  3. Desať zlatých pravidiel
  4. Tri drahé úskalia
  5. Čo monitorovať
  6. Ďalšie smerovanie
  7. Komplexné pipeline
  8. Kľúčové poznatky
  9. Otestuj si svoje vedomosti

Zhrnutie kurzu

Preskúmal si celý rad mechanizmov štruktúrovaného výstupu, ktoré ponúka Mistral API. Táto záverečná lekcia spája to, čo robí rozdiel v každodennej práci: ako si vybrať medzi dvoma prístupmi, ktoré nastavenia sú neprijateľné na ignorovanie, aké sú najčastejšie úskalia a čo monitorovať, keď už si v produkcii.

Výber tvojho prístupu

Na rozhodnutie stačia štyri otázky, a to v tomto poradí. Máš definovanú schému výstupu? Ak je odpoveď nie, drž sa režimu JSON: si vo fáze prieskumu alebo prototypovania a uzamykanie dátového modelu by bolo predčasné. Ak áno, prejdime k ďalšej otázke.

Pracuješ v Pythone alebo TypeScripte? Ak áno, vlastné štruktúrované výstupy (Custom Structured Outputs) sú pre teba pripravené vďaka knižniciam Pydantic alebo Zod. Ak nie, režim JSON s manuálnou validáciou zostáva tvojou cestou.

Si v produkcii? Ak áno, vlastné štruktúrované výstupy sú povinné, vždy. Inak je režim JSON viac než dostatočný na prototypovanie.

Mení sa schéma často? Stále sa vyvíjajúca schéma robí režim JSON spočiatku praktickejším, kým sa požiadavky nestabilizujú; pevná schéma hovorí pre vlastné štruktúrované výstupy a spoľahlivosť, ktorú prinášajú.

Desať zlatých pravidiel

Prvých päť sa týka spôsobu, akým píšeš svoje volania. V produkcii vždy nastav temperature=0: variabilita teploty je nepriateľom spoľahlivosti a extrakcia nepotrebuje kreativitu.

# Produkcia: deterministické
response = client.chat.parse(
    model="mistral-large-latest",
    messages=messages,
    response_format=MonSchema,
    temperature=0  # Reprodukovateľnosť
)

Vždy kontroluj finish_reason. Toto je jediný indikátor, ktorý ťa upozorní na orezanú odpoveď skôr, než sa ju pokúsiš použiť.

if response.choices[0].finish_reason != "stop":
    # Odpoveď je orezaná — zvýš max_tokens
    raise ValueError(f"Neúplná odpoveď: {response.choices[0].finish_reason}")

V režime JSON vždy inštruuj model v promte. Parameter garantuje syntax, nie štruktúru: je na tebe, aby si definoval kľúče a ich typy.

# Režim JSON — prompt MUSÍ popisovať štruktúru
messages = [
    {
        "role": "system",
        "content": "Vráť JSON s kľúčmi: name (string), age (number), city (string)."
    },
    {"role": "user", "content": text}
]

Vo vlastnom režime dokumentuj svoje polia. Presný popis má väčšiu váhu než dlhý prompt a cestuje so schémou v oboch jazykoch.

class Product(BaseModel):
    name: str = Field(description="Obchodný názov produktu")
    price: float = Field(description="Cena v EUR bez DPH, zaokrúhlená na 2 desatinné miesta")
const ProductSchema = z.object({
  name: z.string().describe("Obchodný názov produktu"),
  price: z.number().describe("Cena v EUR bez DPH, zaokrúhlená na 2 desatinné miesta"),
});

Oddeľ kontext od obsahu. Inštrukcie patria do systémovej správy, dáta na spracovanie do používateľskej správy – nikdy nie naopak, inak si model pomýli inštrukciu so zdrojovým textom.

messages = [
    {"role": "system", "content": "Si extraktor dát. [Inštrukcie formátu]"},
    {"role": "user", "content": "[Text na spracovanie – ŽIADNE inštrukcie formátu tu]"}
]

Ďalšie dve pravidlá sa týkajú tvojej bezpečnostnej siete. Implementuj mechanizmus opakovania (retry): nikdy neurob jedno volanie bez zálohy; opakovanie s spätnou väzbou je minimálny vzor v produkcii. A validuj nad rámec schémy, keďže schéma garantuje štruktúru, zatiaľ čo sémantická validácia – hranice, konzistencia, obchodná logika – zostáva tvojou zodpovednosťou.

Posledné tri súvisia s orchestráciou. Vyber správny model pre správny prípad použitia: mistral-large-latest pre komplexné úlohy a extrakciu viacerých polí, mistral-small-latest pre jednoduchú klasifikáciu a základnú extrakciu, ministral-8b-latest pre vysokú frekvenciu a minimálnu latenciu. Loguj každé volanie v produkcii, zaznamenávaj použitý model, trvanie, finish_reason a výsledok: bez logov si slepý. Nakoniec, neoptimalizuj prompt príliš skoro – začni jednoducho, meraj, iteruj; predčasná optimalizácia promptu je častou pascou, zatiaľ čo schéma a validácia sú skutočnými pákami.

Tri drahé úskalia

Prvým je hodnota max_tokens, ktorá je príliš nízka. JSON bude pri dlhých odpovediach orezaný a chyba sa prejaví až na veľkých dokumentoch, často až po nasadení do prevádzky.

# Nebezpečné — JSON bude orezaný pri dlhých odpovediach
response = client.chat.parse(
    model="mistral-large-latest",
    messages=messages,
    response_format=MonSchema,
    max_tokens=128  # Príliš nízke pre komplexnú schému
)

Nastav max_tokens na základe očakávanej veľkosti tvojho výstupu: faktúra s 20 riadkami vyžaduje viac tokenov než jednoduchá klasifikácia.

Druhým je nenulová teplota, ktorá robí tvoje výsledky nereprodukovateľnými bez akéhokoľvek zisku pri úlohe extrakcie.

# Nebezpečné v produkcii — nereprodukovateľné výsledky
response = client.chat.parse(
    ...,
    temperature=0.7  # Zbytočná variácia pre extrakciu
)

Tretím je reflex používať jediný model. Nepoužívaj mistral-large na všetko: binárna klasifikácia nevyžaduje najvýkonnejší model a ministral-8b urobí túto prácu 5-krát rýchlejšie za nižšie náklady.

Čo monitorovať

Štyri metriky hovoria o zdraví tvojho pipeline. Miera úspešnosti meria percento volaní, ktoré vrátia platný objekt na prvý pokus; miera opakovania (retry rate) percento volaní, ktoré potrebovali druhú šancu. Latencia P50/P95 poskytuje medián času odpovede a 95. percentil, čo je vypovedajúcejšie než priemer. Náklady na extrakciu, vyjadrené v spotrebovaných tokenoch na volanie, držia faktúru pod kontrolou.

Pokiaľ ide o tieto metriky, niekoľko prahových hodnôt pre alerty sa osvedčilo: miera úspešnosti pod 95 % si vyžaduje žltý alert, pod 85 % červený alert; latencia P95 väčšia ako 10 s si zasluhuje vyšetrovanie; a otvorený istič (circuit breaker) si vyžaduje okamžitý alert.

Ďalšie smerovanie

Štyri smery prirodzene rozširujú tento kurz. Volanie funkcií (Function calling) využíva štruktúrované výstupy na napájanie volaní funkcií v agentovi. Streamovanie ti umožňuje prijímať štruktúrovaný výstup postupne, čo je dôležité pri dlhých odpovediach. Jemné ladenie (Fine-tuning) upravuje model Mistral na zlepšenie kvality extrakcie na tvojich špecifických dátach. Evaluácia napokon spočíva v nastavení automatického rámca založeného na zlatej množine dát (golden dataset) a metrikách – to je to, čo ti povie, či zmena promptu skutočne veci zlepšila.

Komplexné pipeline

Nasledujúci kód spája postupy z kurzu do jedného toku: schéma popísaná pole po poli, validátor, ktorý odmieta skóre mimo rozsahu, model prispôsobený úlohe, temperature=0, explicitné max_tokens, overenie finish_reason a logovanie pre oba možné výsledky.

from mistralai.client import Mistral
from pydantic import BaseModel, Field, field_validator
import logging
import time

logger = logging.getLogger("pipeline")

class CustomerFeedback(BaseModel):
    sentiment: str = Field(description="pozitívne, negatívne alebo neutrálne")
    score: float = Field(description="Skóre medzi -1.0 a 1.0")
    category: str = Field(description="produkt, služba, doručenie, cena alebo iné")
    action_required: bool = Field(description="True, ak je vyžadovaná akcia")
    summary: str = Field(description="Zhrnutie v jednej vete")

    @field_validator("score")
    @classmethod
    def score_in_range(cls, v):
        if not -1.0 <= v <= 1.0:
            raise ValueError(f"Skóre mimo rozsahu: {v}")
        return v

def analyze_feedback(client: Mistral, text: str) -> CustomerFeedback:
    start = time.time()
    try:
        response = client.chat.parse(
            model="mistral-small-latest",
            messages=[
                {"role": "system", "content": "Analyzuj spätnú väzbu od zákazníkov."},
                {"role": "user", "content": text}
            ],
            response_format=CustomerFeedback,
            temperature=0,
            max_tokens=256
        )
        assert response.choices[0].finish_reason == "stop"
        result = response.choices[0].message.parsed
        logger.info(f"OK za {time.time()-start:.2f}s — {result.sentiment} ({result.score:+.1f})")
        return result
    except Exception as e:
        logger.error(f"CHYBA za {time.time()-start:.2f}s — {e}")
        raise

Asi tridsať riadkov a máš komponent, ktorý môžeš bezpečne zapojiť priamo do systému: presne to umožňujú štruktúrované výstupy.

Kľúčové poznatky

  • V produkcii používaj vlastné štruktúrované výstupy, režim JSON na prototypovanie
  • temperature=0, kontrola finish_reason a opakovanie (retry) sú neprijateľné na ignorovanie
  • Vyber model na základe zložitosti úlohy a rozpočtu
  • Monitoruj mieru úspešnosti, latenciu a náklady
  • Začni jednoducho, meraj a až potom optimalizuj

Otestuj si svoje vedomosti

Režim JSON, schémy, opakovanie: máš štruktúrovaný výstup pod kontrolou?

1. Režim JSON vs. vlastné štruktúrované výstupy: aký je rozdiel?

Odpoveď: Režim JSON garantuje syntakticky platný JSON; vlastné štruktúrované výstupy navyše presadzujú tvoju presnú schému – polia, typy, štruktúra: kompletná zmluva.

2. Čo poskytuje client.chat.parse() s Pydantic?

Odpoveď: Celý cyklus: schéma Pydantic deklaruje štruktúru, API obmedzuje generovanie a odpoveď prichádza už validovaná a typovaná ako Python objekt – žiadne manuálne parsovanie.

3. A čo na strane TypeScriptu?

Odpoveď: Rovnaké pohodlie so Zod: schéma Zod definuje a validuje štruktúru – jediný zdroj pravdy pre generovanie aj typovanie.

4. Čo robiť, keď výstup nerešpektuje schému?

Odpoveď: Systematicky validuj a naplánuj stratégiu opakovania: požiadaj znova s chybou v kontexte, alebo graceful degrade – nikdy slepo never výstupu.

5. Kedy je štruktúrovaný výstup nevyhnutný?

Odpoveď: Hneď, ako program konzumuje odpoveď bez ľudskej kontroly: extrakcia, integrácie, pipeline – formát prestáva byť zdvorilosťou, stáva sa rozhraním.

Deklarovaná schéma, obmedzené generovanie, validácia výstupu: triáda, ktorá robí AI zapojiteľnou do reálneho softvéru.