Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Osvedčené postupy a ďalšie kroky

Lekcia 14 z 14 Aktualizované 2. novembra 2026 Vývojár
Na tejto strane
  1. Zhrnutie kurzu
  2. Zabezpečenie tvojich API kľúčov
  3. Spracovanie chýb
  4. Život s limitmi rýchlosti
  5. Kontrola nákladov
  6. Monitorovanie diania
  7. Čo ďalej
  8. Kľúčové poznatky
  9. Otestuj si svoje vedomosti

Zhrnutie kurzu

Prešiel si všetky základy práce s Mistral API: vytvorenie účtu, správu kľúčov, výber tarify, inštaláciu SDK pre Python a TypeScript, streamovanie, viacťahové konverzácie, migráciu z V1 na V2 a nasadenie na hlavných cloudových poskytovateľoch. To, čo nasleduje, sa už netýka učenia sa samotného API, ale rozdielu medzi skriptom, ktorý funguje, a aplikáciou, ktorá obstojí v prevádzke.

Zabezpečenie tvojich API kľúčov

Toto je najčastejšia príčina incidentov v prevádzke, takmer vždy z rovnakého dôvodu: kľúč natvrdo zakódovaný „len na testovanie“ a následne zabudnutý v commite. API kľúč sa nikdy nesmie objaviť v zdrojovom kóde; patrí do premennej prostredia alebo, ešte lepšie, do správcu tajomstiev, ako sú AWS Secrets Manager, Azure Key Vault alebo HashiCorp Vault.

Ďalším krokom je segregácia. Používaj jeden kľúč pre každé prostredie – vývoj, staging, produkcia – aby sa zabránilo tomu, že neúspešný test spotrebuje kvótu tvojej live služby. Používaj jeden kľúč pre každú aplikáciu, aby sa obmedzil dosah incidentu: ak dôjde k úniku kľúča, zrušíš len ten pre postihnutú aplikáciu. Naplánuj si rotáciu každých 90 dní v produkcii a nakonfiguruj alerty v Mistral Console pre abnormálne využitie: kompromitovaný kľúč sa najprv prejaví ako krivka využitia, ktorá bezdôvodne vystrelí nahor.

Spracovanie chýb

V prevádzke môže zlyhať každý volanie API. Otázka neznie, či sa to stane, ale kedy. Štyri stavové kódy pokrývajú väčšinu situácií, s ktorými sa stretneš:

KódVýznamAkcia
401 UnauthorizedNeplatný alebo expirovaný API kľúčSkontroluj premennú prostredia
429 Too Many RequestsDosiahnutý limit rýchlostiOpakuj s exponenciálnym oneskorením
500 Internal Server ErrorProblém na strane MistralAutomatické opakovanie po niekoľkých sekundách
503 Service UnavailableDočasné preťaženieOpakuj s oneskorením

Rozdiel je dôležitý: chybu 401 nikdy nevyriešiš opakovaním; chyba je v tvojej konfigurácii. Ostatné tri sú prechodné a správnou odpoveďou je opakovať pokus s postupne sa zvyšujúcimi oneskoreniami – jedna sekunda, potom dve, potom štyri. Okamžité opakovanie v slučke pri chybe 429 len zhorší saturáciu, ktorej čelíš.

Tu je vzor v Pythone: maximálne tri pokusy, ak posledný zlyhá, vyhoď výnimku a po každom zlyhaní zdvojnásob čas čakania pomocou 2 ** attempt.

import time
import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

def call_with_retry(messages, max_retries=3):
    for attempt in range(max_retries):
        try:
            response = client.chat.complete(
                model="mistral-small-latest",
                messages=messages,
            )
            return response
        except Exception as e:
            if attempt == max_retries - 1:
                raise
            waitTime = 2 ** attempt  # 1s, 2s, 4s
            print(f"Error: {e}. Retrying in {waitTime}s...")
            time.sleep(waitTime)

Preklad do TypeScriptu sleduje presne rovnakú logiku, okrem toho, že čas čakania je vyjadrený v milisekundách a pauza je realizovaná pomocou promise a setTimeout:

async function callWithRetry(
  client: Mistral,
  messages: Array<{ role: string; content: string }>,
  maxRetries = 3
) {
  for (let attempt = 0; attempt < maxRetries; attempt++) {
    try {
      return await client.chat.complete({
        model: 'mistral-small-latest',
        messages,
      });
    } catch (error) {
      if (attempt === maxRetries - 1) throw error;
      const waitTime = Math.pow(2, attempt) * 1000;
      console.log(`Error. Retrying in ${waitTime}ms...`);
      await new Promise((r) => setTimeout(r, waitTime));
    }
  }
}

Život s limitmi rýchlosti

Limity rýchlosti chránia API pred zneužitím a samotná logika opakovania nestačí na ich dodržiavanie: rieši veci až po fakte. Skontroluj si svoje limity v Mistral Console – požiadavky za sekundu, tokeny za minútu – a následne implementuj tlmenie (throttling) na strane klienta, aby si im predišiel. Nadbytočné požiadavky by mali byť zaradené do frontu, nie zahodené: používateľ radšej počká dve sekundy, než aby dostal chybu.

Keď napriek tvojej snahe dôjde k chybe 429, odpoveď obsahuje hlavičku Retry-After, ktorá indikuje, kedy skúsiť znovu; jej prečítanie je lepšie než hádanie. A ak tvoje legitímne využitie konzistentne prekračuje limity tarify Scale, požiadaj o zvýšenie kvóty cez podporu namiesto násobenia obchádzok.

Kontrola nákladov

Prvou a zďaleka najúčinnejšou pákou je výber modelu. Klasifikácia, extrakcia polí alebo preformulovanie nevyžadujú zložité usudzovanie: mistral-small-latest ich zvláda veľmi dobre. Model mistral-large-latest si nechaj na úlohy, kde kvalita usudzovania robí rozdiel – analýza, komplexná syntéza, dlhé texty – a codestral-latest používaj na generovanie kódu. Neplať za Mistral Large 3, aby robil to, čo Mistral Small zvládne rovnako dobre: pri produkčnom objeme sa rozdiel meria v rádoch.

Druhá páka sa týka počtu vymenených tokenov. Stručný prompt, zbavený redundantných inštrukcií nahromadených počas iterácií, stojí pri každom volaní menej. Vo viacťahových konverzáciách odosielaj len potrebné správy: opakovanie histórie tridsiatich výmen pri každej otázke veľmi rýchlo nafúkne účet. Prispôsob max_tokens tomu, čo skutočne očakávaš, a cacheuj opakujúce sa odpovede – najlacnejšia požiadavka je tá, ktorú neurobíš.

Monitorovanie diania

V prevádzke loguj každé volanie. Bez toho nebudeš vedieť, prečo bola odpoveď orezaná alebo ktoré využitie vysvetľuje mesačný účet. Nižšie uvedená funkcia obalí volanie dvoma stopami: čo ide von a čo prichádza späť, vrátane celkového počtu tokenov a dôvodu ukončenia.

import logging

logger = logging.getLogger("mistral")

def logged_call(client, messages, model="mistral-small-latest"):
    logger.info(f"API Call — model: {model}, messages: {len(messages)}")

    response = client.chat.complete(model=model, messages=messages)

    logger.info(
        f"Response — tokens: {response.usage.total_tokens}, "
        f"finish: {response.choices[0].finish_reason}"
    )

    return response

Tieto dva riadky odpovedajú na väčšinu otázok, ktoré si neskôr položíš. finish_reason signalizujúci limit dĺžky vysvetľuje odpoveď prerušenú v polovici; driftingujúci priemerný počet tokenov odhaľuje prompt, ktorý narástol, alebo históriu, ktorá nebola správne vyčistená.

Čo ďalej

So základmi na mieste sa otvára niekoľko ciest. Volanie funkcií (function calling) umožňuje modelu volať tvoje vlastné funkcie a API. RAG (Retrieval-Augmented Generation) obohacuje odpovede o tvoje interné dáta, zatiaľ čo vektory (embeddings), ktoré transformujú text do vektorov, tvoria stavebný kameň sémantického vyhľadávania. Jemné doladenie (fine-tuning) prispôsobí model tvojej doméne, keď prompting už nestačí, agenti reťazia volania na budovanie autonómnych systémov a evaluácia ti dáva spôsob, ako merať kvalitu odpovedí namiesto odhadovania „od oka“.

Každá z týchto tém má v katalógu Corsen Academy vlastný kurz.

Kľúčové poznatky

  • Zabezpeč svoje API kľúče pomocou správcu tajomstiev a pravidelnej rotácie
  • Systematicky implementuj opakovanie s exponenciálnym oneskorením
  • Vyberaj najľahší model, ktorý zvládne tvoju úlohu
  • Loguj každé volanie API kvôli diagnostike a optimalizácii nákladov
  • Mistral API je tvojím základom – ďalšie kroky (volanie funkcií, RAG, agenti) na ňom stavajú

Otestuj si svoje vedomosti

Console, SDK, cloudoví poskytovatelia: je základ API na mieste?

1. Aké reflexy by si mal mať ohľadom API kľúča hneď po jeho vytvorení?

Odpoveď: Bezpečne ho ulož (zobrazí sa len raz), nedávaj ho do kódu, používaj premenné prostredia, používaj jeden kľúč na prostredie a v prípade pochybností ho rotuj.

2. Čo odlišuje tarify Experiment a Scale?

Odpoveď: Kvóty a ceny: Experiment na objavovanie a prototypovanie, Scale na produkciu – pred plánovaním kapacity si skontroluj limity v konzole.

3. Aká je kostra prvého volania v Pythone?

Odpoveď: Klient inicializovaný s kľúčom, volanie chatu s modelom a zoznamom správ, čítanie obsahu odpovede – a streamovanie je povolené pre postupné zobrazovanie.

4. Ako spravuješ viacťahovú konverzáciu cez API?

Odpoveď: Udržiavaním histórie na svojej strane: každá požiadavka odosiela celý zoznam správ (používateľ aj asistent) – API je bezstavové.

5. Čo by si mal vedieť o nasadení cez Azure, Vertex alebo Bedrock?

Odpoveď: Modely Mistral sú tam dostupné s autentifikáciou a fakturáciou zvoleného cloudu – rovnaká rodina modelov, iný prístupový bod, užitočné pre infraštruktúrne obmedzenia.

Kľúč zabezpečený, história spravovaná, tarifa prispôsobená: finálne osvedčené postupy transformujú tento základ na produkčnú základňu.