Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Osvědčené postupy a další kroky

Lekce 14 z 14 Aktualizováno 2. listopadu 2026 Vývojář
Na této stránce
  1. Shrnutí kurzu
  2. Zabezpečení tvých API klíčů
  3. Zpracování chyb
  4. Život s limity požadavků
  5. Kontrola nákladů
  6. Sledování toho, co se děje
  7. Co dál
  8. Klíčové poznatky
  9. Ověř si své znalosti

Shrnutí kurzu

Prošel jsi všechna fundamentální témata práce s Mistral API: vytvoření účtu, správu klíčů, výběr tarifu, instalaci SDK pro Python a TypeScript, streamování, vícekolové konverzace, migraci z V1 na V2 a nasazení na hlavních cloudových platformách. Následující část se již netýká učení se samotnému API, ale rozdílu mezi skriptem, který funguje, a aplikací, která obstojí v produkčním prostředí.

Zabezpečení tvých API klíčů

Toto je nejčastější příčina incidentů v produkci, téměř vždy ze stejného důvodu: klíč natvrdo zakódovaný „jen pro testování“ a následně zapomenutý v commitu. API klíč se nikdy nesmí objevit ve zdrojovém kódu; patří do proměnné prostředí, nebo ještě lépe do správce tajných údajů, jako jsou AWS Secrets Manager, Azure Key Vault nebo HashiCorp Vault.

Dále přichází na řadu segregace. Používej jeden klíč pro každé prostředí – vývojové, stagingové, produkční – aby se nestalo, že neúspěšný test spotřebuje kvótu tvé živé služby. Používej jeden klíč na aplikaci, abys omezil dopad případného úniku: pokud klíč unikne, zrušíš pouze ten pro danou aplikaci. V produkci plánuj rotaci každých 90 dní a v Mistral Console nastav alerty pro abnormální využití: kompromitovaný klíč se nejprve projeví jako křivka využití, která bezdůvodně vystřelí nahoru.

Zpracování chyb

V produkci může každý volání API selhat. Otázkou není, zda se to stane, ale kdy. Čtyři stavové kódy pokrývají většinu situací, se kterými se setkáš:

KódVýznamAkce
401 UnauthorizedNeplatný nebo vypršelý API klíčZkontroluj svou proměnnou prostředí
429 Too Many RequestsDosažen limit požadavkůOpakuj s exponenciálním zpětným čekáním
500 Internal Server ErrorProblém na straně MistralAutomatické opakování po několika sekundách
503 Service UnavailableDočasné přetíženíOpakuj s exponenciálním zpětným čekáním

Rozlišení je zásadní: chybu 401 nikdy nevyřešíš opakováním; chyba je v tvé konfiguraci. Ostatní tři jsou přechodné a správnou reakcí je opakování s postupně se prodlužujícími prodlevami – jedna sekunda, pak dvě, pak čtyři. Okamžité opakování v cyklu při chybě 429 pouze zhoršuje přetížení, kterému čelíš.

Zde je vzor v Pythonu: maximálně tři pokusy, pokud poslední selže, vyhoď výjimku a po každém selhání zdvojnásob čekací dobu pomocí 2 ** attempt.

import time
import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

def call_with_retry(messages, max_retries=3):
    for attempt in range(max_retries):
        try:
            response = client.chat.complete(
                model="mistral-small-latest",
                messages=messages,
            )
            return response
        except Exception as e:
            if attempt == max_retries - 1:
                raise
            waitTime = 2 ** attempt  # 1s, 2s, 4s
            print(f"Error: {e}. Retrying in {waitTime}s...")
            time.sleep(waitTime)

Překlad do TypeScriptu následuje přesně stejnou logiku, s tím rozdílem, že čekací doba je vyjádřena v milisekundách a pauza je realizována pomocí promise a setTimeout:

async function callWithRetry(
  client: Mistral,
  messages: Array<{ role: string; content: string }>,
  maxRetries = 3
) {
  for (let attempt = 0; attempt < maxRetries; attempt++) {
    try {
      return await client.chat.complete({
        model: 'mistral-small-latest',
        messages,
      });
    } catch (error) {
      if (attempt === maxRetries - 1) throw error;
      const waitTime = Math.pow(2, attempt) * 1000;
      console.log(`Error. Retrying in ${waitTime}ms...`);
      await new Promise((r) => setTimeout(r, waitTime));
    }
  }
}

Život s limity požadavků

Limity požadavků chrání API před zneužitím a samotná logika opakování nestačí k jejich dodržování: řeší věci až dodatečně. Zkontroluj své limity v Mistral Console – požadavky za sekundu, tokeny za minutu – a poté implementuj tlumení (throttling) na straně klienta, abys předešel jejich překročení. Nadbytečné požadavky by měly být zařazeny do fronty, nikoliv zahazovány: uživatel raději počká dvě sekundy, než aby dostal chybu.

Když i přes veškerou snahu dojde k chybě 429, odpověď obsahuje hlavičku Retry-After, která udává, kdy to zkusit znovu; její přečtení je lepší než hádání. A pokud tvoje legitimní využití konzistentně překračuje limity tarifu Scale, požádej o zvýšení kvóty přes podporu, místo abys násobil různá obcházení.

Kontrola nákladů

První a zdaleka nejefektivnější pákou je výběr modelu. Klasifikace, extrakce polí nebo přeformulování nevyžadují složité uvažování: mistral-small-latest si s nimi poradí velmi dobře. Model mistral-large-latest si nech pro úlohy, kde kvalita uvažování dělá rozdíl – analýza, komplexní syntéza, psaní dlouhých textů – a pro generování kódu použij codestral-latest. Neplať za Mistral Large 3, aby dělal to, co Mistral Small zvládne stejně dobře: při produkčním objemu se rozdíl měří v řádech velikosti.

Druhá páka se týká počtu vyměněných tokenů. Stručný prompt, zbavený redundantních instrukcí nahromaděných během iterací, stojí při každém volání méně. Ve vícekolových konverzacích posílej pouze nezbytné zprávy: opakované posílání historie třiceti výměn pro každou otázku velmi rychle zvyšuje účet. Přizpůsob max_tokens tomu, co skutečně očekáváš, a cacheuj opakující se odpovědi – nejlevnější požadavek je ten, který neprovedeš.

Sledování toho, co se děje

V produkci loguj každé volání. Bez toho nebudeš vědět, proč byla odpověď useknutá nebo které využití vysvětluje měsíční fakturu. Níže uvedená funkce obalí volání dvěma stopami: co odchází ven a co přichází zpět, včetně celkového počtu tokenů a důvodu ukončení.

import logging

logger = logging.getLogger("mistral")

def logged_call(client, messages, model="mistral-small-latest"):
    logger.info(f"API Call — model: {model}, messages: {len(messages)}")

    response = client.chat.complete(model=model, messages=messages)

    logger.info(
        f"Response — tokens: {response.usage.total_tokens}, "
        f"finish: {response.choices[0].finish_reason}"
    )

    return response

Tyto dva řádky odpoví na většinu otázek, které si později položíš. finish_reason signalizující limit délky vysvětluje odpověď useknutou uprostřed; driftingující průměrný počet tokenů odhaluje prompt, který narostl, nebo historii, která nebyla správně vyčištěna.

Co dál

S pevnými základy se otevírá několik cest. Function calling umožňuje modelu volat tvé vlastní funkce a API. RAG (Retrieval-Augmented Generation) obohacuje odpovědi o tvá interní data, zatímco embeddingy, které transformují text do vektorů, tvoří stavební kámen sémantického vyhledávání. Fine-tuning přizpůsobuje model tvé doméně, když promptování již nestačí, agenti řetězí volání pro budování autonomních systémů a evaluace ti dává způsob, jak měřit kvalitu odpovědí místo jejich odhadování „od oka“.

Každé z těchto témat má v katalogu Corsen Academy věnovaný kurz.

Klíčové poznatky

  • Zabezpeč své API klíče pomocí správce tajných údajů a pravidelné rotace
  • Systematicky implementuj opakování s exponenciálním zpětným čekáním
  • Vyber nejlehčí model, který je schopen tvůj úkol zvládnout
  • Loguj každé volání API pro diagnostiku a optimalizaci nákladů
  • Mistral API je tvým základem – další kroky (function calling, RAG, agenti) na něm staví

Ověř si své znalosti

Console, SDK, cloudoví poskytovatelé: je základ API položen?

1. Jaké reflexy bys měl mít ohledně API klíče hned po jeho vytvoření?

Odpověď: Bezpečně jej ulož (je zobrazen pouze jednou), udržuj jej mimo kód pomocí proměnných prostředí, používej jeden klíč pro každé prostředí a v případě pochybností jej rotuj.

2. Co odlišuje tarify Experiment a Scale?

Odpověď: Kvóty a ceny: Experiment pro objevování a prototypování, Scale pro produkci – před plánováním kapacity zkontroluj své limity v konzoli.

3. Jak vypadá kostra prvního volání v Pythonu?

Odpověď: Klient inicializovaný s klíčem, volání chatu s modelem a seznamem zpráv, přečtení obsahu odpovědi – a pro postupné zobrazování je povoleno streamování.

4. Jak zpracováváš vícekolovou konverzaci přes API?

Odpověď: Udržováním historie sami: každý požadavek odesílá celý seznam zpráv (uživatel i asistent) – API je bezstavové.

5. Co bys měl vědět o nasazení přes Azure, Vertex nebo Bedrock?

Odpověď: Modely Mistral jsou tam dostupné s autentizací a fakturací zvoleného cloudu – stejná rodina modelů, jiný přístupový bod, užitečné pro infrastrukturní omezení.

Klíč zabezpečen, historie spravována, tarif přizpůsoben: finální osvědčené postupy transformují tento základ v produkční bázi.