Omezení, stav beta a správa spotřeby
Na této stránce
Co musíš vědět před nasazením
Multiagentní systém Grok splňuje očekávání v oblasti kvality vyhledávání, ale stále se nachází ve fázi beta. Má slepá místa, o kterých bys měl vědět dříve, než se projeví v produkčním prostředí. Tato závěrečná lekce shrnuje aktuální omezení a disciplínu potřebnou pro práci s nimi, přičemž začíná tím nejcitlivějším bodem: spotřebou tokenů.
Technická omezení modelu
Nejpřekvapivějším omezením je parametr max_tokens: multiagentní model tento parametr nepodporuje. Nemáš žádnou technickou možnost omezit délku odpovědi vedoucího agenta, což vede k ukecaným odpovědím – zejména při použití šestnácti agentů – a rozpočtu tokenů, který musíš řídit na úrovni promptu, nikoli na úrovni API. Jedinou pákou, která ti zbývá, je editorální: instrukce typu „odpověz maximálně na 500 slov“ nebo „shrž do 5 bodů“ nahrazuje chybějící parametr. Chybí jí sice rigoróznost technického limitu, ale ve velké většině případů je respektována.
Dalším omezením, kterým jsme se již podrobně zabývali, je fakt, že fungují pouze integrované nástroje a přes API nelze deklarovat vlastní funkce.
Tvoje infrastruktura čelí třetímu omezení. Multiagentní režim je nativně dostupný prostřednictvím xAI SDK a přes Responses API pomocí OpenAI SDK; Chat Completions API, /chat/completions, není kompatibilní. Pokud veškerý tvůj kód běží skrze něj, naplánuj migraci dříve, než tuto funkci komukoli oznámíš.
Nakonec pozorovatelnost představuje problém jiného druhu: máš přístup pouze k odpovědi vedoucího agenta a voláním nástrojů. Úvahy podřízených agentů zůstávají šifrované, což omezuje možnosti auditu nebo vysvětlení uživateli, který zpochybňuje závěr.
Co implikuje stav beta
Beta API je API, jehož smlouva není fixní. Rozhraní se může změnit bez upozornění – parametry, formát odpovědi, chování; výkon se liší od období k období, a to jak v dobách odezvy, tak v kvalitě vyhledávání; model může být aktualizován, přičemž grok-4.20-multi-agent-0309 ustoupí novější verzi; a seznam podporovaných nástrojů se bude vyvíjet oběma směry.
To vede k pravidlu pro psaní kódu: nezakóovávej do kódu předpoklady o přesném chování modelu. Izoluj volání za jedinou funkci, naplánuj záložní cestu a pravidelně znovu testuj, místo abys čekal, až uživatel nahlásí výpadek.
Správa spotřeby v čase
Vše začíná v kódu. Jediný wrapper soustředí volbu počtu agentů a chování při selhání, takže při změně API musíš upravovat pouze jedno místo.
# Doporučený vzor: wrapper s fallbackem
async def research(query: str, depth: str = "quick"):
try:
agent_count = 16 if depth == "deep" else 4
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=agent_count,
)
chat.append(user(query))
result = ""
for response, chunk in chat.stream():
if chunk.content:
result += chunk.content
return result
except Exception:
# Fallback na standardní model
return await standard_query(query)
Kolem tohoto wrapperu nastav kvóty pro multiagentní požadavky na uživatele a období. Jinak nic nebrání tomu, aby účet z curiosity nebo kvůli špatně nakonfigurovanému skriptu spustil během jednoho večera stovky požadavků se šestnácti agenty.
Dále zpřehledni výdaje. Sleduj spotřebu tokenů požadavek po požadavku a hledej vzorce nadměrné spotřeby: příliš vágní prompty, které rozptylují agenty, smyčky v konverzaci nebo zneužívající chování. Téměř vždy jde o několik izolovaných případů, které tvoří většinu účtu.
Nakonec je nejefektivnějším opatřením posílat do multiagentního systému pouze to, co si to zaslouží. Stačí upstream router: jednoduchou faktickou otázku směruj na standardní model, srovnávací vyhledávání na čtyři agenty a vyčerpávající analýzu na šestnáct. Toto třídění často sníží účet bez jakéhokoli znatelného zhoršení kvality.
Před přechodem do produkce
Před otevřením pro uživatele si poctivě projdi tento kontrolní seznam.
- Je zaveden a otestován fallback na standardní model?
- Jsou definovány limity tokenů na uživatele?
- Funguje monitoring spotřeby?
- Jsou tvoje prompty dostatečně přesné, aby se předešlo plýtvání?
- Bylo ověřeno chování při chybách?
- Jsi organizován tak, abys absorboval změnu API ve fázi beta?
Záporná odpověď nezakazuje nasazení, ale přesně ti říká, kde budeš překvapen.
Klíčové poznatky
max_tokensnení podporováno – délku řiď prostřednictvím promptu- API je ve fázi beta a může se změnit – naplánuj záložní řešení
- Spotřeba tokenů je významná – nastav monitoring
- Implementuj router pro volbu mezi multiagentním a standardním modelem
- Definuj kvóty na uživatele pro kontrolu nákladů
- Pravidelně testuj svou integraci, abys odhalil změny v API
Ověř si své znalosti
Multiagentní systém xAI: vedoucí, podřízení agenti a realita fakturace.
1. Jak funguje grok-4.20-multi-agent-0309?
Odpověď: Vedoucí agent rozloží požadavek a koordinuje podřízené agenty pracující paralelně, následně provede syntézu – tým agentů za jediným voláním API.
2. 4 nebo 16 agentů: jak vybrat?
Odpověď: Podle požadované hloubky vyhledávání: 4 pro rámcované otázky, 16 pro rozsáhlá šetření – dodatečné úsilí stojí tokeny a zvyšuje latenci.
3. Jaké zásadní omezení musíš znát?
Odpověď: Žádné volání vlastních funkcí: multiagentní režim funguje s integrovanými nástroji (web_search, x_search…) – tvoje vlastní funkce v tomto režimu nelze vyvolat.
4. Jak se počítá fakturace?
Odpověď: Počítají se všichni agenti: paralelní práce podřízených agentů se sčítá – multiagentní požadavek spotřebuje mnohem více než jednoduché volání, rozpočet tomu přizpůsob.
5. Jak řetězit kola multiagentního režimu?
Odpověď: Pomocí previous_response_id: konverzace pokračuje na stavu serveru – a upovídané streamování (včetně šifrovaného obsahu) poskytuje vhled do práce agentů.
Tým agentů v jednom volání: výkonný, odpovídajícím způsobem fakturovaný, stále v beta – používání s plnou znalostí věci je celým smyslem tohoto kurzu.