Pirmasis užklausos siuntimas ir srautinis perdavimas naudojant TypeScript
Šiame puslapyje
Pamoka atnaujinta 2026 m. lapkričio 3 d. po pavyzdžių kompiliavimo griežtuoju režimu naudojant SDK
@mistralai/mistralai3.5.0 ir TypeScript 7.0.2. SDK tipizuojacontentkaipstring | ContentChunk[]: daugkartiniai pokalbiai ir srautinio perdavimo ciklai nekompiliuodavo betypeof content === 'string'patikros. Konfigūracijos pavyzdyje anksčiau buvo derinamitemperatureirtopP, ką API dokumentacija rekomenduoja nedaryti vienu metu. Klaidų apdorojimas dabar naudoja SDK klasęMistralError, o „Express“ maršrutas patikrina klausimą prieš kreipiantis į API. Šaltiniai: Mistral TypeScript SDK (README) · pokalbio užbaigimo parametrai.
Siųsk savo pirmąją užklausą
Dabar, kai SDK įdiegtas, pereikime prie praktikos. TypeScript SDK metodas chat.complete() yra tikslus Python SDK atitikmuo: tie patys parametrai, ta pati atsako struktūra, skiriasi tik pavadinimų konvencijos. Jei sekėi Python pamokas, esi pažįstamoje teritorijoje; nauja tik JavaScript asinchroninė sintaksė.
import 'dotenv/config';
import { Mistral } from '@mistralai/mistralai';
const client = new Mistral({
apiKey: process.env.MISTRAL_API_KEY,
});
async function main() {
const response = await client.chat.complete({
model: 'mistral-small-latest',
messages: [
{
role: 'user',
content: 'Explain the concept of a closure in JavaScript in three sentences.',
},
],
});
console.log(response.choices[0]?.message?.content);
}
main();
Klausimo ženklai išraiškoje response.choices[0]?.message?.content nėra tik dėl grožio: SDK tipuose message ir content yra neprivalomi, o choices[0] neegzistuoja, jei sąrašas grąžinamas tuščias. Saugi prieiga grąžina undefined, o ne išmeta išimtį. Taip pat atkreipk dėmesį, kad content ne visada yra eilutė: SDK jį tipizuoja kaip string | ContentChunk[], nes atsakymas gali atvykti kaip fragmentų sąrašas (tekstas, thinking samprotavimai, nuorodos ir kt.).
Atsako supratimas
Atsako struktūra yra identiška Python SDK. Jos išanalizavimas padeda suprasti, už ką mokate ir kodėl atsakymas sustojo. Toliau pateiktame pavyzdyje tekstas, sustojimo priežastis ir žetonų skaičius išgaunami po vieną; įvedus tai rankiniu būdu, redaktorius pasiūlys kiekvieną lauką, įrodydamas, kad tipizavimas atlieka savo darbą.
async function analyserReponse() {
const response = await client.chat.complete({
model: 'mistral-small-latest',
messages: [
{ role: 'user', content: 'What is the capital of France?' },
],
maxTokens: 100,
});
// Atsako tekstas
const texte = response.choices[0]?.message?.content;
// Sustojimo priežastis
const finRaison = response.choices[0]?.finishReason;
// Žetonų statistika
const tokensEntree = response.usage?.promptTokens;
const tokensSortie = response.usage?.completionTokens;
console.log(`Response: ${texte}`);
console.log(`Tokens: ${tokensEntree} input + ${tokensSortie} output`);
console.log(`Stop: ${finRaison}`);
}
Atkreipk dėmesį į raidžių dydį: ten, kur Python naudoja max_tokens, finish_reason ir prompt_tokens, TypeScript naudoja maxTokens, finishReason ir promptTokens. Tai dažniausia klaida rankiniu būdu perkeliant Python pavyzdžius – ir kompiliatorius ją iškart pažymės.
Srautinis perdavimas
Srautinis perdavimas yra būtinas žiniatinklio sąsajoms: be jo vartotojas kelias sekundes žiūri į užšalusį ekraną; su juo tekstas atsiranda žodis po žodžio, o suvokiama delsos trukmė smarkiai sumažėja. TypeScript SDK pateikia srautą kaip asinchroninį generatorių, kurį iteruoji naudodamas for await...of:
async function streamReponse() {
const stream = await client.chat.stream({
model: 'mistral-small-latest',
messages: [
{
role: 'user',
content: 'Describe the five main design patterns in JavaScript.',
},
],
});
for await (const chunk of stream) {
const content = chunk.data.choices[0]?.delta.content;
if (typeof content === 'string') {
process.stdout.write(content);
}
}
console.log();
}
Du aspektai nusipelno tavo dėmesio. Turinys yra chunk.data, o ne tiesiogiai chunk: tai SDK įvykio apvalkalas nuo 1.0 versijos. Be to, typeof content === 'string' patikra atfiltruoja tiek fragmentus be turinio (kurie užterštų išvestį undefined reikšmėmis), tiek turinį kaip fragmentų sąrašą, kurio process.stdout.write nepriima: be jos griežtasis režimas atsisako kompiliuoti kodą.
Srauto eksponavimas naudojant „Express“
Srautas, kuris niekada neišeina iš terminalo, niekam nenaudingas. Štai kaip perduoti jį naršyklei naudojant serverio siunčiamus įvykius (SSE) iš „Express“ API. Klausimas patikrinamas prieš bet kokį kreipimąsi, kad būtų išvengta tuščios užklausos siuntimo į API. Tada trys antraštės atveria kanalą, kiekvienas fragmentas siunčiamas atgal kaip JSON data: įvykyje, o žymeklis [DONE] signalizuoja klientui užverti ryšį.
import express from 'express';
import { Mistral } from '@mistralai/mistralai';
const app = express();
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
app.get('/api/chat', async (req, res) => {
const question = typeof req.query.q === 'string' ? req.query.q : '';
if (!question) {
res.status(400).json({ error: 'Missing q parameter' });
return;
}
res.setHeader('Content-Type', 'text/event-stream');
res.setHeader('Cache-Control', 'no-cache');
res.setHeader('Connection', 'keep-alive');
const stream = await client.chat.stream({
model: 'mistral-small-latest',
messages: [{ role: 'user', content: question }],
});
for await (const chunk of stream) {
const content = chunk.data.choices[0]?.delta.content;
if (typeof content === 'string' && content) {
res.write(`data: ${JSON.stringify({ text: content })}\n\n`);
}
}
res.write('data: [DONE]\n\n');
res.end();
});
app.listen(3000, () => console.log('Server on port 3000'));
Daugkartiniai pokalbiai
Istorijos valdymas veikia tuo pačiu principu kaip ir Python: modelis neturi atminties, todėl turi palaikyti žinučių masyvą ir siųsti viską iš naujo kiekviename etape. TypeScript aiškaus Message tipo deklaravimas neleidžia įterpti neegzistuojančio vaidmens arba neteisingai suformuoto objekto – klaidos, kurią API kitu atveju grąžintų kaip 400 kodą.
import { Mistral } from '@mistralai/mistralai';
type Message = {
role: 'system' | 'user' | 'assistant';
content: string;
};
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
const historique: Message[] = [
{
role: 'system',
content: 'You are an expert TypeScript assistant. Respond in English.',
},
];
async function poserQuestion(question: string): Promise<string> {
historique.push({ role: 'user', content: question });
const response = await client.chat.complete({
model: 'mistral-small-latest',
messages: historique,
});
const contenu = response.choices[0]?.message?.content;
const reponse = typeof contenu === 'string' ? contenu : '';
historique.push({ role: 'assistant', content: reponse });
return reponse;
}
async function main() {
console.log(await poserQuestion('What is a generic type?'));
console.log(await poserQuestion('Show me a concrete example.'));
console.log(await poserQuestion('How do I add constraints?'));
}
main();
Patikra typeof contenu === 'string' nėra prabanga: atsako laukas content gali būti fragmentų sąrašas, o tavo Message tipas tikisi eilutės. Tada stebėk trečiąjį klausimą: „How do I add constraints?“ („Kaip pridėti apribojimų?“) turi prasmę tik todėl, kad du ankstesni mainai vis dar yra masyve. Pabandyk pratimą pašalindamas eilutę, kuri prideda asistento atsakymą į istoriją, ir pamatysi, kaip modelis praranda siūlą jau antrame etape.
Generavimo derinimas ir klaidų apdorojimas
Išplėstiniai parametrai yra identiški Python SDK – keičiasi tik raidžių dydis. Maža temperature reikšmė struktūruotam rezultatui ir maxTokens, suderintas su numatomu ilgiu, suteikia nuspėjamesnius atsakymus. Nustatyk temperature arba topP, bet ne abu: tai API dokumentacijos rekomendacija, kuri pataria naudoti temperature nuo 0 iki 0,7.
const response = await client.chat.complete({
model: 'mistral-large-latest',
messages: [
{ role: 'user', content: 'Propose an architecture for a B2B SaaS.' },
],
temperature: 0.5,
maxTokens: 1000,
});
Galiausiai, bet koks tinklo kreipimasis gali nepavykti: neteisingas raktas, viršyta kvota, triktis. Visada apgaubk kreipimąsi bloku try/catch ir prieš skaitydamas savybes patikrink klaidos tipą, kitaip TypeScript atsisakys kompiliuoti. Visos HTTP klaidos, kurias grąžina API, paveldimos iš MistralError, kuri pateikia statusCode ir body; tinklo klaidos (ConnectionError, RequestTimeoutError ir kt.) iš jos nepaveldimos, bet lieka Error egzemplioriais.
import * as errors from '@mistralai/mistralai/models/errors';
try {
const response = await client.chat.complete({
model: 'mistral-small-latest',
messages: [{ role: 'user', content: 'Hello!' }],
});
console.log(response.choices[0]?.message?.content);
} catch (error) {
if (error instanceof errors.MistralError) {
// API klaidos atsakas: 401 raktas atmestas, 429 pasiekta riba...
console.error(`Mistral API Error ${error.statusCode}: ${error.message}`);
} else if (error instanceof Error) {
// Nėra API atsako: tinklas neveikia, viršytas laiko limitas...
console.error(`Error: ${error.message}`);
}
}
Svarbiausi punktai
client.chat.complete()yra asinchroninis – naudokawait- Srautiniam perdavimui naudok
for await...ofsuclient.chat.stream()rezultatu - TypeScript tipizavimas aptinka parametrų klaidas kompiliavimo metu
- SSE integracija su „Express“ yra paprasta realaus laiko žiniatinklio sąsajoms
- Pokalbio istorija valdoma naudojant tipizuotą masyvą
Message[] contentyra arba eilutė, arba fragmentų sąrašas: prieš naudojant kaip tekstą, patikrinktypeof content === 'string'- SDK HTTP klaidos paveldimos iš
MistralError(statusCode,body)