Премини към основното съдържание
Български— Изберете език
Меню

Първо извикване и стрийминг в TypeScript

Урок 9 от 14 Обновен 3 ноември 2026 г. Програмист
На тази страница
  1. Изпращане на първата Ви заявка
  2. Стрийминг
  3. Многократни разговори
  4. Настройване на генерирането и обработка на грешки
  5. Ключови изводи

Урокът е актуализиран на 3 ноември 2026 г. след компилиране на примерите в стриктен режим със SDK @mistralai/mistralai 3.5.0 и TypeScript 7.0.2. Типовете на SDK дефинират content като string | ContentChunk[]: многократните разговори и циклите за стрийминг не се компилираха без проверка typeof content === 'string'. Примерът за конфигурация преди това комбинираше temperature и topP, което документацията на API препоръчва да не се прави едновременно. Обработката на грешки вече използва класа MistralError на SDK, а маршрутът на Express валидира въпроса преди извикване на API. Източници: Mistral TypeScript SDK (README) · параметри за завършване на чат.

Изпращане на първата Ви заявка

Сега, след като SDK е инсталиран, нека преминем към практика. Методът chat.complete() на TypeScript SDK е точният еквивалент на този в Python SDK: същите параметри, същата структура на отговора, с изключение на конвенциите за именуване. Ако сте следвали уроците за Python, сте на позната територия; нова е единствено асинхронната синтактика на JavaScript.

import 'dotenv/config';
import { Mistral } from '@mistralai/mistralai';

const client = new Mistral({
  apiKey: process.env.MISTRAL_API_KEY,
});

async function main() {
  const response = await client.chat.complete({
    model: 'mistral-small-latest',
    messages: [
      {
        role: 'user',
        content: 'Explain the concept of a closure in JavaScript in three sentences.',
      },
    ],
  });

  console.log(response.choices[0]?.message?.content);
}

main();

Въпросителните знаци в response.choices[0]?.message?.content не са просто за красота: в типовете на SDK, message и content са незадължителни, а choices[0] не съществува, ако списъкът се върне празен. Безопасният достъп връща undefined, вместо да хвърля изключение. Освен това имайте предвид, че content не винаги е низ: SDK го типизира като string | ContentChunk[], защото отговорът може да пристигне като списък от фрагменти (текст, разсъждения thinking, препратки и др.).

Разбиране на отговора

Структурата на отговора е идентична с тази на Python SDK. Нейното разпарсяне Ви помага да разберете за какво плащате и защо даден отговор е спрял. Следващият пример извлича текста, причината за спиране и броя на токените един по един; въвеждането му ръчно ще накара редактора Ви да предложи всяко поле, доказвайки, че типизирането си върши работата.

async function analyserReponse() {
  const response = await client.chat.complete({
    model: 'mistral-small-latest',
    messages: [
      { role: 'user', content: 'What is the capital of France?' },
    ],
    maxTokens: 100,
  });

  // Текст на отговора
  const texte = response.choices[0]?.message?.content;

  // Причина за спиране
  const finRaison = response.choices[0]?.finishReason;

  // Статистика за токените
  const tokensEntree = response.usage?.promptTokens;
  const tokensSortie = response.usage?.completionTokens;

  console.log(`Response: ${texte}`);
  console.log(`Tokens: ${tokensEntree} input + ${tokensSortie} output`);
  console.log(`Stop: ${finRaison}`);
}

Обърнете внимание на главните и малките букви: докато Python използва max_tokens, finish_reason и prompt_tokens, TypeScript използва maxTokens, finishReason и promptTokens. Това е грешка номер едно при ръчно прехвърляне на пример от Python – и компилаторът веднага ще я маркира.

Стрийминг

Стриймингът е от съществено значение за уеб интерфейсите: без него потребителят гледа замръзнал екран в продължение на няколко секунди; с него текстът се появява дума по дума и възприеманата латентност се срива. TypeScript SDK излага стрийма като асинхронен генератор, който обхождате с for await...of:

async function streamReponse() {
  const stream = await client.chat.stream({
    model: 'mistral-small-latest',
    messages: [
      {
        role: 'user',
        content: 'Describe the five main design patterns in JavaScript.',
      },
    ],
  });

  for await (const chunk of stream) {
    const content = chunk.data.choices[0]?.delta.content;
    if (typeof content === 'string') {
      process.stdout.write(content);
    }
  }
  console.log();
}

Два детайла заслужават вниманието Ви. Съдържанието се намира в chunk.data, а не директно в chunk: това е обвивката на събитието в SDK от версия 1.0 насам. И проверката typeof content === 'string' филтрира както фрагментите без съдържание, които биха замърсили изхода Ви с undefined, така и съдържанието тип списък от фрагменти, което process.stdout.write не приема: без нея стриктният режим отказва да компилира.

Излагане на стрийма чрез Express

Стрийм, който никога не напуска терминала, не помага на никого. Ето как да го предадете на браузър, използвайки Server-Sent Events от Express API. Въпросът се валидира преди всяко извикване, за да се избегне изпращането на празна заявка към API. Трите заглавки след това отварят канала, всеки фрагмент се изпраща обратно като JSON в събитие data:, а маркерът [DONE] сигнализира на клиента да затвори връзката.

import express from 'express';
import { Mistral } from '@mistralai/mistralai';

const app = express();
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });

app.get('/api/chat', async (req, res) => {
  const question = typeof req.query.q === 'string' ? req.query.q : '';
  if (!question) {
    res.status(400).json({ error: 'Missing q parameter' });
    return;
  }

  res.setHeader('Content-Type', 'text/event-stream');
  res.setHeader('Cache-Control', 'no-cache');
  res.setHeader('Connection', 'keep-alive');

  const stream = await client.chat.stream({
    model: 'mistral-small-latest',
    messages: [{ role: 'user', content: question }],
  });

  for await (const chunk of stream) {
    const content = chunk.data.choices[0]?.delta.content;
    if (typeof content === 'string' && content) {
      res.write(`data: ${JSON.stringify({ text: content })}\n\n`);
    }
  }

  res.write('data: [DONE]\n\n');
  res.end();
});

app.listen(3000, () => console.log('Server on port 3000'));

Многократни разговори

Управлението на историята следва същия принцип като в Python: моделът няма памет, затова поддържате масив от съобщения и изпращате цялото нещо при всеки завой. В TypeScript декларирането на изричен тип Message предотвратява вмъкването на несъществуваща роля или malformed обект – грешка, която API иначе би върнал като 400.

import { Mistral } from '@mistralai/mistralai';

type Message = {
  role: 'system' | 'user' | 'assistant';
  content: string;
};

const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });

const historique: Message[] = [
  {
    role: 'system',
    content: 'You are an expert TypeScript assistant. Respond in English.',
  },
];

async function poserQuestion(question: string): Promise<string> {
  historique.push({ role: 'user', content: question });

  const response = await client.chat.complete({
    model: 'mistral-small-latest',
    messages: historique,
  });

  const contenu = response.choices[0]?.message?.content;
  const reponse = typeof contenu === 'string' ? contenu : '';
  historique.push({ role: 'assistant', content: reponse });

  return reponse;
}

async function main() {
  console.log(await poserQuestion('What is a generic type?'));
  console.log(await poserQuestion('Show me a concrete example.'));
  console.log(await poserQuestion('How do I add constraints?'));
}

main();

Проверката typeof contenu === 'string' не е лукс: полето content на отговора може да бъде списък от фрагменти, докато Вашият тип Message очаква низ. След това обърнете внимание на третия въпрос: „How do I add constraints?“ има смисъл само защото предишните два обмена все още са в масива. Усложнете упражнението, като премахнете реда, който добавя отговора на асистента към историята, и ще видите как моделът губи нишката още при втория завой.

Настройване на генерирането и обработка на грешки

Разширените параметри са идентични с тези на Python SDK – променя се само регистърът на буквите. Ниска temperature за структуриран резултат и maxTokens, калибриран според очакваната дължина, водят до по-предсказуеми отговори. Задайте temperature или topP, но не и двете: това е препоръката в документацията на API, която съветва стойност на temperature между 0 и 0.7.

const response = await client.chat.complete({
  model: 'mistral-large-latest',
  messages: [
    { role: 'user', content: 'Propose an architecture for a B2B SaaS.' },
  ],
  temperature: 0.5,
  maxTokens: 1000,
});

Накрая, всяко мрежово извикване може да се провали: невалиден ключ, надвишен лимит, прекъсване. Винаги обгръщайте извикването в try/catch и проверявайте типа на грешката, преди да прочетете нейните свойства, в противен случай TypeScript ще откаже да компилира. Всички HTTP грешки, върнати от API, наследяват от MistralError, който излага statusCode и body; мрежовите грешки (ConnectionError, RequestTimeoutError и др.) не наследяват от него, но остават инстанции на Error.

import * as errors from '@mistralai/mistralai/models/errors';

try {
  const response = await client.chat.complete({
    model: 'mistral-small-latest',
    messages: [{ role: 'user', content: 'Hello!' }],
  });
  console.log(response.choices[0]?.message?.content);
} catch (error) {
  if (error instanceof errors.MistralError) {
    // Грешка в отговора на API: 401 ключът е отхвърлен, 429 лимитът е достигнат...
    console.error(`Mistral API Error ${error.statusCode}: ${error.message}`);
  } else if (error instanceof Error) {
    // Няма отговор от API: мрежата е спряла, времето за изчакване е надвишено...
    console.error(`Error: ${error.message}`);
  }
}

Ключови изводи

  • client.chat.complete() е асинхронно – използвайте await
  • Стриймингът използва for await...of върху резултата от client.chat.stream()
  • Типизирането в TypeScript улавя грешки в параметрите по време на компилация
  • Интеграцията на SSE с Express е проста за уеб интерфейси в реално време
  • Историята на разговора се управлява с типизиран масив Message[]
  • content е или низ, или списък от фрагменти: тествайте typeof content === 'string', преди да го използвате като текст
  • HTTP грешките на SDK наследяват от MistralError (statusCode, body)