Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Pārskats par Mistral AI Studio

Nodarbība 1 no 14 Atjaunota 2026. gada 3. novembris Augstākais
Šajā lapā
  1. Trīs izvietošanas stratēģijas
  2. Mistral AI Studio: Ieejas punkts
  3. Trīs izvietošanas opcijas
  4. Serverless: Ātrs starts
  5. Dedicated Serverless: Uzņēmumu izolācija
  6. Self-Hosted: Pilnīga kontrole
  7. Alternatīvas Studio: Trešo pušu mākoņpakalpojumi
  8. Galvenās atziņas

Atjaunināts 2026. gada 2. novembrī — Modeļi. Mistral Large 3 (mistral-large-2512) un Mistral Medium 3.5 tika atzīti par novecojušiem 2026. gada 31. oktobrī, un to darbība tiks pilnībā pārtraukta 2027. gada 30. aprīlī. To noteiktais pēctecis Mistral Large 4 (mistral-large-4) kopš 6. oktobra ir pieejams publiskajā priekšskatījumā. Šī kursa piemēros tiek izmantots alias mistral-large-latest, kas saskaņā ar tā oficiālo specifikāciju (pārbaudīts 2026. gada 3. novembrī) pašlaik norāda uz Mistral Large 3. Līdzīgi mistral-medium-latest norāda uz Mistral Medium 3.5. Šie aliasi būs derīgi līdz 2027. gada 30. aprīlim. Jauniem projektiem testē mistral-large-4, kas ir noteiktais pēctecis.

Trīs izvietošanas stratēģijas

Mistral modeļa izvietošana ražošanas vidē ir kas vairāk nekā vienkārši API atslēgas iegūšana. Pamata infrastruktūra krasi atšķiras atkarībā no tā, vai nedēļas nogalē veidojat iekšējā asistenta prototipu vai industrializējat dokumentu apstrādi, ievērojot stingrus suverenitātes nosacījumus. Tieši šī iemesla dēļ Mistral AI piedāvā trīs atšķirīgas pieejas. Jūsu izvēle ir atkarīga no jūsu prasībām attiecībā uz drošību, veiktspēju un infrastruktūras kontroli. Šī pirmā nodarbība sniedz augsta līmeņa pārskatu, pirms mēs iedziļināmies katras opcijas detaļās.

Mistral AI Studio: Ieejas punkts

AI Studio ir Mistral centralizētā platforma. Tieši šeit jūs piekļūstat modeļiem, pārvaldāt API atslēgas, konfigurējat organizācijas un uzraugāt lietojumu. Šeit jūs arī aktivizējat rēķinu apmaksu un izvēlaties izvietošanas režīmu. Praksē komanda, kas tikai sāk iepazīties ar Mistral, šeit izveido kontu, aktivizē maksājumus, ģenerē atslēgu un nekavējoties veic savu pirmo API izsaukumu, nepievienojot nevienu serveri.

Studio piedāvātās iespējas aptver lielāko daļu lietojumu gadījumu. Chat Completions nodrošina sarunu teksta ģenerēšanu, kas ir pamatelements jebkuram asistentam vai kopsavilkumu dzinim. Embeddings rada vektoru attēlojumus semantiskajai meklēšanai: tieši tas ļauj iekšējai dokumentācijas sistēmai atrast piezīmi par „atlīdzību procedūru”, kad darbinieks ievada „kā es saņemšu atlīdzību”. Function Calling ļauj modelim izsaukt ārējās funkcijas, piemēram, lai vaicātu jūsu faktiskajai krājumu datubāzei, nevis izdomātu pieejamību. JSON Mode garantē strukturētas JSON atbildes, kas kļūst būtiska, ja izejas dati tiek nodoti tālākai programmai, nevis cilvēkam lasīšanai. Visbeidzot, piedāvājumu papildina divas kontroles funkcijas: Guardrailing, kas nodrošina satura moderēšanu un filtrēšanu, un Fine-tuning, kas pielāgo modeļus jūsu datiem, ja jūsu nozares vārdu krājumu vai toni nevar sasniegt, tikai izmantojot komandas (prompting).

Trīs izvietošanas opcijas

Pirms katras opcijas detalizētas aplūkošanas, šī tabula apkopo to, kas tās patiesībā atšķir: kas pārvalda infrastruktūru, kur atrodas dati, caur kuru tīklu tie pārvietojas un cik ilgs laiks nepieciešams, lai sāktu darbu.

KritērijsServerlessDedicated ServerlessSelf-Hosted
InfrastruktūraPārvalda MistralPārvalda MistralPārvalda klients
DatiKoplietota daudznometņu videVirtuāli izolētiUzglabā klients
TīklsPubliskais internetsPrivāta apakštīklaUzglabā klients
Aprēķinu jaudaKoplietotaKoplietota (pieejams dedicēts GPU)Uzglabā klients
LietojumiPrototipēšana, MVURažošana, uzņēmumiSuverenitāte, uz vietas (on-premise)
Laiks līdz startamMinūtesStundasDienas/Nedēļas

Serverless: Ātrs starts

Opcija Serverless ir visvienkāršākā. Jūs izveidojat kontu AI Studio, aktivizējat rēķinu apmaksu un dažu minūšu laikā iegūstat API atslēgu. Mistral pilnībā pārvalda infrastruktūru, un aprēķinu jauda tiek koplietota starp lietotājiem. Atbilstošais kods ietilpst piecās rindās, un tieši tas ir galvenais: nekas nenovērš jūsu uzmanību no produkta, kuru cenšaties izveidot.

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Hello, how do I deploy a model?"}]
)
print(response.choices[0].message.content)

Šī pieeja ir ideāli piemērota prototipēšanai, mazas slodzes lietotnēm vai komandām, kas vēlas novērtēt modeļus, pirms apņemas izmantot dedicētu infrastruktūru. Tomēr jau no paša sākuma pierodiet nekad neatstāt atslēgu failā skaidrā tekstā. Nākamajā nodarbībā apskatīsim, kā to izņemt no koda.

Dedicated Serverless: Uzņēmumu izolācija

Opcija Dedicated Serverless nodrošina virtuālu datu izolāciju un privātu apakštīklu. Mistral joprojām pārvalda infrastruktūru, taču jūsu pieprasījumi vairs nešķērso publisko internetu, un jūs varat pieprasīt dedicētus GPU, lai garantētu konsekventu veiktspēju. Iedomājieties savstarpējo apdrošināšanas sabiedrību, kas analizē biedru saraksti: tā nevēlas uzturēt GPU klasteri, taču tās veselības dati nedrīkst pārvietoties pa publisku ceļu. Šī opcija ir radīta tieši šādām situācijām, kur datu sensitivitāte ir reāla, bet uzņēmums nevēlas kļūt par infrastruktūras operatoru.

Self-Hosted: Pilnīga kontrole

Opcija Self-Hosted nodod visu infrastruktūru jūsu rokās. Mistral nodrošina modeļa svarus — atvērtus svarus, galvenokārt saskaņā ar Apache 2.0 licenci —, un jūs pārvaldāt izvietošanu, izmantojot secinājumu dzinus (inference engines), piemēram, vLLM vai TensorRT-LLM.

# Example: serving Mistral with vLLM
vllm serve mistralai/Mistral-Nemo-Instruct-2407 \
    --tokenizer_mode mistral \
    --config_format mistral \
    --load_format mistral

Šī ir visprasīgākā pieeja, jo tā liek jums uzņemties atbildību par GPU, atjauninājumiem un pieejamību. Taču tā dod jums pilnīgu kontroli pār datiem, tīklu un veiktspēju. Mēs pie tā sīkāk atgriezīsimies sadaļā par pašizvietošanu (Self-Hosting), 10. līdz 13. nodarbībā.

Alternatīvas Studio: Trešo pušu mākoņpakalpojumi

AI Studio nav vienīgais ieejas punkts. Ja jūsu uzņēmums jau ir konsolidējis rēķinu apmaksu, piekļuvi un atbilstību ar kādu mākoņa pakalpojumu sniedzēju, bieži vien ir ātrāk izmantot Mistral tur, nevis slēgt papildu līgumu. Seši sniedzēji izplata šos modeļus: Microsoft Azure AI, kas tos piedāvā kā „Model as Service”; Google Cloud Vertex AI, Google vienotā ML platforma; Amazon Bedrock, AWS pārvaldītais serviss; Snowflake Cortex, kas integrē AI tieši Snowflake vidē; IBM watsonx.ai, IBM uzņēmumu AI platforma; un Outscale, Eiropas mākoņa pakalpojumu sniedzējs.

Mēs detalizēti aplūkosim šīs mākoņa opcijas 4. līdz 9. nodarbībā. Pirms dodaties tālāk, salīdziniet savu projektu ar iepriekšējo tabulu: atbilde uz jautājumu „kam vajadzētu pārvaldīt GPU?” parasti ļauj izslēgt divas no trim kolonnām.

Galvenās atziņas

  • AI Studio ir centrālais mezgls jūsu Mistral modeļu, API atslēgu un organizāciju pārvaldībai
  • Trīs izvietošanas līmeņi: Serverless (ātrs), Dedicated (izolēts), Self-Hosted (pilnīga kontrole)
  • Jūsu izvēle ir atkarīga no jūsu ierobežojumiem: budžets, datu drošība, latentums un apjoms
  • Trešo pušu mākoņpakalpojumi piedāvā alternatīvu tiem, kas jau ir integrēti esošā ekosistēmā