Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Mistral AI Studio ülevaade

Õppetund 1 / 14 Värskendatud 3. november 2026 Edasijõudnutele
Sellel lehel
  1. Kolm juurutamisstrateegiat
  2. Mistral AI Studio: sisenemispunkt
  3. Kolm juurutamisvõimalust
  4. Serverless: kiire start
  5. Dedicated Serverless: ettevõtte isoleeritus
  6. Self-Hosted: täielik kontroll
  7. Alternatiivid Studiole: kolmandate osapoolte pilved
  8. Peamised punktid

Uuendatud 2. novembril 2026 – mudelid. Mistral Large 3 (mistral-large-2512) ja Mistral Medium 3.5 tunnistati 31. oktoobril 2026 aegunuks ja need lõpetatakse 30. aprillil 2027. Nende määratud järeltulija Mistral Large 4 (mistral-large-4) on olnud avalikus eelvaates alates 6. oktoobrist. Selles kursuses kasutatavad näited põhinevad aliassel mistral-large-latest, mis osutab praegu Mistral Large 3-le vastavalt selle ametlikule spetsifikatsioonile (kontrollitud 3. novembril 2026). Samuti osutab alias mistral-medium-latest mudelile Mistral Medium 3.5. Need aliased kehtivad kuni 30. aprillini 2027. Uute projektide puhul testi mistral-large-4, mis on määratud järeltulija.

Kolm juurutamisstrateegiat

Mistrali mudeli tootmisse juurutamine tähendab enamat kui lihtsalt API-võtme hankimine. Alusinfrastruktuur erineb drastiliselt sõltuvalt sellest, kas lood nädalavahetuse sisest assistenti või industrialiseerid dokumenditöötlust rangete suveräänsusnõuete tingimustes. Seetõttu pakub Mistral AI kolme erinevat lähenemist. Sinu valik sõltub nõuetest turvalisuse, jõudluse ja infrastruktuuri kontrolli osas. See esimene tund annab ülevaate, enne kui sukeldume iga variandi üksikasjadesse.

Mistral AI Studio: sisenemispunkt

AI Studio on Mistrali keskne platvorm. Siin saad kasutada mudeleid, hallata API-võtmeid, konfigureerida organisatsioone ja jälgida kasutust. Samuti saad siin aktiveerida arvelduse ja valida oma juurutamisrežiimi. Praktikas loob meeskond, kes avastab Mistrali, siin konto, aktiveerib arvelduse, genereerib võtme ja teeb kohe oma esimese API-päringu, ilma et peaks varustama ühtegi masinat.

Studio kaudu pakutavad võimalused katavad enamiku rakenduste kasutusjuhtumeid. Chat Completions haldab vestluspõhist teksti genereerimist, mis on iga assistendi või kokkuvõtete mootori ehituskivi. Embeddings loob vektorkujutised semantiliseks otsinguks: just see võimaldab sisisel dokumentatsioonimootoril tuua esile märkuse „hüvitamise protseduur“, kui töötaja sisestab päringu „kuidas ma saan hüvitist“. Function Calling võimaldab mudelil kutsuda väliseid funktsioone, näiteks pärida andmeid sinu tegelikust laoinventuuri andmebaasist, selle asemel et hallutsineerida saadavust. JSON Mode garanteerib struktureeritud JSON-vastused, mis muutub hädavajalikuks, kui väljund suunatakse teisele programmile, mitte inimlugejale. Lõpuks täiendavad pakkumist kaks juhtimisfunktsiooni: Guardrailing, mis tegeleb sisu moderatsiooni ja filtreerimisega, ning Fine-tuning, mis kohandab mudeleid sinu andmetel, kui sinu tööstusharu sõnavara või tooni ei saa saavutada üksnes vihjete (prompting) abil.

Kolm juurutamisvõimalust

Enne iga variandi üksikasjalikku käsitlemist võtab see tabel kokku peamised erinevused: kes haldab infrastruktuuri, kus asuvad andmed, millist võrku läbitakse ja kui kaua aega kulub alustamiseks.

KriteeriumServerlessDedicated ServerlessSelf-Hosted
InfrastruktuurHaldab MistralHaldab MistralHaldab klient
AndmedJagatud mitmeüürilineVirtuaalselt isoleeritudMajutab klient
VõrkAvalik internetPrivaatne alamvõrkMajutab klient
ArvutusvõimsusJagatudJagatud (saadaval pühendatud GPU)Majutab klient
KasutusjuhtumidPrototüüpimine, VKEdTootmine, ettevõttedSuveräänsus, kohapealne
Alustamise aegMinutidTunnidPäevad/nädalad

Serverless: kiire start

Serverless variant on kõige lihtsam. Lood AI Studios konto, aktiveerid arvelduse ja saad API-võtme mõne minutiga. Mistral haldab infrastruktuuri täielikult, kusjuures arvutusvõimsus on kasutajate vahel jagatud. Vastav kood mahub viide ritta ja just selles peitubki mõte: miski ei sega sind toote loomisest, mida püüad ehitada.

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Hello, how do I deploy a model?"}]
)
print(response.choices[0].message.content)

See lähenemine sobib ideaalselt prototüüpimiseks, väikese mahuga rakendusteks või meeskondadele, kes soovivad mudeleid hinnata enne pühendunud infrastruktuuri kasuks otsustamist. Siiski harjuta end algusest peale mitte jätma võtit faili lihttekstina. Järgmises tunnis näeme, kuidas see koodist eemaldada.

Dedicated Serverless: ettevõtte isoleeritus

Dedicated Serverless variant pakub virtuaalset andmeisolatsiooni ja privaatset alamvõrku. Mistral haldab endiselt infrastruktuuri, kuid sinu päringud ei läbi enam avalikku internetti ja saad taotleda pühendatud GPU-sid, et garanteerida järjepidev jõudlus. Kujuta ette vastastikust kindlustusseltsi, mis analüüsib liikmete kirjavahetust: see ei soovi hallata GPU-klastreid, kuid selle terviseandmed ei tohi liikuda avaliku tee kaudu. See variant on mõeldud täpselt selliste olukordade jaoks, kus andmete tundlikkus on reaalne, kuid ettevõte ei soovi muutuda infrastruktuuri operaatoriks.

Self-Hosted: täielik kontroll

Self-Hosted variant paneb kogu infrastruktuuri sinu kätte. Mistral pakub mudeli kaale – enamasti Apache 2.0 litsentsi all olevaid avatud kaale – ja sina haldad juurutamist, kasutades järeldusmootoreid nagu vLLM või TensorRT-LLM.

# Example: serving Mistral with vLLM
vllm serve mistralai/Mistral-Nemo-Instruct-2407 \
    --tokenizer_mode mistral \
    --config_format mistral \
    --load_format mistral

See on kõige nõudlikum lähenemine, kuna see teeb sind vastutavaks GPU-de, värskenduste ja kättesaadavuse eest. Samas annab see sulle täieliku kontrolli andmete, võrgu ja jõudluse üle. Pöördume selle juurde üksikasjalikult tagasi isemajutuse jaotises, tundides 10 kuni 13.

Alternatiivid Studiole: kolmandate osapoolte pilved

AI Studio ei ole ainus sisenemispunkt. Kui sinu ettevõte on juba konsolideerinud arvelduse, juurdepääsu ja vastavuse pilveteenuse pakkujaga, on sageli kiirem tarbida Mistrali seal, kui sõlmida täiendavat lepingut. Kuus teenusepakkujat levitavad mudeleid: Microsofti Azure AI, mis pakub neid mudelina teenusena (Model as a Service); Google Cloud Vertex AI, Google’i ühtne masinõppe platvorm; Amazon Bedrock, AWS-i hallatav teenus; Snowflake Cortex, mis integreerib tehisintellekti otse Snowflake’i; IBM watsonx.ai, IBM-i ettevõtete tehisintellekti platvorm; ja Outscale, Euroopa pilveteenuse pakkuja.

Arutleme neid pilvevalikuid üksikasjalikult tundides 4 kuni 9. Enne edasiliikumist kaardista oma projekt ülaltoodud tabelisse: vastus küsimusele „kes peaks GPU-sid haldama?“ elimineerib tavaliselt kaks kolmest veerust.

Peamised punktid

  • AI Studio on keskne hub sinu Mistrali mudelite, API-võtmete ja organisatsioonide haldamiseks
  • Kolm juurutamistaset: Serverless (kiire), Dedicated (isoleeritud), Self-Hosted (täielik kontroll)
  • Sinu valik sõltub sinu piirangutest: eelarve, andmeturve, latentsus ja maht
  • Kolmandate osapoolte pilved pakuvad alternatiivi neile, kes on juba integreeritud olemasolevasse ökosüsteemi