Pregled Mistral AI Studija
Na ovoj stranici
Ažurirano 2. studenoga 2026. — Modeli. Mistral Large 3 (
mistral-large-2512) i Mistral Medium 3.5 povučeni su iz upotrebe 31. listopada 2026., a bit će trajno uklonjeni 30. travnja 2027. Njihov nasljednik, Mistral Large 4 (mistral-large-4), dostupan je u javnoj pretpreglednoj verziji od 6. listopada. Primjeri u ovom tečaju koriste aliasmistral-large-latest, koji trenutno pokazuje na Mistral Large 3 prema svojoj službenoj specifikaciji (provjereno 3. studenoga 2026.). Slično tome,mistral-medium-latestpokazuje na Mistral Medium 3.5. Ovi aliasi ostat će valjani do 30. travnja 2027. Za nove projekte testirajmistral-large-4, namijenjenog nasljednika.
Tri strategije implementacije
Implementacija Mistral modela u proizvodno okruženje zahtijeva više od pukog dobivanja API ključa. Temeljna infrastruktura drastično varira ovisno o tome prototipiraš li internog asistenta tijekom vikenda ili industrializiraš obradu dokumenata pod strogim uvjetima suvereniteta podataka. Zbog toga Mistral AI nudi tri različita pristupa. Tvoj izbor ovisi o tvojim zahtjevima za sigurnošću, performansama i kontrolom infrastrukture. Ova prva lekcija pruža pregled visoke razine prije nego što zaronimo u detalje svake opcije.
Mistral AI Studio: Ulazna točka
AI Studio je Mistralova centralizirana platforma. Ovdje pristupaš modelima, upravljaš API ključevima, konfiguriraš organizacije i pratiš korištenje. Ovdje također omogućuješ naplatu i odabireš način implementacije. U praksi, tim koji tek otkriva Mistral ovdje stvara račun, omogućuje naplatu, generira ključ i odmah izvršava svoj prvi API poziv, bez potrebe za pokretanjem ijednog poslužitelja.
Mogućnosti koje Studio izlaže pokrivaju većinu slučajeva upotrebe aplikacija. Chat Completions bavi se generiranjem konverzacijskog teksta, gradivnim blokom za bilo kojeg asistenta ili motor za sažimanje. Embeddings proizvode vektorske reprezentacije za semantičko pretraživanje: to je ono što omogućuje internom motoru za dokumentaciju da izdvoji bilješku o „postupku povrata sredstava“ kada zaposlenik upiše „kako da dobijem povrat novca“. Function Calling omogućuje modelu pozivanje vanjskih funkcija, na primjer, za upit tvoje stvarne baze podataka o zalihama umjesto izmišljanja dostupnosti. JSON Mode jamči strukturirane JSON odgovore, što postaje ključno kada izlaz napaja drugi program, a ne ljudski čitatelj. Konačno, dvije kontrolne funkcije zaokružuju ponudu: Guardrailing, koji se bavi moderacijom i filtriranjem sadržaja, te Fine-tuning, koji prilagođava modele tvojim podacima kada se rječnik ili ton tvoje industrije ne mogu postići samo putem promptova.
Tri opcije implementacije
Prije detaljnog ispitivanja svake opcije, ova tablica sažima ono što ih doista razlikuje: tko upravlja infrastrukturom, gdje se podaci nalaze, kojom mrežom prolaze i koliko je vremena potrebno za početak rada.
| Kriterij | Serverless | Dedicated Serverless | Self-Hosted |
|---|---|---|---|
| Infrastruktura | Upravlja Mistral | Upravlja Mistral | Upravlja korisnik |
| Podaci | Dijeljeni više korisnika (multi-tenant) | Virtualno izolirani | Hostira korisnik |
| Mreža | Javni internet | Privatna podmreža | Hostira korisnik |
| Računalna snaga | Dijeljena | Dijeljena (dostupan dedikirani GPU) | Hostira korisnik |
| Slučajevi upotrebe | Prototipovi, MSP-ovi | Proizvodnja, poduzeća | Suverenitet, on-premise |
| Vrijeme do pokretanja | Minute | Sati | Dani/Tjedni |
Serverless: Brzi početak
Opcija Serverless najjednostavnija je. Stvoriš račun na AI Studiju, omogućiš naplatu i dobiješ API ključ u roku od nekoliko minuta. Mistral u potpunosti upravlja infrastrukturom, pri čemu se računalna snaga dijeli između korisnika. Odgovarajući kod stane u pet redaka, i upravo je to poanta: ništa te ne odvraća od proizvoda koji pokušavaš izgraditi.
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Hello, how do I deploy a model?"}]
)
print(response.choices[0].message.content)
Ovaj je pristup savršen za prototipove, aplikacije malog opsega ili timove koji žele procijeniti modele prije nego što se obvežu na dedikiranu infrastrukturu. Ipak, od samog početka stvori naviku da nikada ne ostavljaš ključ u čistom tekstu unutar datoteke. U sljedećoj lekciji vidjet ćemo kako ga izmjestiti iz koda.
Dedicated Serverless: Izolacija za poduzeća
Opcija Dedicated Serverless nudi virtualnu izolaciju podataka i privatnu podmrežu. Mistral i dalje upravlja infrastrukturom, ali tvoji zahtjevi više ne prolaze kroz javni internet, a možeš zatražiti dedikirane GPU-ove kako bi zajamčio/la dosljedne performanse. Zamisli uzajamno osiguravajuće društvo koje analizira dopisivanje članova: ono ne želi upravljati klasterom GPU-ova, ali njegovi zdravstveni podaci ne smiju putovati javnim putem. Ova je opcija skrojena točno za ovakve situacije, gdje je osjetljivost podataka stvarna, ali tvrtka ne želi postati operator infrastrukture.
Self-Hosted: Potpuna kontrola
Opcija Self-Hosted stavlja cijelu infrastrukturu u tvoje ruke. Mistral pruža težine modela — otvorene težine, uglavnom pod licencom Apache 2.0 — a ti upravljaš implementacijom koristeći inference motore poput vLLM-a ili TensorRT-LLM-a.
# Example: serving Mistral with vLLM
vllm serve mistralai/Mistral-Nemo-Instruct-2407 \
--tokenizer_mode mistral \
--config_format mistral \
--load_format mistral
Ovo je najzahtjevniji pristup jer te čini odgovornim za GPU-ove, ažuriranja i dostupnost. Međutim, daje ti potpunu kontrolu nad podacima, mrežom i performansama. Vratit ćemo se na ovo detaljno u odjeljku o samostalnom hostingu, u lekcijama od 10 do 13.
Alternative Studiju: Cloudovi trećih strana
AI Studio nije jedina ulazna točka. Ako je tvoja tvrtka već konsolidirala naplatu, pristup i usklađenost s određenim pružateljem cloud usluga, često je brže koristiti Mistral tamo nego otvarati dodatni ugovor. Šest pružatelja distribuira modele: Microsoftov Azure AI, koji ih izlaže kao Model as a Service; Google Cloud Vertex AI, Googleova jedinstvena ML platforma; Amazon Bedrock, AWS-ova upravljana usluga; Snowflake Cortex, koji integrira AI izravno u Snowflake; IBM watsonx.ai, IBM-ova poduzetnička AI platforma; i Outscale, europski pružatelj cloud usluga.
Detaljno ćemo obraditi ove cloud opcije u lekcijama od 4 do 9. Prije nego što kreneš dalje, mapiraj svoj vlastiti projekt na gornju tablicu: odgovor na pitanje „tko bi trebao upravljati GPU-ovima?“ obično eliminira dva od tri stupca.
Ključne točke
- AI Studio je središnje čvorište za upravljanje tvojim Mistral modelima, API ključevima i organizacijama
- Tri razine implementacije: Serverless (brzo), Dedicated (izolirano), Self-Hosted (potpuna kontrola)
- Tvoj izbor ovisi o tvojim ograničenjima: proračun, sigurnost podataka, latencija i volumen
- Cloudovi trećih strana nude alternativu onima koji su već integrirani u postojeći ekosustav