Organizacijos ir darbo sritys
Šiame puslapyje
Komandos struktūrizavimas „AI Studio“ aplinkoje
Kol dirbi vienas, pakanka vieno API rakto. Problemos prasideda tada, kai trys kūrėjai dalijasi ta pačia paskyra: niekas nežino, kuris raktas maitina kurią programėlę, sąskaita atkeliauja kaip vienas neįskaitomas blokas, o kai kas nors palieka komandą, tenka anuliuoti viską. „AI Studio“ tai išsprendžia naudodama dviejų lygių architektūrą: Organizacijas ir Darbo sritis. Suprasti šią struktūrą būtina norint valdyti atsiskaitymus, leidimus ir išteklių izoliavimą.
Organizacijos ir darbo srities modelis
Organizacija yra hierarchijos viršūnėje. Ji sukuriama automatiškai užsiregistravus ir atstovauja tavo subjektą – įmonę, komandą ar skyrių. Čia sukoncentruojama viskas: atsiskaitymai, apjungiantys visas išlaidas; prenumeratos lygio pasirinkimas („Experiment“, „Scale“ arba „Enterprise“); naudojimo limitai, tai yra globalūs žetonų ir užklausų kvotos; bei narių paskirstymas, įskaitant pakvietimus ir vietų valdymą. Norint sukurti naują organizaciją, tereikia pavadinimo ir paslaugų teikimo sąlygų priėmimo, o niekas netrukdo vienam vartotojui priklausyti kelioms organizacijoms vienu metu.
Darbo sritys yra Organizacijos viduje esantys poaibiai, skirti suskirstyti prieigą ir išlaidas pagal projektą, komandą ar aplinką. Kiekviena darbo sritis izoliuoja savo API raktus, kurie suteikia prieigą tik prie jos pačios išteklių, ir dalinasi derintais modeliais bei mokymo duomenų rinkiniais tarp savo narių. Vartojimas lieka atsekamas darbo srities po darbo srities, todėl gali tiksliai pasakyti, kiek kainuoja palaikymo pokalbių robotas, palyginti su vidine paieškos sistema.
Vaidmenų ir leidimų valdymas
Organizacijos lygmenyje egzistuoja trys vaidmenys, turintys sąmoningai skirtingas apimtis.
| Vaidmuo | Atsiskaitymai | Nariai | Darbo sritys | API raktai |
|---|---|---|---|---|
| Savininkas | Taip | Taip | Taip | Taip |
| Administratorius | Ne | Taip | Taip | Taip |
| Narys | Ne | Ne | Ribota | Taip |
Atmink vidurinį eilutę: Administratorius valdo komandas ir darbo sritis, bet niekada neliečia atsiskaitymų. Tai leidžia techninį administravimą perduoti ML vadovui nesuteikiant jam prieigos prie įmonės kreditinės kortelės.
Todėl darbo srities kūrimui reikalingi Administratoriaus leidimai. Iš savo organizacijos puslapio Admin:
- Eik į skyrių Workspaces
- Spausk Create Workspace
- Suteik jam aprašomąjį pavadinimą (pavyzdžiui:
production,staging,research) - Sukonfigūruok pradinius leidimus
Bendradarbio pridėjimas vyksta pagal panašią logiką:
- Eik į Admin > Members
- Spausk Invite
- Įvesk bendradarbio el. pašto adresą
- Priskirk vaidmenį (Administratorius, Narys)
- Pasirink darbo sritis, prie kurių jis turės prieigą
Organizacinės geriausios praktikos
Pirmoji taisyklė – atskirti aplinkas. Sukurk bent dvi darbo sritis, idealu – tris, kad atskirtum tai, kas vyksta kūrimo metu, nuo to, kas liečia tavo vartotojus.
Organization "MaStartup"
├── Workspace "development" → dev API keys, reduced quotas
├── Workspace "staging" → integration tests
└── Workspace "production" → prod API keys, high quotas
Šis atskyrimas neleidžia penktadienio vakarą kūrimo aplinkoje parašytam begaliniam ciklui „suvalgyti“ gamybos kvotų, o išlaidų stebėjimas pagal aplinką tampa iškart suprantamas.
Kitas žingsnis – raktų rotacija. Kadangi kiekvienas raktas yra susietas su darbo sritimi, norint jį pakeisti nenutraukiant veiklos, reikia laikytis specifinės tvarkos: sugeneruok naują raktą atitinkamoje darbo srityje, įdiek jį savo programėlėje, patikrink, ar užklausos su juo tikrai vykdomos, ir tik tada ištrink senąjį. Sukeitus paskutinius du žingsnius vietomis, garantuotai įvyks sutrikimas.
import os
# Best practice: API key via environment variable
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
Raktas, įkoduotas tiesiai į源代码 (source code), visada atsidurs „Git“ saugykloje, o tada ir tos saugyklos istorijoje, kur išliks nepaisant visų tavo valymo bandymų. Naudok aplinkos kintamąjį nuo pat pirmos eilutės.
Didelėse organizacijose valdysenai taip pat naudinga turėti po vieną darbo sritį kiekvienai funkcinei komandai – duomenų mokslui, „backend“, produktui – bei atskirą darbo sritį derinimui, kuri centralizuoja duomenų rinkinius, užuot leisdama jiems dubliuotis. Aiškūs darbo sričių pavadinimai mėnesinių ataskaitų rengimą dar labiau palengvina.
Konkretus scenarijus: sąranka
Imkime penkiolikos žmonių įmonę, diegiančią „Mistral“. CTO sukuria Organizaciją ir užsisako „Scale“ lygį, tada atidaro tris darbo sritis: dev, staging ir prod. Kūrėjai gauna Nario prieigą, apribotą tik dev darbo sritimi, o ML vadovas gauna Administratoriaus prieigą visoms trims. Kiekviena darbo sritis turi savo API raktus, izoliuotus vienus nuo kitų, todėl pavogtas kūrimo raktas nieko nekompromituoja gamyboje.
Administratoriaus skydelis, pasiekiamas adresu admin.mistral.ai, tada rodo vartojimą pagal darbo sritis. Tai yra lentelė, kurią CTO atidarys mėnesio pabaigoje, kad paskirstytų išlaidas pagal projektus, nereikalaudamas nieko instrumentuoti kode.
Svarbiausi punktai
- Organizacija yra lygmuo atsiskaitymams ir globaliam valdymui
- Darbo sritys izoliuoja API raktus, derintus modelius ir išlaidas
- Visada atskirk kūrimo, testavimo ir gamybos aplinkas į atskiras darbo sritis
- Saugok API raktus aplinkos kintamuosiuose, niekada – kode
- Administratoriaus skydelis leid realiuoju laiku stebėti vartojimą pagal darbo sritis