Organisatsioonid ja tööruumid
Sellel lehel
Meeskonna struktureerimine AI Studios
Seni, kuni töötad üksi, piisab ühest API-võtmest. Probleemid algavad hetkel, kui kolm arendajat jagavad sama kontot: keegi ei tea, milline võti millist rakendust toidab, arve saabub ühe lahtimõtestamatu plokina ja kui keegi meeskonnast lahkub, tuleb kõik tühistada. AI Studio lahendab selle kaheastmelise arhitektuuriga: organisatsioonid ja tööruumid. Selle struktuuri mõistmine on hädavajalik arvelduse, õiguste ja ressursside isoleerimise haldamiseks.
Organisatsiooni ja tööruumi mudel
Organisatsioon asub hierarhia tipus. See luuakse registreerumisel automaatselt ja esindab sinu üksust – ettevõtet, meeskonda või osakonda. Siin koondub kõik: arveldus, mis liidab kõik kulud; tellimustaseme valik (Experiment, Scale või Enterprise); kasutuspiirangud ehk globaalsed tokenite ja päringute kvoodid; ning liikmete haldus, sealhulgas kutsumine ja kohtade jagamine. Uue organisatsiooni loomine nõuab vaid nime ja teenuse tingimustega nõustumist ning miski ei takista ühel kasutajal kuuluda korraga mitmesse organisatsiooni.
Tööruumid on organisatsiooni sees olevad alamüksused, mis on loodud juurdepääsu ja kulude segmenteerimiseks projekti, meeskonna või keskkonna kaupa. Iga tööruum isoleerib oma API-võtmed, mis annavad juurdepääsu ainult selle ruumi ressurssidele, ning jagab oma liikmete vahel häälestatud mudeleid ja treeningandmestikke. Tarbimine jääb jälgitavaks tööruumi haaval, nii et saad täpselt öelda, kui palju maksab tugiteenuse vestlusrobot võrreldes sisemise otsingumootoriga.
Rollide ja õiguste haldamine
Organisatsiooni tasandil eksisteerib kolm rolli, millel on tahtlikult erinev ulatus.
| Roll | Arveldus | Liikmed | Tööruumid | API-võtmed |
|---|---|---|---|---|
| Owner | Jah | Jah | Jah | Jah |
| Admin | Ei | Jah | Jah | Jah |
| Member | Ei | Ei | Piiratud | Jah |
Pea meeles keskmist rida: administraator haldab meeskondi ja tööruume, kuid ei puutu kunagi arveldusse. See võimaldab usaldada tehniline haldus masinõppe juhile, andmata talle ligipääsu ettevõtte krediitkaardile.
Tööruumi loomine eeldab seega administraatori õigusi. Oma organisatsiooni lehel Admin:
- Mine jaotisse Workspaces
- Klõpsa Create Workspace
- Anna sellele kirjeldav nimi (näiteks:
production,staging,research) - Seadista esialgsed õigused
Kaastöötaja lisamine järgib sarnast loogikat:
- Mine Admin > Members
- Klõpsa Invite
- Sisesta kaastöötaja e-posti aadress
- Määra roll (Admin, Member)
- Vali tööruumid, millele tal on juurdepääs
Organisatsiooni parimad tavad
Esimene reegel on keskkondade eraldamine. Loo vähemalt kaks, ideaalis kolm tööruumi, et isoleerida arenduses toimuv sellest, mis puudutab sinu kasutajaid.
Organization "MaStartup"
├── Workspace "development" → dev API-võtmed, vähendatud kvoodid
├── Workspace "staging" → integratsioonitestid
└── Workspace "production" → prod API-võtmed, kõrged kvoodid
See eraldatus hoiab ära olukorra, kus reede õhtul arendusse kirjutatud lõpmatu tsükkel neelab tootmiskvoodid, ja muudab kulude jälgimise keskkonniti koheselt loetavaks.
Järgmisena tuleb võtmete rotatsioon. Kuna iga võti on seotud konkreetse tööruumiga, nõuab selle asendamine teenust katkestamata kindlat järjekorda: genereeri uus võti asjaomases tööruumis, juuruta see oma rakendusse, veendu, et päringud sellega tegelikult läbivad, ja alles seejärel kustuta vana. Kahe viimase sammu järjekorra muutmine garanteerib katkestuse.
import os
# Parim tava: API-võti keskkonnamuutuja kaudu
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
Lähtekoodi kõvakodeeritud võti satub alati Git-i hoidlasse, seejärel selle hoidla ajalukku, kus see püsib kõigist sinu puhastuskatsetest hoolimata. Kasuta keskkonnamuutujat juba esimesest reast peale.
Suurtes organisatsioonides toob juhtimine kasu ka sellest, kui igal funktsionaalsel meeskonnal – andmeteadus, taustasüsteemid, toode – on oma tööruum, lisaks spetsiaalne tööruum häälestamiseks, mis koondab andmestikud nende dubleerimise asemel. Selged tööruumide nimed muudavad igakuise aruandluse oluliselt lihtsamaks.
Konkreetne stsenaarium: seadistamine
Võtame näiteks viieteistkümne töötajaga ettevõtte, mis võtab kasutusele Mistrali. Tehnoloogiajuht loob organisatsiooni ja tellib Scale taseme, seejärel avab kolm tööruumi: dev, staging ja prod. Arendajad saavad liikmeõigused, mis on piiratud ainult dev tööruumiga, samas kui masinõppe juht saab administraatori õigused kõigile kolmele. Igal tööruumil on oma API-võtmed, mis on üksteisest isoleeritud, nii et lekkinud arendusvõti ei ohusta tootmist.
Administraatori armatuurlaud, mis on kättesaadav aadressil admin.mistral.ai, kuvab seejärel tarbimise tööruumiti. See on tabel, mille tehnoloogiajuht kuu lõpus avab, et jaotada kulud projektide kaupa, ilma et peaks koodis midagi instrumenteerima.
Peamised punktid
- Organisatsioon on tase arvelduse ja globaalse halduse jaoks
- Tööruumid isoleerivad API-võtmed, häälestatud mudelid ja kulud
- Eralda arendus, testkeskkond ja tootmine alati erinevatesse tööruumidesse
- Salvesta API-võtmed keskkonnamuutujatesse, mitte kunagi koodi
- Administraatori armatuurlaud võimaldab jälgida tarbimist tööruumiti reaalajas