Fill-In-The-Middle (FIM)
F'din il-paġna
Il-Prinċipju Fill-In-The-Middle
Fill-In-The-Middle, jew FIM, hija l-aktar karatteristika distintiva ta’ Codestral. Fil-ġenerazzjoni standard, mudell jestendi t-test minn punt tat-tluq mingħajr xejn ieħor biex iqis. FIM tbiddel il-logħba: tippermettilek timla vojt fin-nofs tal-kodiċi. Inti tipprovdi l-bidu, imsejjaħ il-prompt, u t-tmiem, imsejjaħ is-suffix, u Codestral jiġġenera l-kodiċi intermedjarju li jgħaqqad iż-żewġ partijiet b’mod nadif.
Dan il-mekkaniżmu jsolvi problema konkreta ħafna fl-awtokumplament tal-IDE. Meta tikteb fin-nofs ta’ fajl, suġġeriment rilevanti jiddependi daqstant fuq dak li ġej wara l-kursur kif jiddependi fuq dak li jippreċedih. Metodu mdaħħal bejn żewġ oħrajn irid jirrispetta l-istil tagħhom, il-konvenzjonijiet tas-smijiet, u l-kuntratt impliċitu tal-klassi. Mudell li jara biss il-kuntest ‘il fuq jipproponi kodiċi plawżibbli li spiss ikun ridondanti ma’ dak li diġà jeżisti għaxar linji ‘l isfel.
L-operazzjoni tinħażal f’tliet elementi. Il-prompt fih il-kodiċi qabel il-punt tal-inserzjoni—fi kliem ieħor, dak li diġà ktibt qabel il-kursur. Is-suffix fih il-kodiċi wara l-kursur. Il-kumplament huwa l-framment iġġenerat minn Codestral, li jidħol bejn iż-żewġ partijiet. Ir-riżultat finali dejjem jobdi l-istess ekwazzjoni: prompt + completion + suffix = complete code.
L-Endpoint /v1/fim/completions
Mistral AI tesponi l-FIM permezz ta’ endpoint iddedikat. Kuntrarjament għall-endpoint standard taċ-chat, dan jaċċetta l-parametri prompt u suffix minflok array ta’ messaġġi.
Struttura tat-Talba
from mistralai.client import Mistral
client = Mistral(api_key="your_api_key")
response = client.fim.complete(
model="codestral-latest",
prompt="def fibonacci(n: int):",
suffix="n = int(input('Enter a number: '))\nprint(fibonacci(n))",
temperature=0,
)
print(response.choices[0].message.content)
Hawnhekk, Codestral jirċievi l-firma tal-funzjoni fibonacci bħala l-prompt u l-kodiċi tas-sejħa bħala s-suffix. Il-kompitu tiegħu huwa li jiġġenera l-korp li jħawwel din il-firma f’implimentazzjoni li taħdem, billi jaf li l-funzjoni se tissejjaħ b’integer imdaħħal permezz tat-tastiera u li l-valur tar-ritorn tiegħu se jiġi stampat kif inhu.
Parametri Ewlenin
model— dejjem"codestral-latest"għall-FIMprompt— il-kodiċi qabel il-kursur (meħtieġ)suffix— il-kodiċi wara l-kursur (opzjonali iżda rrakkomandat)temperature—0għal riżultati deterministiċi,0.2-0.7għall-varjetàmax_tokens— jillimita t-tul tal-kumplament iġġeneratstop— lista ta’ tokens ta’ waqfien (eż.["\n\n"]biex tieqaf wara blokk)
Eżempju Konkret: Kumplament ta’ Klassi Python
Ejja nħarsu lejn xenarju komuni: qed tikteb servizz u jonqoslek metodu fin-nofs tal-klassi.
prompt = """class UserService:
def __init__(self, db):
self.db = db
def get_user(self, user_id: int):
"""
suffix = """
def delete_user(self, user_id: int):
return self.db.execute("DELETE FROM users WHERE id = ?", (user_id,))
"""
response = client.fim.complete(
model="codestral-latest",
prompt=prompt,
suffix=suffix,
temperature=0,
max_tokens=200,
)
Is-suffix jagħmel ix-xogħol kollu fir-rigward tal-kuntest. Billi jara delete_user, Codestral jitgħallem tliet affarijiet: il-klassi tistaqsi lill-bażi tad-data permezz ta’ self.db.execute, tuża mistoqsijiet parametrizzati b’?, u tirritorna r-riżultat direttament mingħajr saff intermedjarju. Jiddeduċi li get_user irid isegwi eżattament l-istess mudell u jiġġenera:
return self.db.execute("SELECT * FROM users WHERE id = ?", (user_id,))
Ipprova l-eżerċizzju mill-ġdid mingħajr is-suffix, u se tara d-differenza. Mċaħħad minn din l-ankra, il-mudell spiss se jinventa ORM jew cursur li ma jeżisti mkien fil-proġett tiegħek.
FIM vs Chat: L-Għażla tal-Għodda t-Tajba
| Sitwazzjoni | Endpoint | Għaliex |
|---|---|---|
| Awtokumplament f’IDE | FIM | Il-kuntest qabel U wara l-kursur huwa disponibbli |
| Ġenerazzjoni ta’ funzjoni sħiħa | Chat | M’hemmx bżonn ta’ suffix |
| Kumplament ta’ fajl ta’ konfigurazzjoni | FIM | Il-format u l-istruttura eżistenti jiggwidaw il-kumplament |
| Spjegazzjoni tal-kodiċi | Chat | Kompitu bil-lingwa naturali, mhux kumplament |
| Kittiba ta’ testijiet tal-unità | Chat jew FIM | FIM jekk il-fajl tat-test diġà jeżisti parzjalment |
Tikseb l-Aħjar mill-FIM
Il-kwalità tal-kumplament tiddependi l-ewwel fuq il-kuntest li tipprovdi. Inkludi l-imports, il-klassi ġenitur, u l-funzjonijiet tal-qrib fil-prompt. Dawn jgħidu lill-mudell li libreriji huma disponibbli u liema stil għandu jadotta. Is-suffix jistħoqqilu attenzjoni speċjali għax mingħajru, l-FIM jiddeterjora f’ġenerazzjoni standard u jitlif il-valur tiegħu.
Fir-rigward tal-issettjar, l-awtokumplament tal-IDE jaħdem l-aħjar b’temperature=0 sabiex l-istess sitwazzjoni tipproduċi dejjem l-istess suġġeriment. Żviluppatur li jara l-proposta tinbidel ma’ kull daqsta ta’ tast eventwalment se jiddiżattvah. Żomm max_tokens baxx, bejn 50 u 200, peress li qed tikmpleta linja jew blokk, mhux modulu sħiħ. Fl-aħħar nett, it-tokens ta’ waqfien jipprevjenu l-overflow: stop=["\n\n"] jaqta’ l-ġenerazzjoni fit-tmiem tal-blokk attwali minflok ma jħalli lill-mudell jerġa’ jikteb nofs il-fajl.
Punti Ewlenin
- L-FIM jikmpleta l-kodiċi bejn prompt (qabel) u suffix (wara)
- L-endpoint iddedikat huwa
/v1/fim/completions - Ir-riżultat huwa: prompt + completion + suffix = complete code
- Is-suffix huwa essenzjali għal kumplamenti kuntestwali ta’ kwalità għolja
- Uża
temperature=0u limiti ta’ tokens għall-awtokumplament tal-IDE