Przejdź do głównej treści
Polski— Wybierz język
Menu

Fill-In-The-Middle (FIM)

Lekcja 2 z 14 Zaktualizowano 2 listopada 2026 Programista
Na tej stronie
  1. Zasada Fill-In-The-Middle
  2. Punkt końcowy /v1/fim/completions
  3. Konkretne przykład: Uzupełnianie klasy w Pythonie
  4. FIM kontra Czat: Wybór właściwego narzędzia
  5. Jak najlepiej wykorzystać FIM
  6. Kluczowe wnioski

Zasada Fill-In-The-Middle

Fill-In-The-Middle, w skrócie FIM, to najbardziej wyróżniająca cecha modelu Codestral. W standardowym trybie generowania model rozszerza tekst od punktu startowego, nie mając nic innego do uwzględnienia. FIM zmienia zasady gry: pozwala wypełnić lukę w środku kodu. Dostarczasz początek, zwany prompem, oraz koniec, zwany sufiksem, a Codestral generuje kod pośredni, który płynnie łączy te dwa elementy.

Mechanizm ten rozwiązuje bardzo konkretny problem autouzupełniania w środowiskach IDE. Gdy piszesz w środku pliku, trafna sugestia zależy równie mocno od tego, co znajduje się za kursorem, co od tego, co przed nim. Metoda wstawiona między dwie inne musi respektować ich styl, konwencje nazewnictwa oraz niejawny kontrakt klasy. Model widzący tylko kontekst poprzedzający zaproponuje kod, który może być poprawny logicznie, ale często będzie redundatny względem tego, co istnieje dziesięć linii niżej.

Operacja sprowadza się do trzech elementów. Prompt zawiera kod przed punktem wstawienia – innymi słowy, to, co już napisałeś przed kursorem. Sufiks zawiera kod po kursorze. Uzupełnienie to fragment wygenerowany przez Codestral, który wsuwa się między nie. Ostateczny wynik zawsze spełnia to samo równanie: prompt + completion + suffix = complete code.

Punkt końcowy /v1/fim/completions

Mistral AI udostępnia funkcję FIM poprzez dedykowany punkt końcowy. W przeciwieństwie do standardowego endpointu czatu, ten przyjmuje parametry prompt i suffix zamiast tablicy wiadomości.

Struktura żądania

from mistralai.client import Mistral

client = Mistral(api_key="your_api_key")

response = client.fim.complete(
    model="codestral-latest",
    prompt="def fibonacci(n: int):",
    suffix="n = int(input('Enter a number: '))\nprint(fibonacci(n))",
    temperature=0,
)

print(response.choices[0].message.content)

W tym przykładzie Codestral otrzymuje sygnaturę funkcji fibonacci jako prompt, a kod wywołujący jako sufiks. Jego zadaniem jest wygenerowanie ciała funkcji, które zamieni tę sygnaturę w działającą implementację, wiedząc, że funkcja zostanie wywołana z liczbą całkowitą podaną z klawiatury, a jej wartość zwracana zostanie wypisana bez zmian.

Kluczowe parametry

  • model — zawsze "codestral-latest" dla FIM
  • prompt — kod przed kursorem (wymagany)
  • suffix — kod po kursorze (opcjonalny, ale zalecany)
  • temperature — 0 dla wyników deterministycznych, 0.2-0.7 dla większej różnorodności
  • max_tokens — ogranicza długość generowanego uzupełnienia
  • stop — lista tokenów zatrzymujących (np. ["\n\n"], aby zatrzymać generowanie po bloku)

Konkretne przykład: Uzupełnianie klasy w Pythonie

Spójrzmy na typowy scenariusz: piszesz usługę i brakuje Ci metody w środku klasy.

prompt = """class UserService:
    def __init__(self, db):
        self.db = db

    def get_user(self, user_id: int):
"""

suffix = """
    def delete_user(self, user_id: int):
        return self.db.execute("DELETE FROM users WHERE id = ?", (user_id,))
"""

response = client.fim.complete(
    model="codestral-latest",
    prompt=prompt,
    suffix=suffix,
    temperature=0,
    max_tokens=200,
)

Sufiks wykonuje tutaj najcięższą pracę w zakresie kontekstu. Widząc delete_user, Codestral dowiaduje się trzech rzeczy: klasa odpytuje bazę danych przez self.db.execute, używa sparametryzowanych zapytań z ? i zwraca wynik bezpośrednio, bez warstwy pośredniej. Wnioskuję, że get_user musi podążać dokładnie tym samym wzorcem i generuje:

        return self.db.execute("SELECT * FROM users WHERE id = ?", (user_id,))

Spróbuj powtórzyć to ćwiczenie bez sufiksu, a zobaczysz różnicę. Pozbawiony tego kotwiczenia, model często wymyśli ORM lub kursor, które nie istnieją nigdzie w Twoim projekcie.

FIM kontra Czat: Wybór właściwego narzędzia

SytuacjaPunkt końcowyDlaczego
Autouzupełnianie w IDEFIMDostępny kontekst przed I za kursorem
Generowanie kompletnej funkcjiCzatSufiks nie jest potrzebny
Uzupełnianie pliku konfiguracyjnegoFIMIstniejący format i struktura prowadzą uzupełnienie
Wyjaśnianie koduCzatZadanie w języku naturalnym, nie uzupełnianie
Pisanie testów jednostkowychCzat lub FIMFIM, jeśli plik testowy istnieje już częściowo

Jak najlepiej wykorzystać FIM

Jakość uzupełnienia zależy przede wszystkim od dostarczonego kontekstu. Dołącz do prompta importy, klasę rodzica i funkcje sąsiadujące. Informują one model, jakie biblioteki są dostępne i jaki styl przyjąć. Sufiks zasługuje na szczególną uwagę, ponieważ bez niego FIM degraduje się do standardowego generowania i traci swoją wartość.

Jeśli chodzi o ustawienia, autouzupełnianie w IDE działa najlepiej przy temperature=0, dzięki czemu ta sama sytuacja zawsze generuje tę samą sugestię. Deweloper, który widzi zmieniającą się propozycję przy każdym naciśnięciu klawisza, w końcu wyłączy tę funkcję. Utrzymuj max_tokens na niskim poziomie, między 50 a 200, ponieważ uzupełniasz linię lub blok, a nie cały moduł. Na koniec tokeny zatrzymujące zapobiegają przepełnieniu: stop=["\n\n"] ucina generowanie na końcu bieżącego bloku, zamiast pozwalać modelowi na przepisanie połowy pliku.

Kluczowe wnioski

  • FIM uzupełnia kod między prompem (przed) a sufiksem (po)
  • Dedykowany punkt końcowy to /v1/fim/completions
  • Wynik to: prompt + completion + suffix = complete code
  • Sufiks jest niezbędny dla wysokiej jakości uzupełnień kontekstowych
  • Używaj temperature=0 i limitów tokenów do autouzupełniania w IDE