Reaalsed kasutusjuhtumid ennustatud väljundite jaoks
Sellel lehel
Kolm kasutusjuhtumite perekonda
Nende kolme perekonna ühine joon on lihtne: ennustatud väljundid tasuvad end ära siis, kui suurem osa väljundist on ette teada. Ülesande olemus – olgu see kood, tekst või mall – loeb vähem kui tulemuse osa, mille saad ennustusena pakkuda. Kui 90% sisust jääb muutumatuks, on võit drastiline; kui ainult 30%, muutub see tühiseks, sõltumata kasutusjuhtumist.
Pea seda suhet meeles, kui uurid allpool toodud kolme perekonda. Need esindavad stsenaariume, kus see suhe on loomupäraselt kõrge. Selles õppetükis näed iga kategooria kohta konkreetseid näiteid ning mustreid, mida saad oma rakendustes korrata.
Kasutusjuhtum 1: Koodi redigeerimine
See on kõige loomulikum valik, sest kood maksimeerib suhet mehaaniliselt: muutuja ümbernimetamine 500-realis failis jätab 498 rida rangelt identseks. Alustad olemasolevast lähtefailist ja soovid teha sihipärast muudatust. Mudel peab uuesti genereerima ainult muudetud read.
Muutuja ümbernimetamine
existing_code = """
def calculate_total(items):
tax_rate = 0.20
subtotal = sum(item.price for item in items)
tax = subtotal * tax_rate
total = subtotal + tax
return total
"""
prompt = (
"Rename the variable 'tax_rate' to 'vat_rate' throughout this code. "
"Reply with only the modified code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Mudel teab, et koodi struktuur jääb identseks. See arvutab ümber ainult need tokenid, mida ümbernimetamine mõjutab.
Impordi või sõltuvuse muutmine
existing_code = """
from flask import Flask, request, jsonify
from flask_cors import CORS
app = Flask(__name__)
CORS(app)
@app.route('/api/predict', methods=['POST'])
def predict():
data = request.get_json()
result = model.predict(data['input'])
return jsonify({'prediction': result})
"""
prompt = (
"Migrate this code from Flask to FastAPI. "
"Keep the same business logic. "
"Reply with only the code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Kasutusjuhtum 2: Teksti redigeerimine
Tekst järgib sama loogikat kui kood, kuid ühe olulise nüansiga: teksti muutused on sageli vähem lokaliseeritud, kui esmapilgul arvata võiks. Aruandes numbri muutmine võib käivitada seda kommenteeriva lause, kokkuvõtva lõigu ja järelduse ümberkirjutamise. Võit on reaalne, kuid mõõda seda oma tegelike dokumentide peal, selle asemel et eeldada, et see võrdub koodiga saadud võiduga.
Lõigu uuendamine aruandes
report = """
# Q4 2025 Quarterly Report
## Executive Summary
Revenue reached €2.3M in Q4 2025, up 15%
from Q3. Operating margin stands at 22%.
## Sales Performance
The sales team signed 47 new contracts, including 12 key accounts.
Average deal size grew 8% to €49,000.
## Q1 2026 Outlook
We anticipate 10% growth driven by the launch of the
Enterprise product and expansion into the German market.
"""
prompt = (
"Update this report for Q1 2026 with the following data: "
"Revenue = €2.7M (+17%), margin = 24%, 53 new contracts, "
"average deal size = €51,000 (+4%). "
"For the Q2 outlook, mention expansion into the Benelux region. "
"Keep the exact same structure."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": report}
],
prediction={"type": "content", "content": report}
)
Kasutusjuhtum 3: Mallide täitmine
Kui sul on fikseeritud mall, kus muutuvad vaid mõned väärtused, on ennustus peaaegu täiuslik:
email_template = """
Hello {name},
Following up on our conversation on {date}, I confirm the following points:
1. The {project} project will start on {start_date}
2. The team will consist of {num_people} people
3. The estimated budget is €{budget} (excl. tax)
I remain at your disposal for any questions.
Best regards,
{signatory}
"""
# Partially fill the template for prediction
prediction = email_template.replace("{name}", "Mr. Dupont")
prediction = prediction.replace("{signatory}", "Marie Martin")
prompt = (
"Complete this email with the following information: "
"date = March 28, 2026, project = Cloud Migration, "
"start_date = April 15, 2026, num_people = 5, "
"budget = 85,000."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": prediction}
],
prediction={"type": "content", "content": prediction}
)
Reaalsete võitude mõõtmine
Et hinnata ennustatud väljundite tõhusust sinu kasutusjuhtumi puhul, võrdle süstemaatiliselt käitusi ennustusega ja ilma selleta:
import time
# Without prediction
start = time.time()
resp_normal = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
time_normal = time.time() - start
# With prediction
start = time.time()
resp_predicted = client.chat.complete(
model="mistral-large-latest",
messages=messages,
prediction={"type": "content", "content": predicted_content}
)
time_predicted = time.time() - start
gain = (1 - time_predicted / time_normal) * 100
print(f"Without prediction: {time_normal:.2f}s")
print(f"With prediction: {time_predicted:.2f}s")
print(f"Latency gain : {gain:.1f}%")
Võit varieerub sõltuvalt õigesti ennustatud sisu protsendist. 500-realises failis 5% muutuse korral võid oodata latentsuse vähenemist 60% kuni 80%.
Peamised punktid
- Koodi redigeerimine (ümbernimetamine, migratsioon, kerge refaktoring) on peamine kasutusjuhtum
- Teksti redigeerimine (aruanded, dokumendid) saab kasu stabiilsest struktuurist
- Mallid, milles on vaid mõned dünaamilised väärtused, pakuvad parimat võidu ja vaeva suhet
- Mõõda alati reaalset võitu oma kontekstis enne tootmisse viimist