Naudojimo atvejai prognozuojamai išvestiai realiame pasaulyje
Šiame puslapyje
Trys naudojimui atvejų šeimos
Bendra šių trijų šeimų gija paprasta: prognozuojama išvestis (Predicted Outputs) atsiperka tada, kai didžioji dalis išvesties yra žinoma iš anksto. Užduoties pobūdis – kodas, tekstas ar šablonas – yra mažiau svarbus nei tos dalies, kurią gali pateikti kaip prognozę, santykis. Esant 90 % nepakitusio turinio, laimėjimas yra dramatiškas; esant 30 %, jis tampa nereikšmingas, nepaisant naudojimo atvejo.
Naršydamas toliau pateiktas tris šeimas, turėk omenyje šį santykį. Jos vaizduoja scenarijus, kuriuose šis santykis natūraliai yra didelis. Šioje pamokoje pamatysi konkrečius kiekvienos kategorijos pavyzdžius bei šablonus, kuriuos galėsi pritaikyti savo programose.
1 naudojimo atvejis: kodo redagavimas
Tai pats natūraliausias variantas, nes kodas mechaniškai maksimizuoja santykį: pervardinus kintamąjį 500 eilučių faile, 498 eilutės lieka visiškai identiškos. Pradedi nuo esamo šaltinio failo ir nori atlikti tikslinį pakeitimą. Modeliui tereikia sugeneruoti iš naujo tik pakeistas eilutes.
Kintamojo pervardinimas
existing_code = """
def calculate_total(items):
tax_rate = 0.20
subtotal = sum(item.price for item in items)
tax = subtotal * tax_rate
total = subtotal + tax
return total
"""
prompt = (
"Rename the variable 'tax_rate' to 'vat_rate' throughout this code. "
"Reply with only the modified code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Modelis žino, kad kodo struktūra lieka identiška. Jis perskaičiuoja tik tuos tokenus, kuriems paveikė pervardinimas.
Importo arba priklausomybės keitimas
existing_code = """
from flask import Flask, request, jsonify
from flask_cors import CORS
app = Flask(__name__)
CORS(app)
@app.route('/api/predict', methods=['POST'])
def predict():
data = request.get_json()
result = model.predict(data['input'])
return jsonify({'prediction': result})
"""
prompt = (
"Migrate this code from Flask to FastAPI. "
"Keep the same business logic. "
"Reply with only the code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
2 naudojimo atvejis: teksto redagavimas
Tekstui galioja ta pati logika kaip ir kodui, tačiau yra viena svarbi niuansa: teksto pakeitimai dažnai būna mažiau lokalizuoti, nei gali atrodyti. Pakeitus skaičių ataskaitoje, gali tekti perrašyti sakinį, kuriame jis komentuojamas, santraukos pastraipą ir išvadą. Nauda yra reali, tačiau vertink ją savo faktiniuose dokumentuose, o ne daryk prielaidos, kad ji lygi tai, kurią matai dirbdamas su kodu.
Ataskaitos skyriaus atnaujinimas
report = """
# Q4 2025 Quarterly Report
## Executive Summary
Revenue reached €2.3M in Q4 2025, up 15%
from Q3. Operating margin stands at 22%.
## Sales Performance
The sales team signed 47 new contracts, including 12 key accounts.
Average deal size grew 8% to €49,000.
## Q1 2026 Outlook
We anticipate 10% growth driven by the launch of the
Enterprise product and expansion into the German market.
"""
prompt = (
"Update this report for Q1 2026 with the following data: "
"Revenue = €2.7M (+17%), margin = 24%, 53 new contracts, "
"average deal size = €51,000 (+4%). "
"For the Q2 outlook, mention expansion into the Benelux region. "
"Keep the exact same structure."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": report}
],
prediction={"type": "content", "content": report}
)
3 naudojimo atvejis: šablonų pildymas
Kai turi fiksuotą šabloną, kuriame keičiasi tik kelios reikšmės, prognozė yra beveik tobula:
email_template = """
Hello {name},
Following up on our conversation on {date}, I confirm the following points:
1. The {project} project will start on {start_date}
2. The team will consist of {num_people} people
3. The estimated budget is €{budget} (excl. tax)
I remain at your disposal for any questions.
Best regards,
{signatory}
"""
# Partially fill the template for prediction
prediction = email_template.replace("{name}", "Mr. Dupont")
prediction = prediction.replace("{signatory}", "Marie Martin")
prompt = (
"Complete this email with the following information: "
"date = March 28, 2026, project = Cloud Migration, "
"start_date = April 15, 2026, num_people = 5, "
"budget = 85,000."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": prediction}
],
prediction={"type": "content", "content": prediction}
)
Realių laimėjimų matavimas
Norint įvertinti prognozuojamos išvesties (Predicted Outputs) efektyvumą tavo naudojimo atveju, reikia sistemiškai palyginti vykdymus su prognoze ir be jos:
import time
# Without prediction
start = time.time()
resp_normal = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
time_normal = time.time() - start
# With prediction
start = time.time()
resp_predicted = client.chat.complete(
model="mistral-large-latest",
messages=messages,
prediction={"type": "content", "content": predicted_content}
)
time_predicted = time.time() - start
gain = (1 - time_predicted / time_normal) * 100
print(f"Without prediction: {time_normal:.2f}s")
print(f"With prediction: {time_predicted:.2f}s")
print(f"Latency gain : {gain:.1f}%")
Laimėjimas kinta priklausomai nuo teisingai prognozuoto turinio procentinės dalies. Jei 500 eilučių faile keičiama 5 %, tikėkis 60–80 % latentiškumo sumažėjimo.
Svarbiausi punktai
- Kodo redagavimas (pervardinimas, migracija, lengvas refaktorizavimas) yra pagrindinis naudojimo atvejis.
- Teksto redagavimas (ataskaitos, dokumentai) gauna naudos iš stabilios struktūros.
- Šablonai su keliomis dinaminėmis reikšmėmis siūlo geriausią laimėjimo ir pastangų santykį.
- Prieš diegiant į gamybinę aplinką, visada išmatuok realų laimėjimą savo kontekste.