Valós esetek a megjósolt kimenetekhez
Ezen az oldalon
A felhasználási esetek három családja
Ennél a három családnál a közös szál egyszerű: a megjósolt kimenetek (Predicted Outputs) akkor térülnek meg, ha a kimenet nagy része előre ismert. A feladat jellege – legyen az kód, szöveg vagy sablon – kevésbé számít, mint az eredménynek az a hányada, amelyet jóslatként megadhatsz. Ha a tartalom 90%-a változatlan, a nyereség drámai; ha csak 30%, akkor elhanyagolhatóvá válik, függetlenül a konkrét esettől.
Tartsd észben ezt az arányt, miközben áttekinted az alábbi három családot. Ezek olyan forgatókönyveket képviselnek, ahol ez az arány természetesen magas. Ebben a leckében konkrét példákat látsz minden kategóriára, valamint olyan mintázatokat, amelyeket saját alkalmazásaiddal is reprodukálhatsz.
1. felhasználási eset: Kódszerkesztés
Ez a legkézenfekvőbb megoldás, mert a kód mechanikusan maximalizálja az arányt: egy változó átnevezése egy 500 soros fájlban 498 sort változatlanul hagy. Egy meglévő forrásfájlból indulsz ki, és egy célzott módosítást szeretnél végrehajtani. A modellnek csak a módosított sorokat kell újragenerálnia.
Változó átnevezése
existing_code = """
def calculate_total(items):
tax_rate = 0.20
subtotal = sum(item.price for item in items)
tax = subtotal * tax_rate
total = subtotal + tax
return total
"""
prompt = (
"Rename the variable 'tax_rate' to 'vat_rate' throughout this code. "
"Reply with only the modified code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
A modell tudja, hogy a kód szerkezete változatlan marad. Csak az átnevezés által érintett tokeneket számolja újra.
Import vagy függőség módosítása
existing_code = """
from flask import Flask, request, jsonify
from flask_cors import CORS
app = Flask(__name__)
CORS(app)
@app.route('/api/predict', methods=['POST'])
def predict():
data = request.get_json()
result = model.predict(data['input'])
return jsonify({'prediction': result})
"""
prompt = (
"Migrate this code from Flask to FastAPI. "
"Keep the same business logic. "
"Reply with only the code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
2. felhasználási eset: Szövegszerkesztés
A szövegeknél ugyanaz a logika érvényes, mint a kódnál, egy fontos árnyalattal: a szövegmódosítások gyakran kevésbé lokalizáltak, mint gondolnád. Egy szám módosítása egy jelentésben újraírathatja a rá vonatkozó mondatot, az összefoglaló bekezdést és a következtetést is. A nyereség valós, de a saját dokumentumaidon mérd le, ne feltételezd, hogy ugyanakkora, mint a kód esetén tapasztalt gains.
Egy szakasz frissítése egy jelentésben
report = """
# Q4 2025 Quarterly Report
## Executive Summary
Revenue reached €2.3M in Q4 2025, up 15%
from Q3. Operating margin stands at 22%.
## Sales Performance
The sales team signed 47 new contracts, including 12 key accounts.
Average deal size grew 8% to €49,000.
## Q1 2026 Outlook
We anticipate 10% growth driven by the launch of the
Enterprise product and expansion into the German market.
"""
prompt = (
"Update this report for Q1 2026 with the following data: "
"Revenue = €2.7M (+17%), margin = 24%, 53 new contracts, "
"average deal size = €51,000 (+4%). "
"For the Q2 outlook, mention expansion into the Benelux region. "
"Keep the exact same structure."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": report}
],
prediction={"type": "content", "content": report}
)
3. felhasználási eset: Sablonkitöltés
Ha van egy rögzített sablonod, ahol csak néhány érték változik, a jóslat szinte tökéletes:
email_template = """
Hello {name},
Following up on our conversation on {date}, I confirm the following points:
1. The {project} project will start on {start_date}
2. The team will consist of {num_people} people
3. The estimated budget is €{budget} (excl. tax)
I remain at your disposal for any questions.
Best regards,
{signatory}
"""
# Partially fill the template for prediction
prediction = email_template.replace("{name}", "Mr. Dupont")
prediction = prediction.replace("{signatory}", "Marie Martin")
prompt = (
"Complete this email with the following information: "
"date = March 28, 2026, project = Cloud Migration, "
"start_date = April 15, 2026, num_people = 5, "
"budget = 85,000."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": prediction}
],
prediction={"type": "content", "content": prediction}
)
Valós nyereség mérése
A megjósolt kimenetek hatékonyságának értékeléséhez a saját esetedben rendszeresen hasonlítsd össze a jóslással és anélkül futtatott kísérleteket:
import time
# Without prediction
start = time.time()
resp_normal = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
time_normal = time.time() - start
# With prediction
start = time.time()
resp_predicted = client.chat.complete(
model="mistral-large-latest",
messages=messages,
prediction={"type": "content", "content": predicted_content}
)
time_predicted = time.time() - start
gain = (1 - time_predicted / time_normal) * 100
print(f"Without prediction: {time_normal:.2f}s")
print(f"With prediction: {time_predicted:.2f}s")
print(f"Latency gain : {gain:.1f}%")
A nyereség a helyesen megjósolt tartalom százalékos aránya alapján változik. Egy 500 soros fájl 5%-os módosítása esetén 60% és 80% közötti késleltetés-csökkenésre számíthatsz.
Főbb megállapítások
- A kódszerkesztés (átnevezés, migráció, könnyű refaktorálás) az elsődleges felhasználási eset
- A szövegszerkesztés (jelentések, dokumentumok) előnyös, ha a szerkezet stabil
- A néhány dinamikus értéket tartalmazó sablonok kínálják a legjobb nyereség/ráfordítás arányt
- Mielőtt éles környezetbe telepítenéd, mindig mérd le a valós nyereséget a saját kontextusodban