Příklady využití předpovězených výstupů v praxi
Na této stránce
Tři rodiny případů využití
Společným jmenovatelem těchto tří rodin je jednoduchá skutečnost: Předpovězené výstupy se vyplatí, když je většina výstupu známá předem. Na povaze úkolu – zda jde o kód, text nebo šablonu – záleží méně než na podílu výsledku, který dokážeš poskytnout jako předpověď. Při 90 % nezměněného obsahu je zisk dramatický; při 30 % se stává zanedbatelným, bez ohledu na konkrétní případ využití.
Měj tento poměr na paměti, až budeš procházet níže uvedené tři rodiny. Představují scénáře, kde je tento poměr přirozeně vysoký. V této lekci uvidíš konkrétní příklady pro každou kategorii spolu se vzory, které můžeš replikovat ve svých vlastních aplikacích.
Případ využití 1: Úprava kódu
Toto je nej přirozenější volba, protože kód mechanicky maximalizuje daný poměr: přejmenování proměnné v souboru o 500 řádcích ponechá 498 řádků zcela identických. Začínáš s existujícím zdrojovým souborem a chceš provést cílenou změnu. Model potřebuje pouze regenerovat upravené řádky.
Přejmenování proměnné
existing_code = """
def calculate_total(items):
tax_rate = 0.20
subtotal = sum(item.price for item in items)
tax = subtotal * tax_rate
total = subtotal + tax
return total
"""
prompt = (
"Rename the variable 'tax_rate' to 'vat_rate' throughout this code. "
"Reply with only the modified code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Model ví, že struktura kódu zůstává identická. Přepočítává pouze tokeny dotčené přejmenováním.
Změna importu nebo závislosti
existing_code = """
from flask import Flask, request, jsonify
from flask_cors import CORS
app = Flask(__name__)
CORS(app)
@app.route('/api/predict', methods=['POST'])
def predict():
data = request.get_json()
result = model.predict(data['input'])
return jsonify({'prediction': result})
"""
prompt = (
"Migrate this code from Flask to FastAPI. "
"Keep the same business logic. "
"Reply with only the code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Případ využití 2: Úprava textu
Text se řídí stejnou logikou jako kód, s jedním důležitým nuancí: změny v textu jsou často méně lokalizované, než bys mohl očekávat. Změna čísla ve zprávě může spustit přepis věty, která se k němu vyjadřuje, odstavce shrnutí i závěru. Zisk je reálný, ale měř jej na svých skutečných dokumentech, místo abys předpokládal, že se rovná zisku, který vidíš u kódu.
Aktualizace sekce ve zprávě
report = """
# Q4 2025 Quarterly Report
## Executive Summary
Revenue reached €2.3M in Q4 2025, up 15%
from Q3. Operating margin stands at 22%.
## Sales Performance
The sales team signed 47 new contracts, including 12 key accounts.
Average deal size grew 8% to €49,000.
## Q1 2026 Outlook
We anticipate 10% growth driven by the launch of the
Enterprise product and expansion into the German market.
"""
prompt = (
"Update this report for Q1 2026 with the following data: "
"Revenue = €2.7M (+17%), margin = 24%, 53 new contracts, "
"average deal size = €51,000 (+4%). "
"For the Q2 outlook, mention expansion into the Benelux region. "
"Keep the exact same structure."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": report}
],
prediction={"type": "content", "content": report}
)
Případ využití 3: Vyplňování šablon
Pokud máš pevnou šablonu, kde se mění jen několik hodnot, je předpověď téměř dokonalá:
email_template = """
Hello {name},
Following up on our conversation on {date}, I confirm the following points:
1. The {project} project will start on {start_date}
2. The team will consist of {num_people} people
3. The estimated budget is €{budget} (excl. tax)
I remain at your disposal for any questions.
Best regards,
{signatory}
"""
# Partially fill the template for prediction
prediction = email_template.replace("{name}", "Mr. Dupont")
prediction = prediction.replace("{signatory}", "Marie Martin")
prompt = (
"Complete this email with the following information: "
"date = March 28, 2026, project = Cloud Migration, "
"start_date = April 15, 2026, num_people = 5, "
"budget = 85,000."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": prediction}
],
prediction={"type": "content", "content": prediction}
)
Měření zisků v reálném provozu
Chcete-li vyhodnotit efektivitu předpovězených výstupů pro svůj případ využití, systematicky porovnávejte běhy s předpovědí a bez ní:
import time
# Without prediction
start = time.time()
resp_normal = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
time_normal = time.time() - start
# With prediction
start = time.time()
resp_predicted = client.chat.complete(
model="mistral-large-latest",
messages=messages,
prediction={"type": "content", "content": predicted_content}
)
time_predicted = time.time() - start
gain = (1 - time_predicted / time_normal) * 100
print(f"Without prediction: {time_normal:.2f}s")
print(f"With prediction: {time_predicted:.2f}s")
print(f"Latency gain : {gain:.1f}%")
Zisk se liší v závislosti na procentu obsahu, který byl správně předpovězen. Při 5% změně v souboru o 500 řádcích očekávej snížení latence o 60 % až 80 %.
Klíčové poznatky
- Úprava kódu (přejmenování, migrace, lehký refaktoring) je hlavním případem využití
- Úprava textu (zprávy, dokumenty) těží ze stabilní struktury
- Šablony s několika dynamickými hodnotami nabízejí nejlepší poměr zisku k vynaložené námaze
- Před nasazením do produkce vždy změř skutečný zisk ve svém konkrétním kontextu