Cazuri de utilizare în lumea reală pentru ieșirile anticipate
Pe această pagină
Trei familii de cazuri de utilizare
Firul comun care leagă aceste trei familii este simplu: ieșirile anticipate (Predicted Outputs) devin eficiente atunci când majoritatea conținutului rezultat este cunoscut dinainte. Natura sarcinii – cod, text sau șablon – contează mai puțin decât proporția rezultatului pe care o puteți furniza ca predicție. La 90% conținut neschimbat, câștigul este dramatic; la 30%, devine neglijabil, indiferent de cazul de utilizare.
Aveți în vedere acest raport atunci când explorați cele trei familii de mai jos. Acestea reprezintă scenarii în care acest raport este natural ridicat. În această lecție, veți vedea exemple concrete pentru fiecare categorie, alături de modele pe care le puteți replica în propriile aplicații.
Cazul de utilizare 1: Editarea codului
Acesta este cel mai potrivit scenariu, deoarece codul maximizează mecanic raportul: redenumirea unei variabile într-un fișier de 500 de linii lasă 498 de linii strict identice. Pornești de la un fișier sursă existent și dorești să efectuezi o modificare țintită. Modelul trebuie doar să regenereze liniile modificate.
Redenumirea unei variabile
existing_code = """
def calculate_total(items):
tax_rate = 0.20
subtotal = sum(item.price for item in items)
tax = subtotal * tax_rate
total = subtotal + tax
return total
"""
prompt = (
"Rename the variable 'tax_rate' to 'vat_rate' throughout this code. "
"Reply with only the modified code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Modelul știe că structura codului rămâne identică. Acesta recalculează doar token-urile afectate de redenumire.
Modificarea unui import sau a unei dependențe
existing_code = """
from flask import Flask, request, jsonify
from flask_cors import CORS
app = Flask(__name__)
CORS(app)
@app.route('/api/predict', methods=['POST'])
def predict():
data = request.get_json()
result = model.predict(data['input'])
return jsonify({'prediction': result})
"""
prompt = (
"Migrate this code from Flask to FastAPI. "
"Keep the same business logic. "
"Reply with only the code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Cazul de utilizare 2: Editarea textului
Textul urmează aceeași logică precum codul, cu o nuanță importantă: modificările de text sunt adesea mai puțin localizate decât ați putea crede. Schimbarea unui număr într-un raport poate declanșa rescrierea propoziției care îl comentează, a paragrafului de rezumat și a concluziei. Câștigul este real, dar măsurați-l pe documentele dumneavoastră reale, în loc să presupuneți că este egal cu cel observat la cod.
Actualizarea unei secțiuni dintr-un raport
report = """
# Q4 2025 Quarterly Report
## Executive Summary
Revenue reached €2.3M in Q4 2025, up 15%
from Q3. Operating margin stands at 22%.
## Sales Performance
The sales team signed 47 new contracts, including 12 key accounts.
Average deal size grew 8% to €49,000.
## Q1 2026 Outlook
We anticipate 10% growth driven by the launch of the
Enterprise product and expansion into the German market.
"""
prompt = (
"Update this report for Q1 2026 with the following data: "
"Revenue = €2.7M (+17%), margin = 24%, 53 new contracts, "
"average deal size = €51,000 (+4%). "
"For the Q2 outlook, mention expansion into the Benelux region. "
"Keep the exact same structure."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": report}
],
prediction={"type": "content", "content": report}
)
Cazul de utilizare 3: Completarea șabloanelor
Atunci când aveți un șablon fix în care se modifică doar câteva valori, predicția este aproape perfectă:
email_template = """
Hello {name},
Following up on our conversation on {date}, I confirm the following points:
1. The {project} project will start on {start_date}
2. The team will consist of {num_people} people
3. The estimated budget is €{budget} (excl. tax)
I remain at your disposal for any questions.
Best regards,
{signatory}
"""
# Partially fill the template for prediction
prediction = email_template.replace("{name}", "Mr. Dupont")
prediction = prediction.replace("{signatory}", "Marie Martin")
prompt = (
"Complete this email with the following information: "
"date = March 28, 2026, project = Cloud Migration, "
"start_date = April 15, 2026, num_people = 5, "
"budget = 85,000."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": prediction}
],
prediction={"type": "content", "content": prediction}
)
Măsurarea câștigurilor în lumea reală
Pentru a evalua eficacitatea ieșirilor anticipate (Predicted Outputs) pentru cazul dumneavoastră de utilizare, comparați sistematic execuțiile cu și fără predicție:
import time
# Without prediction
start = time.time()
resp_normal = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
time_normal = time.time() - start
# With prediction
start = time.time()
resp_predicted = client.chat.complete(
model="mistral-large-latest",
messages=messages,
prediction={"type": "content", "content": predicted_content}
)
time_predicted = time.time() - start
gain = (1 - time_predicted / time_normal) * 100
print(f"Without prediction: {time_normal:.2f}s")
print(f"With prediction: {time_predicted:.2f}s")
print(f"Latency gain : {gain:.1f}%")
Câștigul variază în funcție de procentajul de conținut prezis corect. Pentru o modificare de 5% într-un fișier de 500 de linii, vă puteți aștepta la o reducere a latenței de 60% până la 80%.
Puncte cheie
- Editarea codului (redenumire, migrare, refactorizare ușoară) este cazul de utilizare principal
- Editarea textului (rapoarte, documente) beneficiază de o structură stabilă
- Șabloanele cu câteva valori dinamice oferă cel mai bun raport câștig/efort
- Măsurați întotdeauna câștigul real în contextul dumneavoastră înainte de a implementa în producție