Casi d'uso reali per gli Output Predetti
In questa pagina
Tre famiglie di casi d’uso
Il filo conduttore di queste tre famiglie è semplice: gli Output Predetti danno il meglio di sé quando la maggior parte dell’output è nota in anticipo. La natura del compito—codice, testo o modello—conta meno della percentuale di risultato che puoi fornire come previsione. Con un contenuto immutato al 90%, il guadagno è drammatico; al 30%, diventa trascurabile, indipendentemente dal caso d’uso.
Tieni a mente questo rapporto mentre esplori le tre famiglie qui sotto. Rappresentano scenari in cui tale rapporto è naturalmente elevato. In questa lezione, vedrai esempi concreti per ogni categoria, insieme a schemi che potrai replicare nelle tue applicazioni.
Caso d’uso 1: Modifica del codice
Questo è l’adattamento più naturale perché il codice massimizza meccanicamente il rapporto: rinominare una variabile in un file di 500 righe ne lascia 498 strettamente identiche. Parti da un file sorgente esistente e vuoi apportare una modifica mirata. Il modello deve solo rigenerare le righe modificate.
Rinominare una variabile
existing_code = """
def calculate_total(items):
tax_rate = 0.20
subtotal = sum(item.price for item in items)
tax = subtotal * tax_rate
total = subtotal + tax
return total
"""
prompt = (
"Rename the variable 'tax_rate' to 'vat_rate' throughout this code. "
"Reply with only the modified code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Il modello sa che la struttura del codice rimane identica. Ricalcola solo i token interessati dalla rinomina.
Modificare un’importazione o una dipendenza
existing_code = """
from flask import Flask, request, jsonify
from flask_cors import CORS
app = Flask(__name__)
CORS(app)
@app.route('/api/predict', methods=['POST'])
def predict():
data = request.get_json()
result = model.predict(data['input'])
return jsonify({'prediction': result})
"""
prompt = (
"Migrate this code from Flask to FastAPI. "
"Keep the same business logic. "
"Reply with only the code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Caso d’uso 2: Modifica del testo
Il testo segue la stessa logica del codice, con una sfumatura importante: le modifiche al testo sono spesso meno localizzate di quanto si possa pensare. Cambiare un numero in un report può innescare la riscrittura della frase che lo commenta, del paragrafo di riepilogo e della conclusione. Il guadagno è reale, ma misuralo sui tuoi documenti effettivi invece di assumere che equivalga al guadagno osservato con il codice.
Aggiornare una sezione di un report
report = """
# Q4 2025 Quarterly Report
## Executive Summary
Revenue reached €2.3M in Q4 2025, up 15%
from Q3. Operating margin stands at 22%.
## Sales Performance
The sales team signed 47 new contracts, including 12 key accounts.
Average deal size grew 8% to €49,000.
## Q1 2026 Outlook
We anticipate 10% growth driven by the launch of the
Enterprise product and expansion into the German market.
"""
prompt = (
"Update this report for Q1 2026 with the following data: "
"Revenue = €2.7M (+17%), margin = 24%, 53 new contracts, "
"average deal size = €51,000 (+4%). "
"For the Q2 outlook, mention expansion into the Benelux region. "
"Keep the exact same structure."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": report}
],
prediction={"type": "content", "content": report}
)
Caso d’uso 3: Compilazione di modelli
Quando disponi di un modello fisso in cui cambiano solo pochi valori, la previsione è quasi perfetta:
email_template = """
Hello {name},
Following up on our conversation on {date}, I confirm the following points:
1. The {project} project will start on {start_date}
2. The team will consist of {num_people} people
3. The estimated budget is €{budget} (excl. tax)
I remain at your disposal for any questions.
Best regards,
{signatory}
"""
# Partially fill the template for prediction
prediction = email_template.replace("{name}", "Mr. Dupont")
prediction = prediction.replace("{signatory}", "Marie Martin")
prompt = (
"Complete this email with the following information: "
"date = March 28, 2026, project = Cloud Migration, "
"start_date = April 15, 2026, num_people = 5, "
"budget = 85,000."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": prediction}
],
prediction={"type": "content", "content": prediction}
)
Misurare i guadagni nel mondo reale
Per valutare l’efficacia degli Output Predetti per il tuo caso d’uso, confronta sistematicamente le esecuzioni con e senza previsione:
import time
# Without prediction
start = time.time()
resp_normal = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
time_normal = time.time() - start
# With prediction
start = time.time()
resp_predicted = client.chat.complete(
model="mistral-large-latest",
messages=messages,
prediction={"type": "content", "content": predicted_content}
)
time_predicted = time.time() - start
gain = (1 - time_predicted / time_normal) * 100
print(f"Without prediction: {time_normal:.2f}s")
print(f"With prediction: {time_predicted:.2f}s")
print(f"Latency gain : {gain:.1f}%")
Il guadagno varia in base alla percentuale di contenuto correttamente previsto. Per una modifica del 5% in un file di 500 righe, aspettati una riduzione della latenza dal 60% all’80%.
Punti chiave
- La modifica del codice (rinomina, migrazione, refactoring leggero) è il caso d’uso principale
- La modifica del testo (report, documenti) beneficia di una struttura stabile
- I modelli con pochi valori dinamici offrono il miglior rapporto guadagno/sforzo
- Misura sempre il guadagno reale nel tuo contesto prima di procedere alla messa in produzione