Случаи на употреба в реалния свят за предвидени изходи
На тази страница
Три семейства случаи на употреба
Общата нишка, свързваща тези три семейства, е проста: Предвидените изходи (Predicted Outputs) дават резултат, когато по-голямата част от изхода е известна предварително. Естеството на задачата – код, текст или шаблон – има по-малко значение от дела на резултата, който можете да предоставите като прогноза. При 90% непроменено съдържание печалбата е драстична; при 30% тя става незначителна, независимо от случая на употреба.
Имайте предвид това съотношение, докато разглеждате трите семейства по-долу. Те представляват сценарии, при които това съотношение е естествено високо. В този урок ще видите конкретни примери за всяка категория, заедно с модели, които можете да възпроизведете във вашите собствени приложения.
Случай на употреба 1: Редактиране на код
Това е най-естественото приложение, тъй като кодът механично максимизира съотношението: преименуването на променлива във файл от 500 реда оставя 498 реда строго идентични. Започвате със съществуващ изходен файл и искате да направите целева промяна. Моделът трябва само да регенерира модифицираните редове.
Преименуване на променлива
existing_code = """
def calculate_total(items):
tax_rate = 0.20
subtotal = sum(item.price for item in items)
tax = subtotal * tax_rate
total = subtotal + tax
return total
"""
prompt = (
"Rename the variable 'tax_rate' to 'vat_rate' throughout this code. "
"Reply with only the modified code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Моделът знае, че структурата на кода остава идентична. Той преизчислява само токените, засегнати от преименуването.
Промяна на импорт или зависимост
existing_code = """
from flask import Flask, request, jsonify
from flask_cors import CORS
app = Flask(__name__)
CORS(app)
@app.route('/api/predict', methods=['POST'])
def predict():
data = request.get_json()
result = model.predict(data['input'])
return jsonify({'prediction': result})
"""
prompt = (
"Migrate this code from Flask to FastAPI. "
"Keep the same business logic. "
"Reply with only the code."
)
response = client.chat.complete(
model="codestral-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": existing_code}
],
prediction={"type": "content", "content": existing_code}
)
Случай на употреба 2: Редактиране на текст
Текстът следва същата логика като кода, с една важна нюанс: промените в текста често са по-малко локализирани, отколкото бихте си помислили. Промяната на число в доклад може да предизвика пренаписване на изречението, което го коментира, на обобщаващия параграф и на заключението. Печалбата е реална, но я измервайте върху вашите действителни документи, вместо да приемате, че е равна на печалбата, която наблюдавате при кода.
Актуализиране на секция в доклад
report = """
# Q4 2025 Quarterly Report
## Executive Summary
Revenue reached €2.3M in Q4 2025, up 15%
from Q3. Operating margin stands at 22%.
## Sales Performance
The sales team signed 47 new contracts, including 12 key accounts.
Average deal size grew 8% to €49,000.
## Q1 2026 Outlook
We anticipate 10% growth driven by the launch of the
Enterprise product and expansion into the German market.
"""
prompt = (
"Update this report for Q1 2026 with the following data: "
"Revenue = €2.7M (+17%), margin = 24%, 53 new contracts, "
"average deal size = €51,000 (+4%). "
"For the Q2 outlook, mention expansion into the Benelux region. "
"Keep the exact same structure."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": report}
],
prediction={"type": "content", "content": report}
)
Случай на употреба 3: Попълване на шаблони
Когато разполагате с фиксиран шаблон, в който се променят само няколко стойности, прогнозата е почти перфектна:
email_template = """
Hello {name},
Following up on our conversation on {date}, I confirm the following points:
1. The {project} project will start on {start_date}
2. The team will consist of {num_people} people
3. The estimated budget is €{budget} (excl. tax)
I remain at your disposal for any questions.
Best regards,
{signatory}
"""
# Partially fill the template for prediction
prediction = email_template.replace("{name}", "Mr. Dupont")
prediction = prediction.replace("{signatory}", "Marie Martin")
prompt = (
"Complete this email with the following information: "
"date = March 28, 2026, project = Cloud Migration, "
"start_date = April 15, 2026, num_people = 5, "
"budget = 85,000."
)
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": prompt},
{"role": "user", "content": prediction}
],
prediction={"type": "content", "content": prediction}
)
Измерване на печалбите в реалния свят
За да оцените ефективността на Предвидените изходи за вашия случай на употреба, систематично сравнявайте изпълненията с и без прогноза:
import time
# Without prediction
start = time.time()
resp_normal = client.chat.complete(
model="mistral-large-latest",
messages=messages
)
time_normal = time.time() - start
# With prediction
start = time.time()
resp_predicted = client.chat.complete(
model="mistral-large-latest",
messages=messages,
prediction={"type": "content", "content": predicted_content}
)
time_predicted = time.time() - start
gain = (1 - time_predicted / time_normal) * 100
print(f"Without prediction: {time_normal:.2f}s")
print(f"With prediction: {time_predicted:.2f}s")
print(f"Latency gain : {gain:.1f}%")
Печалбата варира в зависимост от процента на правилно предвиденото съдържание. За промяна от 5% във файл от 500 реда очаквайте намаление на латентността между 60% и 80%.
Ключови изводи
- Редактирането на код (преименуване, миграция, леко рефакториране) е основният случай на употреба
- Редактирането на текст (доклади, документи) се възползва от стабилна структура
- Шаблоните с няколко динамични стойности предлагат най-добро съотношение между печалба и усилия
- Винаги измервайте реалната печалба във вашия контекст, преди да внедрите решението в продукция