Outputs Imbassra: Risposti Aktar Mgħaġġla
F'din il-paġna
Lezzjoni aġġornata fit-3 ta’ Novembru 2026 abbażi tal-gwida Predicted Outputs u l-paġna tad-deprekazzjoni ta’ OpenAI: din il-karatteristika teżisti biss f’Chat Completions (il-parametru
predictionma jiġix aċċettat mill-API tar-Risposti, allura l-verżjoni preċedenti ta’ din il-lezzjoni kienet tonqos) u biss mal-mudelli GPT-4o, GPT-4o mini, GPT-4.1, u GPT-4.1 mini, li OpenAI se tirtira fl-14 ta’ Jannar 2027 (GPT-4.1 nano ġie rtirat fit-23 ta’ Ottubru). Il-gwida ma telenka l-ebda mudell ġdid kompatibbli: tibni prodotti ġodda fuq din il-karatteristika mingħajr pjan ta’ ħruġ. Sorsi: Predicted Outputs · Deprecations.
Ħaffef ir-risposti meta diġà tkun taf l-istruttura
L-Outputs Imbassra (Predicted Outputs) jindirizzaw xenarju ta’ produzzjoni komuni ħafna: titlob lill-mudell jimmodifika kontenut eżistenti, u tkun taf minn qabel li l-biċċa l-kbira tar-riżultat tkun identika għad-dħul. Mingħajr tbassir, il-mudell jiġġenera kull token mill-bidu, inklużi linji li ħadd ma talbu jmiss. Bit-tbassir, tipprovdi t-test mistenni; il-mudell jivvalida x’jaqbel u jiġġenera biss b’mod awtentiku l-partijiet li jvarjaw. Il-latency tonqos skont dan.
Dan il-bidla tbiddel b’mod partikolari l-profil tal-kompiti ta’ editjar. Assistent li jikteb mill-ġdid fajl ta’ mitejn linja biex ibiddel firma ta’ funzjoni ma jħallasx iktar biex jiġġenera l-fajl kollu, iżda biss għal-linji mmissa: il-biċċa l-kbira tax-xogħol tinżel għal tqabbil. Il-każijiet rilevanti kollha jixbhu lil xulxin: editjar tal-kodiċi, fejn tibgħat il-fajl sħiħ għal bidla mmirata; kitba mill-ġdid parzjali, fejn biss paragrafu wieħed ta’ dokument twil jeħtieġ li jiġi riformulat; tlestija ta’ mudelli, fejn biss il-kampijiet varjabbli jinbidlu; u aġġornamenti ta’ data strutturata, fejn żewġ jew tliet valuri f’JSON jevolvu filwaqt li l-bqija tal-istruttura tibqa’. F’kull wieħed minn dawn il-każijiet, ir-risposta mistennija diġà teżisti b’differenzi żgħar biss.
Eżempju ta’ editjar tal-kodiċi
Is-sejħa tinbena bħal sejħa standard ta’ Chat Completions, miżjuda b’parametru prediction li jġorr il-kontenut li tbassar.
import openai
client = openai.OpenAI()
code_original = """
def calculate_price(quantity, unit_price, vat=0.20):
subtotal = quantity * unit_price
total = subtotal * (1 + vat)
return total
def format_invoice(client, items):
lines = []
for item in items:
price = calculate_price(item["qty"], item["price"])
lines.append(f"{item['name']}: {price:.2f}€")
return "\n".join(lines)
"""
# Nibbassaw li l-biċċa l-kbira tal-kodiċi tibqa' identika
instruction = (
"Immodifika l-funzjoni calculate_price biex iżżid parametru ta' skont "
"b'valur predefinit ta' 0. Applika l-iskont qabel il-VAT. "
"Irrispondi bil-kodiċi biss."
)
completion = client.chat.completions.create(
model="gpt-4.1",
messages=[
{"role": "user", "content": instruction},
{"role": "user", "content": code_original},
],
prediction={
"type": "content",
"content": code_original, # It-tbassir
},
)
print(completion.choices[0].message.content)
# Il-mudell jiġġenera mill-ġdid biss il-linji mmodifikati — latency imnaqqsa
Il-funzjoni format_invoice ma tintlaqatx mit-talba: tiġi vvalidata hekk kif inhi, mingħajr l-ebda kost ta’ ġenerazzjoni. Biss il-linji ta’ calculate_price li jakkomodaw il-parametru l-ġdid jiġu prodotti b’mod awtentiku.
Il-mekkaniżmu ta’ validazzjoni
Li tifhem x’jiġri taħt il-qoxra jevita żewġ fehimiet żbaljati komuni. Il-mudell iqabbel il-ġenerazzjoni tiegħu stess, token b’token, mat-tbassir li pprovdejt; sakemm it-tnejn jaqblu, it-tokens jiġu vvalidati istantanjament, u jevitaw il-kalkolu sħiħ tal-ġenerazzjoni. Hekk kif jiddiverġu, il-ġenerazzjoni normali tieħu over. Ir-riżultat finali għalhekk jibqa’ korrett: it-tbassir iħaffef l-affarijiet, ma jfurza xejn. Jekk it-tbassir tiegħek ikun żbaljat, xorta tikseb it-tweġiba t-tajba, sempliċiment mingħajr il-gwadann.
It-tieni fehim żbaljat jikkonċerna l-prezz. It-tokens tat-tbassir miċħuda jiġu ffratturati, li jagħmel l-operazzjoni kontra-produċenti meta r-risposta mistennija m’għandha xejn x’taqsam mat-tbassir. Għalhekk, kejjel ir-rata ta’ aċċettazzjoni qabel ma tġeneralizza l-mudell.
completion = client.chat.completions.create(
model="gpt-4.1",
messages=[
{"role": "user", "content": "Żid parametru ta' skont fil-funzjoni calculate_price."},
{"role": "user", "content": code_original},
],
prediction={
"type": "content",
"content": code_original,
},
)
usage = completion.usage
print(f"Tokens tal-output: {usage.completion_tokens}")
print(f"Tokens aċċettati (tbassir): "
f"{usage.completion_tokens_details.accepted_prediction_tokens}")
print(f"Tokens miċħuda (tbassir): "
f"{usage.completion_tokens_details.rejected_prediction_tokens}")
# Aktar ma tkun għolja l-proporzjon aċċettat/totali, akbar ikun il-gwadann
Deċiżjoni awtomatika
Peress li l-gwadann jiddependi għalkollox fuq it-tip ta’ talba, id-deċiżjoni li tattivax it-tbassir jew le għandha tiġi kkodifikata minflok ma titħalla f’idejn kull żviluppatur. L-euristika hawn taħt tirrifjuta t-tbassir fuq testi li huma qosra wisq, fejn l-overhead tal-bagħat jikkanċella l-benefiċċju, u tirriżervah għal struzzjonijiet li jesprimu modifika.
def should_use_prediction(original_text: str, instruction: str) -> bool:
"""Euristika biex tiddeċiedi jekk l-Outputs Imbassra jiswewx."""
# It-test irid ikun twil biżżejjed
if len(original_text) < 200:
return False
# L-istruzzjoni trid tkun modifika mmirata
edit_words = ["modify", "change", "replace", "add", "fix"]
is_edit = any(word in instruction.lower() for word in edit_words)
return is_edit
L-istess raġunament japplika għad-data strutturata, fejn ir-rendiment huwa saħansitra aħjar: JSON ta’ konfigurazzjoni jżomm iċ-ċwievet, l-indentazzjoni u l-ordni tiegħu, u biss il-valuri jinbidlu.
import json
original_data = {
"company": "Corsen AI",
"employees": 42,
"departments": ["Engineering", "Sales", "Marketing"],
"address": {
"street": "123 Avenue de la République",
"city": "Paris",
"zip_code": "75011",
},
}
json_original = json.dumps(original_data, indent=2, ensure_ascii=False)
completion = client.chat.completions.create(
model="gpt-4.1",
messages=[
{"role": "user", "content": (
"Aġġorna l-JSON li ġej: ibdel in-numru ta' impjegati "
"għal 58 u żid id-dipartiment tax-Xjenza tad-Data. Irrispondi b'JSON biss."
)},
{"role": "user", "content": json_original},
],
prediction={
"type": "content",
"content": json_original,
},
)
Tliet avvertenzi qabel ma tiddispjega. L-istreaming huwa kompatibbli, u hemmhekk proprju fejn il-gwadann fil-latency huwa l-aktar notevoli. Diversi parametri, madankollu, mhumiex: n akbar minn 1, logprobs, presence_penalty jew frequency_penalty pożittivi, awdjo, modalitajiet oħra ħlief it-test, max_completion_tokens, u għodod (sejħa ta’ funzjoni). Fl-aħħar nett, il-karatteristika hija marbuta ma’ mudelli fi tmiem iċ-ċiklu tal-ħajja tagħhom: GPT-4o, GPT-4o mini, GPT-4.1, u GPT-4.1 mini jieqfu fl-14 ta’ Jannar 2027, u l-ebda mudell iktar ġdid ma tħabbar bħala kompatibbli. Għal editjar mgħaġġel fuq mudelli attwali, it-triq sostenibbli hija li titlob lill-mudell għal diff jew patch minflok il-fajl sħiħ.
Punti Ewlenin
- L-Outputs Imbassra jħafffu r-risposti meta tkun taf l-istruttura mistennija — f’Chat Completions biss
- Ideali għal editjar tal-kodiċi, aġġornamenti ta’ JSON, kitba mill-ġdid parzjali
- Iċċekkja
accepted_prediction_tokensbiex tkejjel il-gwadann reali - It-tokens tat-tbassir miċħuda jiġu ffratturati: tibbassax b’mod każwali
- Tużahomx għal ġenerazzjonijiet ġodda għalkollox
- Il-mudelli kompatibbli (GPT-4o, GPT-4.1 u l-verżjonijiet mini tagħhom) ġew irtirati fl-14 ta’ Jannar 2027: ippjana alternattiva, bħall-ġenerazzjoni ta’ diff