Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Outputs Imbassra: Risposti Aktar Mgħaġġla

Lezzjoni 4 / 20 Aġġornat 3 ta’ Novembru 2026 Avvanzat
F'din il-paġna
  1. Ħaffef ir-risposti meta diġà tkun taf l-istruttura
  2. Il-mekkaniżmu ta’ validazzjoni
  3. Deċiżjoni awtomatika
  4. Punti Ewlenin

Lezzjoni aġġornata fit-3 ta’ Novembru 2026 abbażi tal-gwida Predicted Outputs u l-paġna tad-deprekazzjoni ta’ OpenAI: din il-karatteristika teżisti biss f’Chat Completions (il-parametru prediction ma jiġix aċċettat mill-API tar-Risposti, allura l-verżjoni preċedenti ta’ din il-lezzjoni kienet tonqos) u biss mal-mudelli GPT-4o, GPT-4o mini, GPT-4.1, u GPT-4.1 mini, li OpenAI se tirtira fl-14 ta’ Jannar 2027 (GPT-4.1 nano ġie rtirat fit-23 ta’ Ottubru). Il-gwida ma telenka l-ebda mudell ġdid kompatibbli: tibni prodotti ġodda fuq din il-karatteristika mingħajr pjan ta’ ħruġ. Sorsi: Predicted Outputs · Deprecations.

Ħaffef ir-risposti meta diġà tkun taf l-istruttura

L-Outputs Imbassra (Predicted Outputs) jindirizzaw xenarju ta’ produzzjoni komuni ħafna: titlob lill-mudell jimmodifika kontenut eżistenti, u tkun taf minn qabel li l-biċċa l-kbira tar-riżultat tkun identika għad-dħul. Mingħajr tbassir, il-mudell jiġġenera kull token mill-bidu, inklużi linji li ħadd ma talbu jmiss. Bit-tbassir, tipprovdi t-test mistenni; il-mudell jivvalida x’jaqbel u jiġġenera biss b’mod awtentiku l-partijiet li jvarjaw. Il-latency tonqos skont dan.

Dan il-bidla tbiddel b’mod partikolari l-profil tal-kompiti ta’ editjar. Assistent li jikteb mill-ġdid fajl ta’ mitejn linja biex ibiddel firma ta’ funzjoni ma jħallasx iktar biex jiġġenera l-fajl kollu, iżda biss għal-linji mmissa: il-biċċa l-kbira tax-xogħol tinżel għal tqabbil. Il-każijiet rilevanti kollha jixbhu lil xulxin: editjar tal-kodiċi, fejn tibgħat il-fajl sħiħ għal bidla mmirata; kitba mill-ġdid parzjali, fejn biss paragrafu wieħed ta’ dokument twil jeħtieġ li jiġi riformulat; tlestija ta’ mudelli, fejn biss il-kampijiet varjabbli jinbidlu; u aġġornamenti ta’ data strutturata, fejn żewġ jew tliet valuri f’JSON jevolvu filwaqt li l-bqija tal-istruttura tibqa’. F’kull wieħed minn dawn il-każijiet, ir-risposta mistennija diġà teżisti b’differenzi żgħar biss.

Eżempju ta’ editjar tal-kodiċi

Is-sejħa tinbena bħal sejħa standard ta’ Chat Completions, miżjuda b’parametru prediction li jġorr il-kontenut li tbassar.

import openai

client = openai.OpenAI()

code_original = """
def calculate_price(quantity, unit_price, vat=0.20):
    subtotal = quantity * unit_price
    total = subtotal * (1 + vat)
    return total

def format_invoice(client, items):
    lines = []
    for item in items:
        price = calculate_price(item["qty"], item["price"])
        lines.append(f"{item['name']}: {price:.2f}€")
    return "\n".join(lines)
"""

# Nibbassaw li l-biċċa l-kbira tal-kodiċi tibqa' identika
instruction = (
    "Immodifika l-funzjoni calculate_price biex iżżid parametru ta' skont "
    "b'valur predefinit ta' 0. Applika l-iskont qabel il-VAT. "
    "Irrispondi bil-kodiċi biss."
)

completion = client.chat.completions.create(
    model="gpt-4.1",
    messages=[
        {"role": "user", "content": instruction},
        {"role": "user", "content": code_original},
    ],
    prediction={
        "type": "content",
        "content": code_original,  # It-tbassir
    },
)

print(completion.choices[0].message.content)
# Il-mudell jiġġenera mill-ġdid biss il-linji mmodifikati — latency imnaqqsa

Il-funzjoni format_invoice ma tintlaqatx mit-talba: tiġi vvalidata hekk kif inhi, mingħajr l-ebda kost ta’ ġenerazzjoni. Biss il-linji ta’ calculate_price li jakkomodaw il-parametru l-ġdid jiġu prodotti b’mod awtentiku.

Il-mekkaniżmu ta’ validazzjoni

Li tifhem x’jiġri taħt il-qoxra jevita żewġ fehimiet żbaljati komuni. Il-mudell iqabbel il-ġenerazzjoni tiegħu stess, token b’token, mat-tbassir li pprovdejt; sakemm it-tnejn jaqblu, it-tokens jiġu vvalidati istantanjament, u jevitaw il-kalkolu sħiħ tal-ġenerazzjoni. Hekk kif jiddiverġu, il-ġenerazzjoni normali tieħu over. Ir-riżultat finali għalhekk jibqa’ korrett: it-tbassir iħaffef l-affarijiet, ma jfurza xejn. Jekk it-tbassir tiegħek ikun żbaljat, xorta tikseb it-tweġiba t-tajba, sempliċiment mingħajr il-gwadann.

It-tieni fehim żbaljat jikkonċerna l-prezz. It-tokens tat-tbassir miċħuda jiġu ffratturati, li jagħmel l-operazzjoni kontra-produċenti meta r-risposta mistennija m’għandha xejn x’taqsam mat-tbassir. Għalhekk, kejjel ir-rata ta’ aċċettazzjoni qabel ma tġeneralizza l-mudell.

completion = client.chat.completions.create(
    model="gpt-4.1",
    messages=[
        {"role": "user", "content": "Żid parametru ta' skont fil-funzjoni calculate_price."},
        {"role": "user", "content": code_original},
    ],
    prediction={
        "type": "content",
        "content": code_original,
    },
)

usage = completion.usage
print(f"Tokens tal-output: {usage.completion_tokens}")
print(f"Tokens aċċettati (tbassir): "
      f"{usage.completion_tokens_details.accepted_prediction_tokens}")
print(f"Tokens miċħuda (tbassir): "
      f"{usage.completion_tokens_details.rejected_prediction_tokens}")

# Aktar ma tkun għolja l-proporzjon aċċettat/totali, akbar ikun il-gwadann

Deċiżjoni awtomatika

Peress li l-gwadann jiddependi għalkollox fuq it-tip ta’ talba, id-deċiżjoni li tattivax it-tbassir jew le għandha tiġi kkodifikata minflok ma titħalla f’idejn kull żviluppatur. L-euristika hawn taħt tirrifjuta t-tbassir fuq testi li huma qosra wisq, fejn l-overhead tal-bagħat jikkanċella l-benefiċċju, u tirriżervah għal struzzjonijiet li jesprimu modifika.

def should_use_prediction(original_text: str, instruction: str) -> bool:
    """Euristika biex tiddeċiedi jekk l-Outputs Imbassra jiswewx."""
    # It-test irid ikun twil biżżejjed
    if len(original_text) < 200:
        return False

    # L-istruzzjoni trid tkun modifika mmirata
    edit_words = ["modify", "change", "replace", "add", "fix"]
    is_edit = any(word in instruction.lower() for word in edit_words)

    return is_edit

L-istess raġunament japplika għad-data strutturata, fejn ir-rendiment huwa saħansitra aħjar: JSON ta’ konfigurazzjoni jżomm iċ-ċwievet, l-indentazzjoni u l-ordni tiegħu, u biss il-valuri jinbidlu.

import json

original_data = {
    "company": "Corsen AI",
    "employees": 42,
    "departments": ["Engineering", "Sales", "Marketing"],
    "address": {
        "street": "123 Avenue de la République",
        "city": "Paris",
        "zip_code": "75011",
    },
}

json_original = json.dumps(original_data, indent=2, ensure_ascii=False)

completion = client.chat.completions.create(
    model="gpt-4.1",
    messages=[
        {"role": "user", "content": (
            "Aġġorna l-JSON li ġej: ibdel in-numru ta' impjegati "
            "għal 58 u żid id-dipartiment tax-Xjenza tad-Data. Irrispondi b'JSON biss."
        )},
        {"role": "user", "content": json_original},
    ],
    prediction={
        "type": "content",
        "content": json_original,
    },
)

Tliet avvertenzi qabel ma tiddispjega. L-istreaming huwa kompatibbli, u hemmhekk proprju fejn il-gwadann fil-latency huwa l-aktar notevoli. Diversi parametri, madankollu, mhumiex: n akbar minn 1, logprobs, presence_penalty jew frequency_penalty pożittivi, awdjo, modalitajiet oħra ħlief it-test, max_completion_tokens, u għodod (sejħa ta’ funzjoni). Fl-aħħar nett, il-karatteristika hija marbuta ma’ mudelli fi tmiem iċ-ċiklu tal-ħajja tagħhom: GPT-4o, GPT-4o mini, GPT-4.1, u GPT-4.1 mini jieqfu fl-14 ta’ Jannar 2027, u l-ebda mudell iktar ġdid ma tħabbar bħala kompatibbli. Għal editjar mgħaġġel fuq mudelli attwali, it-triq sostenibbli hija li titlob lill-mudell għal diff jew patch minflok il-fajl sħiħ.

Punti Ewlenin

  • L-Outputs Imbassra jħafffu r-risposti meta tkun taf l-istruttura mistennija — f’Chat Completions biss
  • Ideali għal editjar tal-kodiċi, aġġornamenti ta’ JSON, kitba mill-ġdid parzjali
  • Iċċekkja accepted_prediction_tokens biex tkejjel il-gwadann reali
  • It-tokens tat-tbassir miċħuda jiġu ffratturati: tibbassax b’mod każwali
  • Tużahomx għal ġenerazzjonijiet ġodda għalkollox
  • Il-mudelli kompatibbli (GPT-4o, GPT-4.1 u l-verżjonijiet mini tagħhom) ġew irtirati fl-14 ta’ Jannar 2027: ippjana alternattiva, bħall-ġenerazzjoni ta’ diff