Taisceadh prasanna: Ríomhaireachtaí a athúsáid
Ar an leathanach seo
Cad é taisceadh prasanna?
Nuair a sheolann tú an réamhtheachtaire prasanna arís agus arís eile—próiseas córais fada, treoracha mionsonraithe, nó doiciméad tagartha—is féidir le hOpenAI an réamhtheachtaire sin a thaisceadh go huathoibríoch. Baineann glaonna ina dhiaidh sin a roinneann an réamhtheachtaire céanna tairbhe as am laghdaithe go dtí an chéad token (TTFT) agus costais níos ísle ar thokení ionchuir. Le focal eile, ní dhéantar obair an chomhthéacs chobhsaí a ionghabháil arís do gach iarratas.
Tá taisceadh prasanna uathoibríoch ó 2025 i leith: ní gá duit aon rud a chumasú. Brathann OpenAI ar réamhtheachtairí comhionanna agus taisceann sé iad. Mar sin, ní hé do chumhacht an meicníocht a chur ar siúl nó a mhúchadh, ach do phrasanna a scríobh ionas gur féidir leis an meicníocht feidhmiú. Is ábhar struchtúir é seo, seachas cumraíochta, agus is ann a fhágann formhór na bhfoirne airgead ar an mbord.
Conas a oibrí sé
Baineann an taisce le réamhtheachtairí prasanna: caithfidh na chéad tokení a bheith go hiomlán comhionann ó ghlao go glao, agus stopann an mheaitseáil ag an gcéad charachtar atá difriúil. Teastaíos íosmhéid 1,024 token chun an taisceadh a spreagadh, rud a chuireann prasanna córais ghairida as an áireamh láithreach. Roinntear an taisce laistigh d’eagraíocht amháin, rud a chiallaíonn go gcuidíonn seirbhísí éagsúla i do chuideachta a ghlaonn ar an réamhtheachtaire céanna le chéile. Maireann sé ó chúpla nóiméad go dtí cúpla uair an chloig, gan aon ráthaíocht dhan, agus is é an laghdú a bhaintear amach ná thart ar 50% ar chostas na dtokení ionchuir a taisceadh.
Is é toradh praiticiúil na rialach réamhtheachtaire ná go gcaithfidh tú eilimintí cobhsaí a chur ag tús an phrasanna agus eilimintí athraitheacha ag an deireadh. Má chuireann seirbhís dáta an lae inniu nó ID seisiúin ag ceann a prasanna córais, déanann sí an taisce a neamhbhailí ar gach glao gan a bheith ar an eolas faoi riamh.
import openai
client = openai.OpenAI()
# ✅ Struchtúr maith: eilimintí cobhsaí ar dtús
SYSTEM_PROMPT = """You are a legal assistant specializing in French
contract law. You analyze contractual clauses according to the
Civil Code and recent case law. You always respond by
structuring your analysis: 1) Clause identification,
2) Legal analysis, 3) Potential risks, 4) Recommendations.
Here is the reference contract to analyze:
[Insert a 2,000+ token document here that does not change between calls]
"""
def analyze_clause(clause: str) -> str:
"""Athúsáideann gach glao taisce an phrasanna córais."""
response = client.responses.create(
model="gpt-5.6-terra",
instructions=SYSTEM_PROMPT, # Réamhtheachtaire cobhsaí = taiscthe
input=f"Analyze this clause: {clause}", # Cuid athraitheach
)
return response.output_text
Sa sampla seo, is é an conradh tagartha agus an creat anailíse an bloc dosháraithe, agus athraíonn an clásal atá á scrúdú le gach glao. Déan anailís ar cheathracha clásal ón gconradh céanna, agus íocfaidh tú as an gcomhthéacs uair amháin ar an bpraghas iomlán.
An taisce a fhíorú
Ní bharrfheabhsú é barrfheabhsú nach dtomhaiseann tú; is é sin le rá, ní bharrfheabhsú é ach sa tsamhlaíocht. Filleann an API faisnéis faoi úsáid an taisce sa fhreagra:
response = client.responses.create(
model="gpt-5.6-terra",
instructions=SYSTEM_PROMPT,
input="Analyze the non-compete clause.",
)
# Seiceáil úsáid an taisce
usage = response.usage
print(f"Input tokens: {usage.input_tokens}")
print(f"Input tokens (cached): {usage.input_tokens_details.cached_tokens}")
print(f"Output tokens: {usage.output_tokens}")
# Má tá cached_tokens > 0: úsáideadh an taisce
cache_ratio = usage.input_tokens_details.cached_tokens / usage.input_tokens
print(f"Cache ratio: {cache_ratio:.1%}")
Logáil an cóimheas seo sa táirgeadh seachas é a sheiceáil uair amháin sa fhorbairt. Is é titim tobann sa ráta taisce an comhartha is iontaofa ar athrú neamhbheartaithe i dtógáil an phrasanna, agus feicfidh tú é sula n-inseoidh an bille míosúil duit faoi.
Struchtúrú chun an taisce a uasmhéadú
Is é an chéad cur chuige ná an prasanna córais a shaibhriú d’aon ghnó. Braitheann sé seo contrártha le céille nuair atá tú ag iarraidh tokení a laghdú, ach tá sé ag teacht leis an riail tairsí: ní dhéanfar taisce riamh ar phrasanna córais 900-token, ach sáraíonn an prasanna céanna, saibhrithe le samplaí few-shot agus doiciméad tagartha, an líne sin agus aistríonn sé go dtí an ráta laghdaithe don chuid taiscthe.
# Saibhrigh an prasanna córais chun an taisce a uasmhéadú
ENRICHED_PROMPT = """
[Detailed instructions - 500+ tokens]
[Few-shot examples - 500+ tokens]
[Reference document - 1,000+ tokens]
---
Total > 1,024 tokens = eligible for cache
"""
I gcomhrá il-chasadh, oibríonn an meicníocht chun do leasa gan aon iarracht bhreise: cruthaíonn an stair charntha réamhtheachtaire atá cobhsaí go nádúrtha a fhásann le gach malartú. Fad is a ath-insteallann tú teachtaireachtaí i gcónaí san ord céanna, baineann an deichiú casadh tairbhe as an taisce a thóg na naoi gcinn roimhe.
def conversation_with_cache(history: list[dict], new_message: str):
"""Méadaíonn an stair atá ag fás an taisce go huathoibríoch."""
history.append({"role": "user", "content": new_message})
response = client.responses.create(
model="gpt-5.6-terra",
instructions=SYSTEM_PROMPT,
input=history,
)
history.append({
"role": "assistant",
"content": response.output_text,
})
return response.output_text
Ar deireadh, ós rud é go dtomhaistear saolré an taisce i nóiméid, is cinneadh sceidealaithe é grúpáil iarratas a roinneann réamhtheachtaire. Coinníonn próiseáil ceathracha clásal ó chonradh ar ais ar ais an taisce te; scaipeann siad amach ar fud an lae agus idirghabhálann comhaid eile é, ligeann sé dó dul in éag idir glaonna.
import asyncio
async def batch_with_cache(clauses: list[str]) -> list[str]:
"""Seolann sé iarratais go tapa chun leas a bhaint as an taisce."""
results = []
for clause in clauses:
result = analyze_clause(clause)
results.append(result)
return results
Cealaíonn trí mhícheart an obair seo go léir, agus tá siad cosúil le chéile: má athraíonn tú tús an phrasanna, fiú le carachtar amháin, déanann sé an taisce don iarratas iomlán a neamhbhailí; má randamaíonn tú ord na dtreoracha, mar shampla trí phrasanna a thógáil ó fhoclóir neamhordaithe, cruthaíonn sé an éifeacht chéanna go hidirmhíneach agus mar sin tá sé deacair a dhiagnóisiú; agus má bhíonn tú ag súil le gnóthachain faoi bhun na tairsí 1,024-token, ciallaíonn sé go bhfuil tú ag iarraidh rud a bharrfheabhsú nach spreagann riamh.
Príomhphointí
- Tá taisceadh prasanna uathoibríoch le hOpenAI—cuir eilimintí cobhsaí ag tús an phrasanna
- Tairseach íosta: 1,024 token comhionanna sa réamhtheachtaire
- Gnóthachan: ~50% ar thokení ionchuir taiscthe + TTFT laghdaithe
- Seiceáil
usage.input_tokens_details.cached_tokenschun an taisceadh a dheimhniú