Glaoch Feidhme Comhthreomhar
Ar an leathanach seo
- Nuair a theastaíonn píosaí eolais iolracha ón tsamhail ag an am céanna
- Freagra le glaochanna iolracha a léamh
- Gach toradh a thabhairt ar ais dá ghlaoch bunaidh
- Ag bogadh ó chomhthreomhaireacht dealraitheach go comhthreomhaireacht fhíor
- Smacht a athghabháil le parallel_tool_calls
- Cad a athraíonn an chomhthreomhaireacht i ndáiríre
- Príomhphointí
Nuair a theastaíonn píosaí eolais iolracha ón tsamhail ag an am céanna
Go dtí seo, tháinig glaoch feidhme amháin as gach casadh sa chomhrá. Ní oireann go leor ceisteanna sa saol mór don mhúnla sin. Samhlaigh úsáideoir a fhiafraíonn: “Cén stádas agus cén dáta atá ar an íocaíocht T1001?” Teastaíonn dhá shonra ón tsamhail atá i dhá fheidhm ar leith: retrieve_payment_status agus retrieve_payment_date. D’fhéadfadh sí iad a iarraidh ceann i ndiaidh a chéile, ag fanacht le do fhreagra eatarthu. Ach, cinneann sí sa chás seo nach mbraitheann ceann ar an gceann eile, mar sin gineann sí iolra tool_calls in aon fhreagra amháin. Faigheann tú an t-ualach oibre iomlán ar fad ag an am céanna, agus is tusa a chinneann conas é a chur i gcrích.
Freagra le glaochanna iolracha a léamh
Tá an impleacht phraiticiúil simplí: ní liosta aon-ghnéitheach é message.tool_calls a thuilleadh. Caithfidh tú dul tríd (iterate) seachas tool_calls[0] a ghabháil, rud a dhéanann daoine go minic nuair a bhíonn siad ag foghlaim faoi ghlaoch feidhme ó shamplaí aon-fheidhme.
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools
)
message = response.choices[0].message
# Iolra tool_calls san fhreagra céanna
for tc in message.tool_calls:
print(f"Function: {tc.function.name}")
print(f"Arguments: {tc.function.arguments}")
print(f"ID: {tc.id}")
print("---")
# Aschur féideartha:
# Function: retrieve_payment_status
# Arguments: {"transaction_id": "T1001"}
# ID: call_abc123
# ---
# Function: retrieve_payment_date
# Arguments: {"transaction_id": "T1001"}
# ID: call_def456
Tabhair faoi deara go n-úsáideann an dá ghlaoch an t-argóint chéanna, T1001, ach tá IDanna difriúla acu: call_abc123 agus call_def456. Is iad na IDanna seo an t-aon bhealach a fhios ag an tsamhail cé acu toradh a fhreagraíonn do cé acu iarratas.
Gach toradh a thabhairt ar ais dá ghlaoch bunaidh
Tá an riail dian: caithfidh tú gach feidhm a rith agus gach toradh a thabhairt ar ais i teachtaireacht tool ar leith ina bhfuil an tool_call_id cuí. Má dhéanann tú dearmad nó má mhalartaíonn tú ID, d’fhéadfadh an tsamhail an dáta a chur leis an réimse stádais, nó d’fhéadfadh sí diúltú freagra a thabhairt.
message = response.choices[0].message
messages.append(message)
# Gach feidhm a iarradh a rith
for tool_call in message.tool_calls:
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
# An fheidhm a rith
result = available_functions[function_name](**function_params)
# An toradh a chur leis leis an tool_call_id ceart
messages.append({
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
})
# Gach toradh a sheoladh ar ais chuig an tsamhail
final_response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools
)
print(final_response.choices[0].message.content)
# → "Rinneadh íocaíocht T1001 ar an 15 Márta 2026, agus is é an stádas atá uirthi: íoctha."
Ansin, fuaimeann an tsamhail an dá bhlúire le chéile in aon abairt amháin, amhail is dá dtagfadh an t-eolas ó fhoinse amháin. Sin díreach an éifeacht atá uait ó thaobh an úsáideora de.
Ag bogadh ó chomhthreomhaireacht dealraitheach go comhthreomhaireacht fhíor
Tá mionnuansa ann a théann ar strae go minic ar an gcéad léamh: sa lúb for thuas, ritear na feidhmeanna ceann i ndiaidh a chéile. D’iarr an tsamhail a glaochanna go comhthreomhar, ach fanann do chód seicheamhach. Fad is atá do fheidhmeanna ag léamh DataFrame atá sa chuimhne, ní chuireann sé seo isteach ort. Ach, nuair a dhéanann siad ceist ar API seachtrach nó ar bhunachar sonraí, déanann dhá ghlaoch 300 ms moill 600 ms, agus imíonn tairbhe na comhthreomhaireachta. Má tá do fheidhmeanna neamhshioncrónach (asynchronous), seolann asyncio.gather iad le chéile agus fanann sé leis an mbaisc iomlán.
import asyncio
import json
async def execute_tools_parallel(tool_calls, available_functions):
"""Ritheann sé tool_calls go comhthreomhar agus filleann sé na torthaí."""
async def execute_one(tool_call):
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
# Má tá do fheidhmeanna async:
result = await available_functions[function_name](**function_params)
return {
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
}
# Gach feidhm a rith go comhthreomhar
tasks = [execute_one(tc) for tc in tool_calls]
return await asyncio.gather(*tasks)
Nochtann formhór na mbunachar cód atá ann cheana feidhmeanna sioncrónacha nach mbeidh fonn ort a athscríobh mar async díreach chuige seo. Cruthaíonn linne snáithe (thread pool) an éifeacht chéanna gan do loighic gnó a shuathadh.
from concurrent.futures import ThreadPoolExecutor
def execute_tools_threaded(tool_calls, available_functions):
"""Ritheann sé tool_calls ag baint úsáide as linne snáithe."""
def execute_one(tool_call):
function_name = tool_call.function.name
function_params = json.loads(tool_call.function.arguments)
result = available_functions[function_name](**function_params)
return {
"role": "tool",
"name": function_name,
"content": result,
"tool_call_id": tool_call.id
}
with ThreadPoolExecutor(max_workers=5) as executor:
results = list(executor.map(execute_one, tool_calls))
return results
Smacht a athghabháil le parallel_tool_calls
Ní mianach i gcónaí í an chomhthreomhaireacht. Ligeann an paraiméadar parallel_tool_calls duit í a cheadú nó a thoirmeasc. Nuair a shocraítear ar True (an réamhshocrú), cinneann an tsamhail an bhfuil grúpáil le déanamh ar a glaochanna. Nuair a shocraítear ar False, ní féidir léi ach tool_call amháin a ghiniúint in aghaidh na freagra.
# Glaochanna comhthreomhara a cheadú (réamhshocrú)
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools,
parallel_tool_calls=True # Cinneann an tsamhail
)
# Glaochanna seicheamhacha a fhorchur
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools,
parallel_tool_calls=False # Ní bhíonn ach tool_call amháin in aghaidh na freagra
)
Tá trí chás a thugann údar leis an luach seo a shocrú ar False. Is é an chéad cheann nuair a bhíonn tábhacht le hord na feidhmithe: tugann billeáil roimh sheiceáil stoc toradh difriúil leis an ord contrártha. Baineann an dara cás le spleáchais shonraí, áit a bhfuil gá le toradh feidhme amháin chun an chéad cheann eile a ghlaoch – mar shampla, teagmháil a aimsiú chun a ID a fháil sula ndéantar a taifead a mhodhnú. Baineann an tríú cás go simplí leis an ngá atá le smacht níos mine ar an sreabhadh, go hiondúil le linn dífhabhtaithe (debugging), nuair is mian leat gach glaoch a bhreathnú ina aonar sula n-osclaítear na geataí.
Cad a athraíonn an chomhthreomhaireacht i ndáiríre
Ní hamháin faoi shnáitheanna atá an gnóthachan; baineann sé go príomha le líon na dturais chuig an API, rud a bhíonn i gceannas ar an moill iomlán.
# Seicheamhach (2 ghlaoch API chuig an tsamhail)
user → assistant(fc.1) → tool(r.1) → assistant(fc.2) → tool(r.2) → assistant(response)
# Comhthreomhar (níl ann ach 1 ghlaoch API breise)
user → assistant(fc.1, fc.2) → tool(r.1), tool(r.2) → assistant(response)
Sa phatrún seicheamhach, caithfidh an tsamhail dhá thimthriall réasúnaíochta iomlána a chríochnú sula dtagann an freagra deiridh. Sa phatrún comhthreomhar, faigheann aon iarratas amháin gach tool_calls, agus ní theastaíonn ach aon iarratas breise amháin don fhreagra. Do cheist a bhaineann le dhá nó trí fheidhm, sábhálann sé seo roinnt soicind don úsáideoir go minic.
Príomhphointí
- Is féidir leis an tsamhail iolra
tool_callsa ghiniúint in aon fhreagra amháin - Caithfear gach toradh a thabhairt ar ais leis an
tool_call_idceart - Do fheidhmeanna líonra, úsáid
asyncionóThreadPoolExecutorle haghaidh feidhmiú fíor-chomhthreomhar - Rialaíonn an paraiméadar
parallel_tool_callsan iompar seo (Truemar réamhshocrú) - Laghdaíonn an patrún comhthreomhar iarratais API agus feabhsaíonn sé an mhoill