Freagairt agus Úsáid
Ar an leathanach seo
Tuiscint a fháil ar an méid a thugann an API ar ais
Is minic a léann forbróirí atá nua leis an API líne amháin den fhreagairt—an téacs ginte—agus déanann siad neamhaird ar gach rud eile. Is botún é sin. Tugann gach glaoch ar /v1/chat/completions oibiacht JSON shaibhir ar ais. Anseo a aimsíonn tú an sonraí atá uait chun costais a rianú, chun freagairt ghearrtha a bhrath sroicheann sí an t-úsáideoir, agus chun glaoch sonrach a shainaithint nuair a osclaíonn tú ticéad tacaíochta.
Anatamaíocht Iomlán na Freagartha
Tosaímid leis na meiteashonraí. Seo na réimsí nach seiceálann tú go minic, ach a bheidh tú ag guí go raibh tú tar éis iad a logáil an lá a tharlaíonn teagmhas:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is machine learning?"}],
max_tokens=500
)
# Access metadata
print(f"Request ID : {response.id}")
print(f"Model used : {response.model}")
print(f"Created at : {response.created}")
Is aitheantóir uathúil é an réimse id a shanntar do gach iarratas. Seo an tagairt a thabharfaidh tú don tacaíocht theicniúil, agus an ceann a ligeann duit gearán úsáideora a nascadh le glaoch sonrach i do logaí. Deimhníonn an réimse model cé acu múnla a úsáideadh i ndáiríre. Tá níos mó tábhachta leis seo ná mar a shílfeá nuair a ghlaonn tú ar ailias -latest agus a athraíonn an iompraíocht thar oíche gan aon athrú cód ar do thaobh.
An tEagar choices
Croílár na freagartha atá i choices. De réir réamhshocraithe, níl ach eilimint amháin san eagar seo. As seo, baintear amach an téacs agus an breithiúnas ar conas a chríochnaigh an ghiniúint:
choice = response.choices[0]
# The generated message
print(choice.message.role) # "assistant"
print(choice.message.content) # The response text
# The index of this response in the array
print(choice.index) # 0
# The stop reason
print(choice.finish_reason) # "stop", "length", or "tool_calls"
Má iarrann tú freagairtí iolracha ag baint úsáide as an bparaiméadar n, rud a phléfaimid i gceacht 15, beidh eilimintí iolracha i choices, agus beidh brí arís leis an innéacs.
Luachanna finish_reason
Cinneann an réimse seo iontaofacht d’iarratais. Tá trí luach féideartha ann. Ciallaíonn stop gur chríochnaigh an múnla a fhreagairt go nádúrtha. Is é seo an gnáthchás, áit ar féidir leat an t-ábhar a thaispeáint gan aon amhras. Ciallaíonn length gur gearradh an ghiniúint de bharr max_tokens, mar sin tá an fhreagairt neamhiomlán go hionchais—achoimre gan a conclúid, nó liosta a stopann ag an seachtú mír. Ar deireadh, léiríonn tool_calls go bhfuil an múnla ag iarraidh uirlis sheachtrach a fhorghníomhú mar chuid de ghlaoch feidhme, agus tá an liathróid ar do chúirt anois.
Éilíonn gach ceann de na cásanna seo láimhseáil ar leith, ar chóir duit í a scríobh uair amháin agus go deo:
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Write a detailed report."}],
max_tokens=200
)
choice = response.choices[0]
if choice.finish_reason == "stop":
# Complete response — normal processing
result = choice.message.content
elif choice.finish_reason == "length":
# Truncated response — retry with more tokens or warn the user
print("Warning: The response was truncated.")
# Option: Retry with a higher max_tokens limit
# Option: Ask the model to continue
elif choice.finish_reason == "tool_calls":
# The model requests a tool call
for tool_call in choice.message.tool_calls:
print(f"Requested tool: {tool_call.function.name}")
Tabhair faoi deara nach ligeann an brainse length don téacs dul tríd gan stad. Déanann tú iarracht arís le teorainn níos airde, iarrann tú ar an múnla leanúint ar aghaidh, nó cuirtear an t-úsáideoir ar an eolas. An rud nach mór duit a dhéanamh riamh ná téacs gearrtha a thaispeáint amhail is dá mba críochnaithe é.
An Oibiacht usage — Rianaigh do Chostais
Déanann an réimse usage comhaireamh ar na tokenanna a úsáideadh leis an iarratas, ag scaradh ionchuir ó aschur:
usage = response.usage
print(f"Input tokens : {usage.prompt_tokens}")
print(f"Output tokens : {usage.completion_tokens}")
print(f"Total : {usage.total_tokens}")
Níl an t-idirdhealú seo cosmaideach. Tá rátaí difriúla ag múnlaí Mistral d’ionchur agus d’aschur. Tá próifíl costais go hiomlán difriúil ag gné a sheolann comhthéacs fada chun trí fhocal a fháil ar ais i gcomparáid le dréacht fhada a ghintear ó leid ghairid. Ní ghlacann an ríomh ach cúpla líne:
# Hypothetical rates per million tokens (check current pricing)
RATE_INPUT = 2.0 # $/M tokens input
RATE_OUTPUT = 6.0 # $/M tokens output
cost_input = (usage.prompt_tokens / 1_000_000) * RATE_INPUT
cost_output = (usage.completion_tokens / 1_000_000) * RATE_OUTPUT
cost_total = cost_input + cost_output
print(f"Cost of this call: ${cost_total:.6f}")
Costaíonn glaoch amháin codán de phingin, rud atá suaimhneach go bréagach. Méadaigh é sin ar thrácht fíor iarratais, agus éiríonn an cheist: cé acu gné a úsáideann cé mhéad? Chun freagairt air sin, déan méadracha úsáide a chomhiomlánú ó do chéad imlonnú eile. Logáil gach glaoch in éineacht le hainm na gné a spreag é:
import json
from datetime import datetime
def log_usage(response, endpoint_name: str):
"""Logs usage metrics for each API call."""
log_entry = {
"timestamp": datetime.utcnow().isoformat(),
"endpoint": endpoint_name,
"model": response.model,
"prompt_tokens": response.usage.prompt_tokens,
"completion_tokens": response.usage.completion_tokens,
"total_tokens": response.usage.total_tokens,
"finish_reason": response.choices[0].finish_reason,
"request_id": response.id
}
with open("api_usage.jsonl", "a") as f:
f.write(json.dumps(log_entry) + "\n")
# Usage
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Hello"}]
)
log_usage(response, "main_chatbot")
Inseoidh comhad JSONL mar seo, arna athbhreithniú tar éis coicíse, duit gan aon amhras cé acu scáileán i do tháirge a chuireann an t-ualach is troime ar an mbille—agus cé mhéad glaoch a chríochnaíonn le length.
Ábhar na Freagartha
Is féidir le réimse content theachtaireachta an chúntóra dhá fhoirm a ghlacadh, díreach mar atá ar thaobh an iarratais:
# Simple form — string
content = response.choices[0].message.content
# "Machine learning is a branch of artificial intelligence..."
# Structured form — list of blocks (rare in standard chat)
# [{"type": "text", "text": "..."}]
Go praiticiúil, do ghlaocha Caighdeánacha Comhlánaithe Comhrá, is teaghrán é content i gcónaí. Tá an fhoirm struchtúrtha in áirithe do fhreagairtí ilmhóideacha.
Cuir i bhFeidhm é
Déanaimis é seo go léir a chur le chéile i bhfeidhm úsáide—ceann a chóipeálfaidh tú ó thionscadal go tionscadal. Cuireann sé na teachtaireachtaí le chéile, déanann sé an glaoch, agus filleann sé foclóir a nochtann méadracha agus téacs araon:
from mistralai.client import Mistral
def chat_complete(
client: Mistral,
prompt: str,
system: str = "",
model: str = "mistral-large-latest",
max_tokens: int = 1000
) -> dict:
"""Chat Completions call with error handling and metrics."""
messages = []
if system:
messages.append({"role": "system", "content": system})
messages.append({"role": "user", "content": prompt})
response = client.chat.complete(
model=model,
messages=messages,
max_tokens=max_tokens
)
return {
"content": response.choices[0].message.content,
"finish_reason": response.choices[0].finish_reason,
"tokens_in": response.usage.prompt_tokens,
"tokens_out": response.usage.completion_tokens,
"model": response.model,
"id": response.id
}
Is é an pointe tábhachtach ná an méid a fhilleann an fheidhm: ní hamháin an téacs riamh. Trí finish_reason, líon na tokenanna, agus an t-aitheantóir iarratais a bhrú suas chuig an nglaoiteoir, déanann tú an botún is coitianta dodhéanta—glacadh le freagairt ghearrtha mar cheann bailí.
Príomhphointí
- Tá
choices(ábhar),usage(tokenanna), agus meiteashonraí (id,model) sa fhreagairt - Seiceáil
finish_reasoni gcónaí — ciallaíonnlengthgo bhfuil an fhreagairt neamhiomlán - Déanann
usagecomhaireamh ar tokenanna ionchuir agus aschuir ar leithligh chun rianú cruinn costais - Socraigh logáil méadracha ó do chéad imlonnú táirgeachta
- Tá an réimse
idriachtanach le haghaidh dífhabhtaithe agus tacaíochta teicniúla