Automātiskas atsauces un labākā prakse
Šajā lapā
Avotiem pamatotas un uzticamas atbildes
Kad modelis izmanto meklēšanu tīmeklī vai meklēšanu platformā X, Responses API automātiski iekļauj atbildē atsauces. Šīs atsauces ļauj taviem lietotājiem pārbaudīt avotus un veicina uzticēšanos ģenerētajām atbildēm.
Kā darbojas atsauces
Atsauces parādās katra satura elementa masīvā annotations:
{
"output": [{
"type": "message",
"content": [{
"type": "output_text",
"text": "According to the latest data, the AI market...",
"annotations": [
{
"type": "url_citation",
"url": "https://example.com/article",
"title": "AI Market Analysis in 2026",
"start_index": 35,
"end_index": 68
}
]
}]
}]
}
Atsauču lauki
| Lauks | Apraksts |
|---|---|
type | Vienmēr url_citation |
url | Avota URL |
title | Avota lapas virsraksts |
start_index | Sākuma pozīcija tekstā |
end_index | Beigu pozīcija tekstā |
Atsauču attēlošana savā lietotnē
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="What are the latest advancements in AI?",
tools=[{"type": "web_search"}]
)
text = response.output[0].content[0].text
annotations = response.output[0].content[0].annotations
# Teksta veidošana ar zemsvītras piezīmēm
footnotes = []
for i, ann in enumerate(annotations, 1):
footnotes.append(f"[{i}] {ann.title} — {ann.url}")
print(text)
print("\n--- Sources ---")
for fn in footnotes:
print(fn)
HTML vidē
def render_with_citations(text, annotations):
# Kārtošana pēc pozīcijas (no beigām uz sākumu, lai nemainītos indeksi)
sorted_anns = sorted(annotations, key=lambda a: a.start_index, reverse=True)
html = text
for i, ann in enumerate(sorted_anns):
ref_num = len(sorted_anns) - i
link = f'<a href="{ann.url}" title="{ann.title}" target="_blank">[{ref_num}]</a>'
html = html[:ann.end_index] + link + html[ann.end_index:]
return html
Labākā prakse darbvidē
1. Vienmēr validē statusu
response = client.responses.create(...)
if response.status != "completed":
handle_error(response)
return
2. Apstrādā tukšas atbildes
if not response.output or not response.output[0].content:
return "The model did not generate a response."
text = response.output[0].content[0].text
3. Reģistrē metrikas
Katram pieprasījumam darbvidē reģistrē:
response.idizsekojamībaiusage.total_tokenspatēriņamusage.cost_in_nano_usdizmaksām- Klienta puses atbildes laiku
- Atbildes statusu
4. Nodroši savu API atslēgu
- Glabā to vides mainīgajā, nekad kodā
- Ražošanas vidē izmanto noslēpumu pārvaldnieku (Vault, AWS Secrets Manager)
- Regulāri maini savas atslēgas
- Nekad neizpauž tās klientu pusē (pārlūkprogrammā)
5. Pārvaldi ģenerēto saturu
Modeļa atbildes, neskatoties uz filtriem, var saturēt nepiemērotu saturu. Ja atbildes tiek rādītas publiski, ievies moderācijas slāni.
6. Plāno mērogojamību
- Izmanto straumēšanu, lai samazinātu šķietamo gaidīšanas laiku
- Ievies rindu sistēmu smagiem pieprasījumiem
- Kešē bieži pieprasītās atbildes
- Uzraugi savus ātruma ierobežojumu kvotas
Izvietošanas kontrolsaraksts
- Noildze iestatīta uz 3600 sekundēm
- Atkārtošana ar eksponenciālu atkāpšanos
- Klienta puses ātruma ierobežošana
- Metriku reģistrēšana (tokeni, izmaksas, latentums)
- Kļūdu apstrāde (401, 429, 500, noildze)
- Droša API atslēga
- Satura moderācija, ja nepieciešams
- Izmaksu uzraudzība un brīdinājumi
- Ķēdes pārtraucējs noturībai
Galvenās atziņas
- Atsauces ir automātiskas, kad modelis izmanto
web_searchvaix_search - Tās satur URL, virsrakstu un pozīciju tekstā
- Vienmēr validē statusu un apstrādā tukšas atbildes
- Nodroši savu API atslēgu – nekad ne avota kodā, ne klientu pusē
- Pirms pārejas uz ražošanas vidi ievies reģistrēšanu, atkārtošanu, ātruma ierobežošanu un uzraudzību
Pārbaudi savas zināšanas
Responses API dziļumā: noslēdzošā pārbaude.
1. Ko Responses API piedāvā salīdzinājumā ar Chat Completions?
Atbilde: Mūsdienu formātu: atbilžu saglabāšanu servera pusē (GET/DELETE, ķēdēšana pēc ID), iebūvētos rīkus un jaunākās funkcijas – API, kurā xAI koncentrē evolūciju.
2. Kā ķēdē sarunu?
Atbilde: Atsaucoties uz iepriekšējo atbildi: konteksts tiek saglabāts servera pusē – nav nepieciešams katrā solī nosūtīt visu vēsturi no jauna.
3. Kas ir šifrēta spriešana?
Atbilde: Modeļa iekšējā spriešana, kas tiek atgriezta šifrētā veidā: atkārtoti izmantojama nākamajos soļos, nepaliekot lasāma – domāšanas process pārvietojas, konfidencialitāte saglabājas.
4. Ko ļauj apvienot servera un klientu rīkus?
Atbilde: Apvienot iebūvētos rīkus, ko izpilda xAI (tīmekļa meklēšana u.c.), un tavas pielāgotās funkcijas, ko izpilda tavs kods – katrs rīks īstajā vietā, orķestrēts vienā pieprasījumā.
5. Kāda ir labākā prakse darbvidē?
Atbilde: Apstrādā noildi un atkārtošanu, izseko rēķinus (tokeni, rīki) un izmanto automātiskas atsauces pārbaudāmām atbildēm – noturība un uzticamība kopā.
Saglabāšana, rīki, šifrēta spriešana, atsauces: Responses API ir mūsdienu pamats – šeit tiek būvētas tavas Grok lietotnes.