Automatinės citatos ir geriausios praktikos
Šiame puslapyje
Šaltiniais pagrįsti ir patikimi atsakymai
Kai modelis naudoja žiniatinklio arba X paiešką, „Responses“ API automatiškai į atsakymą įtraukia citatas. Šios citatos leidžia tavo vartotojams patikrinti šaltinius ir sustiprina pasitikėjimą sugeneruotais atsakymais.
Kaip veikia citatos
Citatos atsiranda kiekvieno turinio elemento masyve annotations:
{
"output": [{
"type": "message",
"content": [{
"type": "output_text",
"text": "According to the latest data, the AI market...",
"annotations": [
{
"type": "url_citation",
"url": "https://example.com/article",
"title": "AI Market Analysis in 2026",
"start_index": 35,
"end_index": 68
}
]
}]
}]
}
Citatų laukai
| Laukas | Aprašymas |
|---|---|
type | Visada url_citation |
url | Šaltinio URL |
title | Šaltinio puslapio pavadinimas |
start_index | Pradinė pozicija tekste |
end_index | Galutinė pozicija tekste |
Citatų rodymas tavo programoje
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="What are the latest advancements in AI?",
tools=[{"type": "web_search"}]
)
text = response.output[0].content[0].text
annotations = response.output[0].content[0].annotations
# Sukuriame tekstą su išnašomis
footnotes = []
for i, ann in enumerate(annotations, 1):
footnotes.append(f"[{i}] {ann.title} — {ann.url}")
print(text)
print("\n--- Sources ---")
for fn in footnotes:
print(fn)
Naudojant HTML
def render_with_citations(text, annotations):
# Rūšiuojame pagal poziciją (nuo galo į pradžią, kad nepasikeistų indeksai)
sorted_anns = sorted(annotations, key=lambda a: a.start_index, reverse=True)
html = text
for i, ann in enumerate(sorted_anns):
ref_num = len(sorted_anns) - i
link = f'<a href="{ann.url}" title="{ann.title}" target="_blank">[{ref_num}]</a>'
html = html[:ann.end_index] + link + html[ann.end_index:]
return html
Geriausios gamybinės praktikos
1. Visada tikrink būseną
response = client.responses.create(...)
if response.status != "completed":
handle_error(response)
return
2. Apdorok tuščius atsakymus
if not response.output or not response.output[0].content:
return "The model did not generate a response."
text = response.output[0].content[0].text
3. Registruok metrikas
Kiekvienam gamybiniam užklausimui registruok:
response.idatsekamumui užtikrintiusage.total_tokenssuvartojimui stebėtiusage.cost_in_nano_usdišlaidoms fiksuoti- Kliento pusės atsako laikas
- Atsako būsena
4. Apsaugok savo API raktą
- Saugok jį aplinkos kintamajame, niekada ne kode
- Gamyboje naudok paslapčių valdyklę („Vault“, „AWS Secrets Manager“)
- Reguliariai keisk raktus
- Niekada neatskleisk jų kliento pusėje (naršyklėje)
5. Valdyk sugeneruotą turinį
Modelio atsakymai, nepaisant filtrų, gali turėti netinkamo turinio. Jei rodai atsakymus viešai, įdiek moderavimo sluoksnį.
6. Planuok mastelio didinimą
- Naudok srautinį perdavimą (streaming), kad sumažintum laukimo laiką
- Įdiek eilių sistemą sudėtingoms užklausoms
- Talpykloje saugok dažnus atsakymus
- Stebėk savo užklausų ribojimo (rate limiting) kvotas
Diegimo kontrolinis sąrašas
- Laiko limitas nustatytas į 3600 sekundžių
- Kartojimas su eksponentine pauze (exponential backoff)
- Kliento pusės užklausų ribojimas
- Metrikų registravimas (tokenai, išlaidos, delsos)
- Klaidų apdorojimas (401, 429, 500, laiko limito viršijimas)
- Saugus API raktas
- Turinio moderavimas, jei reikia
- Išlaidų stebėsena ir įspėjimai
- Grandinės pertraukiklis (circuit breaker) atsparumui užtikrinti
Svarbiausi punktai
- Citatos yra automatinės, kai modelis naudoja
web_searcharbax_search - Jose pateikiamas URL, pavadinimas ir pozicija tekste
- Visada tikrink būseną ir apdorok tuščius atsakymus
- Apsaugok savo API raktą – niekada neįtrauk jo į源代码 ar kliento pusės kodą
- Prieš pereinant į gamybą, įdiek registravimą, kartojimą, užklausų ribojimą ir stebėseną
Patikrink savo žinias
Išsamus „Responses“ API nagrinėjimas: galutinis patikrinimas.
1. Ką „Responses“ API siūlo, palyginti su „Chat Completions“?
Atsakymas: Šiuolaikinį formatą: atsakymų išsaugojimą serverio pusėje (GET/DELETE, grandininimas pagal ID), integruotus įrankius ir naujausias funkcijas – tai API, kuriai xAI skiria evoliucijos dėmesį.
2. Kaip sujungti pokalbį į vieną grandinę?
Atsakymas: Nuoroda į ankstesnį atsakymą: kontekstas išsaugomas serverio pusėje – nereikia siųsti visos istorijos kiekviename etape.
3. Kas yra šifruotas samprotavimas?
Atsakymas: Modelio vidinis samprotavimas, grąžinamas šifruota forma: panaudojamas vėlesniuose etapuose neskaitytinu pavidalu – minties procesas keliauja, konfidencialumas išlieka.
4. Ką leidžia derinti serverio ir kliento įrankius?
Atsakymas: Sujungti xAI vykdomus integruotus įrankius (žiniatinklio paiešką ir kt.) su tavo pačio kodu vykdomomis tinkintomis funkcijomis – kiekvienas įrankis savo vietoje, suorchestruotas tame pačiame užklausime.
5. Kokios yra geriausios gamybinės praktikos?
Atsakymas: Valdyk laiko limitus ir kartojimus, stebėk atsiskaitymus (tokenai, įrankiai) ir naudok automatines citatas patikrinamiems atsakymams – patikimumas ir pasitikėjimas kartu.
Išsaugojimas, įrankiai, šifruotas samprotavimas, citatos: „Responses“ API yra šiuolaikinis pamatas – čia kuriamos tavo „Grok“ programos.