Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Pärandstaatus ja olekuta printsiip

Õppetund 1 / 12 Värskendatud 3. november 2026 Arendajatele
Sellel lehel
  1. Vestluse lõpuleviimise lõpp-punkt xAI ökosüsteemis
  2. Olekuta lõpp-punkt: saada iga päringuga kõik
  3. Peamised punktid

Uuendatud 3. novembril 2026, lähtudes xAI parimatest tavadest: xAI liigitab vestluse lõpuleviimise (Chat Completions) nüüd aegunuks ja soovitab Groki arutlusmudelite jaoks vastuste API-d (Responses API). Konkreetne põhjus: vestluse lõpuleviimisel puudub väli mudeli krüpteeritud arutluskäigu jaoks, mistõttu kaob iga mitme vooruga vestluse või tööriistakutse puhul eelmiste voorude arutluskäik. Uued funktsioonid jõuavad samuti esmalt vastuste API-sse. Allikad: xAI Best Practices · Chat Completions (legacy).

Vestluse lõpuleviimise lõpp-punkt xAI ökosüsteemis

xAI API pakub Groki mudelitega suhtlemiseks kahte peamist lõpp-punkti: vastuste API (peamine lõpp-punkt) ja vestluse lõpuleviimise lõpp-punkt. Viimane on märgitud kui pärandvara: see on täielikult funktsionaalne, kuid uusi funktsioone eelistatakse nüüd vastuste API-le.

Miks sellega siis arvestada? Sest vestluse lõpuleviimine on ökosüsteemis endiselt enim kasutatav lõpp-punkt. Kõik olemasolevad OpenAI SDK-d, raamistikud nagu LangChain või LlamaIndex ja tuhanded õpetused kasutavad seda vormingut. Kui migreerud teiselt teenusepakkujalt või töötad kolmandate osapoolte tööriistadega, on see tõenäoliselt lõpp-punkt, mida esmalt kasutad.

Pärandvara
Ametlik staatus
Olekuta
Serveri olekut pole
OpenAI
Ühilduv vorming
3600s
Soovitatav aegumine

Olekuta lõpp-punkt: saada iga päringuga kõik

Vestluse lõpuleviimise põhiprintsiip on see, et see on olekuta: server ei säilita vestluse ajalugu. Iga väljakutsega pead oma päringusse lisama kogu eelmiste sõnumite ajaloo.

Täpsemalt tähendab see, et 10 vahetusega vestluse puhul peab sinu 11. päring sisaldama 10 eelmist sõnumit (kasutaja + assistent) pluss uut sõnumit. Sinu rakendus haldab seda ajalugu.

{
  "model": "grok-4.20-0309-reasoning",
  "messages": [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello!"},
    {"role": "assistant", "content": "Hello! How can I help you?"},
    {"role": "user", "content": "Explain deep learning to me."}
  ]
}

Selles näites tähistavad esimesed kolm sõnumit vestluse ajalugu. Ainult viimane on uus kasutaja sõnum. Mudel vajab kogu seda konteksti, et produtseerida kooskõlaline vastus.

Praktilised tagajärjed

Sellel olekuta lähenemisel on mitu tagajärge:

  • Täielik kontroll: otsustad täpselt, millised sõnumid mudelile saadetakse. Saad enne iga väljakutset ajalugu filtreerida, kokku võtta või muuta.
  • Proportsionaalne kulu: iga päringu eest arvutatakse tasu kõigi saadetud tokenite, sealhulgas ajaloo eest. Mida pikem on vestlus, seda kallimaks läheb iga vahetus.
  • Serveri püsivuse puudumine: xAI poolel ei salvestata päringute vahel andmeid. See on privaatsuse seisukohalt eelis, kuid nõuab, et haldaksid püsivust ise.

Võrdlus vastuste API-ga

Vastuste API on seevastu olekuga: see hoiab ajalugu serveripoolselt, kasutades previous_response_id. Sul pole vaja eelmisi sõnumeid uuesti saata – piisab lihtsast identifikaatorist. Vastuseid saab parameetriga store: true salvestada kuni 30 päevaks.

Valik nende kahe vahel sõltub sinu kasutusjuhtumist. Kui töötad olemasoleva OpenAI SDK-ga või migreerud teiselt teenusepakkujalt, on vestluse lõpuleviimine loogiline lähtepunkt. Uue projekti puhul soovitatakse vastuste API-d.

Peamised punktid

  • Vestluse lõpuleviimine on märgitud kui pärandvara, kuid jääb täielikult funktsionaalseks ja ühilduvaks OpenAI ökosüsteemiga
  • Lõpp-punkt on olekuta: pead iga päringuga uuesti saatma kogu ajaloo
  • Iga päringu kulud hõlmavad kõiki ajaloo tokeneid
  • Vastuste API pakub olekuga alternatiivi serveripoolse püsivusega
  • Arutlusmudelite puhul soovitatakse 3600-sekundilist aegumist