Kako rade modeli za rezoniranje
Na ovoj stranici
Ispod haube modela koji „razmišljaju“
Kada povećaš razinu rezoniranja, model ne generira odgovor odmah. Prvo proizvodi tokene za rezoniranje koje koristi za rastavljanje zahtjeva i istraživanje više načina odgovora. Razumijevanje ovog mehanizma nije samo teoretsko – ono ti omogućuje da prikladno postaviš razinu, predvidiš troškove i ispravno protumačiš izlaz modela.
Razmisli prije nego odgovoriš
Na brzoj razini (Instant u Chatu, none ili low u API-ju) model odgovara gotovo izravno. Što višu razinu postaviš, to više tokena troši na razmišljanje prije nego što proizvede vidljivi odgovor. Tu fazu možeš zamisliti kao skicu: rastavljanje problema, istraživanje smjerova, odbacivanje slijepih ulica, provjeru i konačnu sintezu. To je koristan mentalni model, a ne službeni opis unutarnjeg djelovanja; ono što OpenAI opisuje jest model koji rastavlja zahtjev i razmatra nekoliko pristupa prije odgovora.
Uzmi izraz „17 × 23 + 45 ÷ 9 − 12“. Bez rezoniranja, rizik od pogreške vezane uz prioritet operatora je stvaran. Na višoj razini model si uzima vremena da prvo obradi množenje i dijeljenje (391 i 5), zatim zbrajanje i oduzimanje (391 + 5 − 12 = 384) te provjeri rezultat prije nego ga iznese.
Tokeni za rezoniranje: nevidljivi, ali se broje
Tokeni za rezoniranje ne pojavljuju se u odgovoru, ali se broje. U API-ju zauzimaju prostor u prozoru konteksta i naplaćuju se kao izlazni tokeni. Ovisno o težini, model može generirati od nekoliko stotina do nekoliko desetaka tisuća takvih tokena. Ako se tijekom rezoniranja dosegne ograničenje izlaza (max_output_tokens), odgovor se vraća sa statusom incomplete, ponekad prije nego što je proizveden ijedan vidljivi tekst; OpenAI preporučuje da pri početku eksperimentiranja rezerviraš najmanje 25 000 tokena za rezoniranje i odgovor.
Sirovo rezoniranje nije izloženo. U API-ju možeš zatražiti sažetak rezoniranja pomoću parametra reasoning.summary. U ChatGPT-u, s GPT-6, odgovor može početi dok model još razmišlja, a kasnije se obogatiti pojedinostima.
Pro, Max i Ultra: tri načina da se ide dalje
Osim razina napora, tri mehanizma dodatno unapređuju rezoniranje i važno je da ih ne miješaš.
- Način Pro (
reasoning.mode: "pro"u API-ju, razina Pro u Chatu) tjera model da jače radi na zahtjevnim zadacima koji podnose veće kašnjenje. U API-ju se taj dodatni rad naplaćuje po standardnoj stopi za odabrani model, ali troši više tokena. - Max, u Worku i Codexu kao i u API-ju (
max), daje modelu više vremena za rezoniranje na jednom zadatku. - Ultra, samo u Worku i Codexu, ide dalje od jednog agenta: dodjeljuje dijelove složenog zadatka pod-agentima koji rade paralelno. Koristan je samo ako se rad može podijeliti na neovisne cjeline. GPT-6 Luna doseže do Maxa, ali ne i do Ultraa.
Što rezoniranje mijenja, a što ne
Visoka razina rezoniranja čini razliku za određene skupine problema: matematiku i statistiku, logiku i dedukciju, složeni kod i otklanjanje pogrešaka, stratešku analizu s ponderiranim kriterijima te općenito za svaki višekoračni zadatak. OpenAI stoga preporučuje high za zahtjevno rezoniranje, složeno otklanjanje pogrešaka i duboko planiranje.
No, to nije čarobni štapić. Model i nakon rezoniranja može pogriješiti: lažna premisa vodi do lažnog zaključka, bez obzira na to koliko je proces rezoniranja pažljiv. Rezoniranje povećava vrijeme odgovora i trošak. A za jednostavan zadatak ne dodaje ništa što brza razina već ne bi mogla obaviti.
Isprobaj sam
Vidi mehanizam na djelu. Postavi ovo pitanje prvo na brzoj, zatim na visokoj razini (Instant pa High u Chatu, odnosno low pa high u API-ju): „Vlak kreće iz Pariza u 8:00 sati brzinom od 120 km/h. Drugi kreće iz Lyona, udaljenog 465 km, u 8:30 sati brzinom od 150 km/h prema Parizu. U koje se vrijeme i na kojoj udaljenosti od Pariza susreću?“ Sam provjeri očekivani odgovor: 10:00 sati, 240 km od Pariza. Ako koristiš API, usporedi broj tokena za rezoniranje prijavljenih u upotrebi odgovora za obje razine.
Službeni izvori: Reasoning modeli (OpenAI API: tokeni za rezoniranje, naplata, kontekst, sažeci, način Pro, razine napora) · Modeli (dokumentacija ChatGPT-a: Max i Ultra) · GPT-6 i drugi modeli u ChatGPT-u (odgovori koji počinju tijekom rezoniranja)
Ključne točke
- Rezoniranje dodaje tokene za razmišljanje prije odgovora; njihov broj raste s odabranom razinom
- Ti su tokeni nevidljivi, zauzimaju kontekst i u API-ju se naplaćuju kao izlazni tokeni
- Osiguraj dovoljnu marginu izlaza, inače će se odgovor vratiti kao nepotpun
- Pro tjera model da jače radi, Max mu daje više vremena, Ultra raspoređuje rad među pod-agentima (Work i Codex)
- Rezoniranje ne štiti od pogrešaka: lažna premisa vodi do lažnog zaključka