Kombiniranje sklepanja in orodij
Na tej strani
Naprej z naprednimi orodji
Zdaj veš, kako združiti sklepanje z izvajanjem kode in spletnim iskanjem. Ta lekcija raziskuje napredne kombinacije: strateško veriženje orodij, uporabo sklepanja za njihovo poganjanje in gradnjo resnično avtonomnih delovnih tokov.
Sklepanje kot gonilna sila orodij
Razlika med modelom, ki odgovori brez razmisleka, in modelom za sklepanje, ki uporablja orodja, je temeljna. Če začneš na ravni napora medium – kar OpenAI priporoča vedno, ko je pomembno načrtovanje – lahko model načrtuje, katera orodja uporabiti in v kakšnem vrstnem redu, ovrednoti rezultate vsakega orodja pred nadaljevanjem, prilagodi svojo strategijo, če orodje ne vrne pričakovanega, in združi izhode v koherenten zaključek. Konkretno: ne izvrši kode zgolj zato, ker si to zahteval; temveč premisli o problemu, se odloči, da je koda najboljši način za njegovo rešitev, napiše ustrezno kodo, analizira rezultat in se nato odloči, ali nadaljevati. Odtenek se morda zdi subtilen, a v delovnem toku s štirimi orodji spremeni vse, saj se slaba začetna odločitev prenese vse do konca.
Na strani API-ja ta logiko poganjata dva mehanizma. Pri klicanju funkcij OpenAI priporoča, da poleg rezultata funkcije vrneš tudi elemente sklepanja, ustvarjene ob zadnjem klicu modela: to ohranja model na pravi poti glede na njegove načrte. Pri programskem klicanju orodij (Programmatic Tool Calling) model napiše program JavaScript, ki se izvrši v izoliranem okolju in usklajuje klice orodij ter filtrira vmesne rezultate. Končno v storitvah ChatGPT Work in Codex različica Ultra porazdeli najzahtevnejše naloge med pod agente, kar pa pomeni bistveno višjo porabo.
Trije vzorci kombiniranja
Prvi vzorec – iskanje, nato analiza, nato koda – ustreza tržnim analizam in primerjavam, torej situacijam, ko podatki še niso v tvoji posesti.
„Poišči tržne deleže petih največjih ponudnikov oblaka v Evropi leta 2025. Nato na podlagi teh podatkov ustvari stolpčni diagram in izračunaj stopnjo koncentracije trga (indeks HHI). Rezultat interpretiraj.”
Model nato poveže štiri različne faze.
- Iskanje po spletu za zbiranje podatkov
- Sklepanje o zanesljivosti virov
- Izvajanje kode za diagram in izračun
- Sklepanje o ekonomski interpretaciji
Druga faza je tista, na katero ljudje pri pisanju poziva pogosto pozabijo, a prav ona preprečuje, da bi indeks HHI izračunal na podlagi približnih številk.
Drugi vzorec obrne izhodišče: začne se s tvojimi podatki, da jih obogatiš od zunaj – podatki, koda, iskanje, sinteza.
„Tukaj je moja datoteka s prodajo po državah (CSV). Izračunaj stopnjo rasti po državah, nato poišči stopnjo rasti BDP za vsako državo v istem obdobju. Identificiraj države, kjer je naša rast večja od rasti BDP (preseganje), in tiste, kjer velja nasprotno.”
Tretji vzorec, iterativna koda s sklepanjem, izkorišča sposobnost modela, da napiše kodo, analizira rezultat, opazi težavo in jo ponovno napiše – vse samodejno. Določiš lahko tudi nadomestno metodo.
„Tukaj je nabor podatkov o transakcijah (CSV). Zaznaj statistične anomalije. Če prva metoda (z-vrednost) ne da jasnih rezultatov, poskusi metodo medkvartilnega razpona. Izberi najustreznejšo metodo in pojasni zakaj.”
Ponovna pridobitev nadzora nad orodji
Dopuščanje, da model sam odloča, je priročno, a včasih že veš, katero orodje ustreza – in povedati mu to je učinkoviteje, kot da mu dopustiš raziskovanje. Zato ga lahko omejiš: „Brez iskanja po spletu analiziraj samo podatke v priloženi datoteki in mi podaj zaključke izključno na podlagi teh podatkov” ali „Za to vprašanje ne izvrši kode. Sklepaj samo na podlagi informacij, ki jih podajam.”
Pri dolgih delovnih tokovih vstavi kontrolne točke, namesto da bi vse zagnal v enem bloku: „1. korak: izračunaj osnovne metrike in mi pokaži rezultate pred nadaljevanjem. 2. korak (po moji potrditvi): obogati s spletnimi podatki. 3. korak: pripravi končno poročilo.” Tako ohraniš možnost zaustavitve procesa, preden se napaka prenese na drage korake.
Vizualizacije, ki zahtevajo presojo
Kombinacija sklepanja in izvajanja kode še posebej izstopa, ko sama vizualizacija implicira odločitve: kakšno vrsto diagrama izbrati, kakšne pragove določiti, kaj poudariti.
„Tukaj so moji podatki o uspešnosti (Excel). Ustvari enostranski nadzorni pult z: (1) najustreznejšim diagramom za vsako metrike – vrsto diagrama izberi sam glede na naravo podatkov, (2) samodejnim poudarjanjem anomalij, (3) barvno kodo zelena/rumena/rdeča na podlagi pragov, ki jih boš določil glede na porazdelitev podatkov.”
Model sklepa o optimalni vrsti diagrama za vsako metrike posebej, izračuna statistično ustrezne pragove namesto da bi jih izmislil, in proizvede ustrezno kodo. To je točno delo, ki bi ga opravil analitik, preden odpre svoj urejevalnik.
Tvoja vrsta
Popoln delovni tok. Preizkusi ta delovni tok na visoki ravni sklepanja (High v Chatu, high v API-ju).
„Podal ti bom datoteko CSV z mesečnimi odhodki po kategorijah v obdobju 24 mesecev. Želim:
- Identificiraj 3 kategorije z največjim povečanjem (izračun v Pythonu)
- Za vsako poišči, ali je to nacionalni trend ali specifično za moj primer (spletno iskanje)
- Ustvari primerjalni diagram: moji odhodki proti nacionalnemu trendu (Python)
- Napiši povzetek s priporočili (čisto sklepanje) Predstavi rezultat vsakega koraka.”
Med vadbo opazuj, kaj se zgodi, ko izvajanje kode odpove. Model lahko sam poskusi znova, kar je dobro; če pa težava tiči v tvojih podatkih, noben ponovni zapis ne bo pomagal: preveri datoteko namesto ponovnega zagona. In če zahteva postane pretežka, jo razčleni na korake, ki jih potrjuješ enega za drugim.
Uradni viri: Modeli sklepanja (OpenAI API: ravni napora, vračanje elementov sklepanja s klici funkcij) · Programsko klicanje orodij · Analiza podatkov s ChatGPT (izvajanje kode v ChatGPT) · Modeli (Ultra)
Ključne ugotovitve
- Pri zadostni ravni napora sklepanje strateško poganja orodja, ne mehansko
- Trije ključni vzorci: iskanje, analiza nato koda; podatki, koda nato iskanje; iterativna koda
- Na strani API-ja vrni elemente sklepanja z rezultati funkcij in razmisli o programskem klicanju orodij
- Uporabo orodij lahko glede na svoje potrebe prisiliš ali omejiš
- V dolge delovne tokove vstavi kontrolne točke za ohranjanje nadzora