Apvieno spriešanu un rīkus
Šajā lapā
Virzies tālāk ar papildu rīkiem
Tu jau zini, kā apvienot spriešanu ar koda izpildi un meklēšanu tīmeklī. Šajā nodarbībā mēs aplūkosim sarežģītākas kombinācijas: rīku stratēģisku ķēdēšanu, spriešanas izmantošanu to vadībai un patiesi autonomu darbplūsmu veidošanu.
Spriešana kā rīku dzinējs
Atšķirība starp modeli, kas atbild nedomājot, un spriešanas modeli, kas izmanto rīkus, ir fundamentāla. Sākot ar medium piepūles līmeni — ko OpenAI iesaka visos gadījumos, kad ir svarīga plānošana —, models var plānot, kurus rīkus lietot un kādā secībā, novērtēt katra rīka rezultātus pirms turpmākās darbības, pielāgot savu stratēģiju, ja rīks neatgriež gaidīto, un apvienot izejas datus vienotā secinājumā. Konkrēti runājot, tas ne tikai izpilda kodu, kad tu to lūdz: tas izdomā problēmu, nolemj, ka kods ir labākais risinājums, uzraksta atbilstošu kodu, analizē rezultātu un tad lemj, vai virzīties tālāk. Šī nianse var šķist smalka, taču četru rīku darbplūsmā tā maina visu, jo slikts sākotnējais lēmums ietekmē visu procesu līdz pat beigām.
API pusē šo loģiku virza divi mehānismi. Izmantojot funkciju izsaukumus (function calling), OpenAI iesaka kopā ar funkcijas rezultātu atgriezt arī spriešanas elementus, kas ģenerēti pēdējā modeļa izsaukumā: tas palīdz modelim saglabāt fokusu uz sākotnējo plānu. Izmantojot Programmatisko rīku izsaukšanu (Programmatic Tool Calling), models uzraksta JavaScript programmu, kas tiek izpildīta izolētā vidē un kas organizē rīku izsaukumus un filtrē starprezultātus. Visbeidzot, ChatGPT Work un Codex vidē Ultra sadala vissmagākos uzdevumus starp apakšagentiem, lai gan tas prasa ievērojami lielākus resursus.
Trīs kombināciju modeļi
Pirmais modelis — Meklē, tad Analizē, tad Kodē — ir piemērots tirgus analīzēm un salīdzinājumiem, proti, situācijām, kad dati vēl nav tavā rīcībā.
“Meklē tīmeklī informāciju par 5 lielāko mākoņpakalpojumu sniedzēju tirgus daļām Eiropā 2025. gadā. Tad, pamatojoties uz šiem datiem, izveido stabiņu diagrammu un aprēķini tirgus koncentrācijas koeficientu (HHI indeksu). Interpretē rezultātu.”
Models tad secīgi iziet cauri četrām atšķirīgām fāzēm.
- Meklē tīmeklī, lai vāktu datus
- Spriež par avotu uzticamību
- Izpilda kodu diagrammas izveidei un aprēķiniem
- Spriež par ekonomisko interpretāciju
Otrā fāze ir tā, ko cilvēki bieži aizmirst, rakstot promptu, taču tieši tā novērš HHI indeksa aprēķināšanu, balstoties uz aptuveniem skaitļiem.
Otrais modelis apgriež sākumpunktu: tas sākas ar taviem datiem, lai tos bagātinātu no ārpuses — Dati, Kods, Meklēšana, Sintēze.
“Šeit ir mans pārdošanas fails pa valstīm (CSV). Aprēķini pieauguma tempu katrai valstij, tad meklē katra valsts IKP pieauguma tempu tajā pašā periodā. Identificē valstis, kur mūsu pieaugums pārsniedz IKP pieaugumu (pārsniegums), un tās, kur notiek pretējais.”
Trešais modelis, iteratīvs kods ar spriešanu, izmanto modeļa spēju rakstīt kodu, analizēt rezultātu, pamanīt problēmu un pārrakstīt — visu automātiski. Tu vari pat norādīt rezerves metodi.
“Šeit ir darījumu datu kopa (CSV). Atklāj statistikas anomālijas. Ja pirmā metode (z-vērtība) nedod skaidrus rezultātus, izmēģini starpkvartiļu diapazona metodi. Izvēlies atbilstošāko metodi un paskaidro, kāpēc.”
Atgūst kontroli pār rīkiem
Ļaut modelim pašam lemt ir ērti, taču dažreiz tu jau zini, kurš rīks ir piemērots, un tā norādīšana ir efektīvāka nekā ļaušana tam eksperimentēt. Tāpēc tu vari to ierobežot: “Nemeklē tīmeklī, analizē tikai pievienotajā failā esošos datus un sniedz secinājumus, balstoties tikai uz šiem datiem,” vai “Neizpildi kodu šim jautājumam. Spried tikai, pamatojoties uz manu sniegto informāciju.”
Garām darbplūsmām ievieto kontrolpunktus, nevis palaid visu vienā blokā: “1. solis: aprēķini pamatrādītājus un parādi man rezultātus pirms turpināšanas. 2. solis (pēc mana apstiprinājuma): bagātini ar tīmekļa datiem. 3. solis: sagatavo galīgo ziņojumu.” Tas ļauj tev apturēt procesu pirms kļūda izplatās uz dārgām darbībām.
Vizualizācijas, kurām nepieciešams spriedums
Spriešanas un koda izpildes kombinācija ir īpaši spēcīga, kad pati vizualizācija prasa lēmumu pieņemšanu: kāda veida diagramma, kādas sliekšņa vērtības, ko izcelt.
“Šeit ir mani veiktspējas dati (Excel). Izveido vienas lapas informācijas paneli ar: (1) katram rādītājam atbilstošāko diagrammu — pats izvēlies diagrammas veidu, balstoties uz datu raksturu, (2) automātisku anomāliju izcelšanu, (3) zaļu/dzeltenu/sarkanu krāsu kodu, kas balstīts uz sliekšņiem, kurus noteiksi, analizējot datu sadalījumu.”
Models spriež par optimālo diagrammas veidu katram rādītājam atsevišķi, aprēķina statistiski nozīmīgus sliekšņus, nevis izgudro tos, un ģenerē atbilstošu kodu. Tas ir tieši tas darbs, ko analītiķis veiktu pirms sava redaktora atvēršanas.
Tava kārta
Pilna darbplūsma. Izmēģini šo darbplūsmu augstā spriešanas līmenī (High režīmā čatā vai high API vidē).
“Es tev došu CSV failu ar ikmēneša izdevumiem pa kategorijām 24 mēnešu garumā. Es vēlos:
- Identificēt 3 kategorijas ar lielāko pieaugumu (aprēķins Python valodā)
- Katrai no tām meklēt, vai tā ir valsts mēroga tendence vai specifiska manam gadījumam (meklēšana tīmeklī)
- Izveidot salīdzinošu diagrammu: mani izdevumi pret valsts mēroga tendenci (Python)
- Uzrakstīt kopsavilkumu ar ieteikumiem (tīra spriešana) Prezentē katra soļa rezultātu.”
Veicot uzdevumu, vēro, kas notiek, ja koda izpilde neizdodas. Models var mēģināt vēlreiz pats, kas ir labi; taču, ja problēma slēpjas tavos datos, neviens pārrakstījums to neatrisinās: pārbaudi failu, nevis sāc no jauna. Un, ja pieprasījums kļūst pārāk smags, sadali to soļos, ko apstiprini pa vienam.
Oficiālie avoti: Spriešanas modeļi (OpenAI API: piepūles līmeņi, spriešanas elementu atgriešana kopā ar funkciju izsaukumiem) · Programmatiskā rīku izsaukšana · Datu analīze ar ChatGPT (koda izpilde ChatGPT) · Modeļi (Ultra)
Galvenās atziņas
- Pietiekamā piepūles līmenī spriešana stratēģiski, nevis mehāniski vada rīkus
- Trīs galvenie modeļi: meklē, analizē, tad kodē; dati, kods, tad meklē; iteratīvs kods
- API vidē atgriez spriešanas elementus kopā ar funkciju rezultātiem un apsver Programmatisko rīku izsaukšanu
- Tu vari piespiest vai ierobežot rīku lietošanu atbilstoši savām vajadzībām
- Garās darbplūsmās ievieto kontrolpunktus, lai saglabātu kontroli