Az érvelés és az eszközök kombinálása
Ezen az oldalon
Lépj tovább a haladó eszközökkel
Már tudod, hogyan kombináld az érvelést a kódvégrehajtással és a webes kereséssel. Ez a lecke a fejlett kombinációkat vizsgálja: az eszközök stratégiai láncolását, az érvelés vezérlő szerepét, valamint valóban autonóm munkafolyamatok felépítését.
Az érvelés mint az eszközök vezérlője
Alapvető különbség van aközött, amikor egy modell gondolkodás nélkül válaszol, és aközött, amikor egy érvelő modell eszközöket használ. Ha medium (közepes) erőfeszítési szinttel indítasz – amit az OpenAI mindig ajánl, amikor a tervezés számít –, a modell képes megtervezni, mely eszközöket használja és milyen sorrendben, kiértékelni minden egyes eszköz eredményét a továbblépés előtt, módosítani a stratégiáját, ha egy eszköz nem a várt eredményt adja vissza, valamint koherens következtetéssé egyesíteni a kimeneteket. Konkrétabban: nem csupán akkor futtat kódot, amikor kéred; hanem végiggondolja a problémát, eldönti, hogy a kód a legjobb megoldás, megírja a megfelelő kódot, elemzi az eredményt, majd eldönti, érdemes-e továbbmenni. Ez a nüansz apróságnak tűnhet, de egy négyeszközös munkafolyamatban mindent megváltoztat, hiszen egy rossz kezdeti döntés végiggyűrűzik egészen a folyamat végéig.
Az API oldalán két mechanizmus segíti elő ezt a logikát. A függvényhívások (function calling) esetén az OpenAI azt ajánlja, hogy az utolsó modellhívás során keletkezett érvelési elemeket (reasoning items) a függvényeredménnyel együtt add vissza: ez segít a modellnek azon az úton maradni, amit eredetileg megtervezett. A Programmatikus Eszközhívás (Programmatic Tool Calling) esetén a modell egy JavaScript programot ír, amely egy elszigetelt környezetben fut, és ez orchestrálja az eszközlehívásokat, valamint szűri a közbenső eredményeket. Végül a ChatGPT Workben és a Codexben az Ultra modell a legnehezebb feladatokat ügynökök (sub-agents) között osztja szét, ami jelentősen magasabb fogyasztással jár.
Három kombinációs minta
Az első minta – Keresés, majd Elemzés, majd Kód – a piacelemzésekhez és összehasonlító tesztekhez illik, azaz olyan helyzetekhez, ahol az adatok még nem állnak a rendelkezésedre.
„Keresd meg az 5 legnagyobb európai felhőszolgáltató piaci részesedését 2025-ben. Ezután ezen adatok alapján készíts egy oszlopdiagramot, és számítsd ki a piaci koncentrációs rátát (HHI-index). Értelmezd az eredményt.“
A modell ezt követően négy elkülönült fázison vezeti végig a feladatot.
- Webes keresés az adatok gyűjtéséhez
- Érvelés a források megbízhatóságáról
- Kódvégrehajtás a diagram és a számítás elkészítéséhez
- Érvelés a gazdasági értelmezésről
A második fázis az, amit az emberek gyakran elfelejtenek megemlíteni az utasításban, pedig ez akadályozza meg, hogy hozzávetőleges számok alapján számítsd ki a HHI-indexet.
A második minta megfordítja a kiindulópontot: a saját adataidból indul ki, hogy kívülről gazdagítsd azokat – Adat, Kód, Keresés, Szintézis.
„Íme az eladási fájlom országok szerint (CSV). Számítsd ki a növekedési rátát országonként, majd keresd meg az egyes országok GDP-növekedési rátáját ugyanerre az időszakra. Azonosítsd azokat az országokat, ahol a mi növekedésünk meghaladja a GDP-növekedést (túlteljesítés), és azokat, ahol az ellenkezője igaz.”
A harmadik minta, az iteratív kód érveléssel, a modell arra való képességét használja ki, hogy kódot írjon, elemezze az eredményt, észleljen egy problémát, majd újraírja a kódot – mindezt automatikusan. Még a tartalék módszert is meghatározhatod.
„Íme egy tranzakciós adathalmaz (CSV). Észleld a statisztikai anomáliákat. Ha az első módszer (z-score) nem hoz egyértelmű eredményt, próbáld meg a kvartiliseken alapuló tartomány (IQR) módszerét. Válaszd ki a legrelevánsabb módszert, és indokold meg, miért.”
Az eszközök feletti ellenőrzés visszaszerzése
Kényelmes hagyni, hogy a modell döntsön, de néha már tudod, melyik eszköz illik a feladathoz – és ezt közölni vele hatékonyabb, mint hagyni, hogy kísérletezzen. Ezért korlátozhatod is: „Webes keresés nélkül csak a csatolt fájl adatait elemezd, és kizárólag ezek alapján vonj le következtetéseket“, vagy „Erre a kérdésre ne futtass kódot. Kizárólag az általam megadott információk alapján végezz érvelést.“
Hosszú munkafolyamatok esetén illessz be ellenőrző pontokat ahelyett, hogy mindent egy blokkban indítanál el: „1. lépés: számítsd ki az alapvető metrikákat, és mielőtt folytatnád, mutasd meg az eredményeket. 2. lépés (az én jóváhagyásom után): gazdagítsd az adatokat webes információkkal. 3. lépés: készítsd el a végső jelentést.“ Így képes maradsz leállítani a folyamatot, mielőtt egy hiba eljutna a költséges lépésekig.
Ítéletalkotást igénylő vizualizációk
Az érvelés és a kódvégrehajtás kombinációja különösen akkor ragyog, amikor maga a vizualizáció döntéseket igényel: milyen típusú diagram, milyen küszöbértékek, milyen kiemelések.
„Íme a teljesítményadataim (Excel). Készíts egyoldalas irányítópultot a következőkkel: (1) a legrelevánsabb diagram minden egyes metrikához – te válaszd ki a diagram típusát az adatok jellege alapján, (2) az anomáliák automatikus kiemelése, (3) zöld/sárga/piros színkód azokon a küszöbértékeken alapulva, amelyeket te határozol meg az adateloszlás alapján.”
A modell metrikáról metrikára érvel a optimális diagramtípusról, statisztikailag releváns küszöbértékeket számít ki ahelyett, hogy kitalálná azokat, majd előállítja a megfelelő kódot. Pontosan ez az a munka, amit egy elemző végezne, mielőtt megnyitná a szerkesztőjét.
Rajtad a sor
Egy teljes munkafolyamat. Teszteld ezt a munkafolyamatot magas érvelési szinten (High a Chatben, high az API-ban).
„Adok neked egy CSV-fájlt a havi kiadásokról kategóriák szerint, 24 hónapon át. A következőket szeretném:
- Azonosítsd azt a 3 kategóriát, ahol a legnagyobb a növekedés (számítás Pythonban)
- Mindegyiknél keresd meg, hogy ez országos tendencia-e, vagy csak az én esetemre jellemző (webes keresés)
- Készíts egy összehasonlító diagramot: az én kiadásaim vs. az országos tendencia (Python)
- Írj egy összefoglalót ajánlásokkal (tiszta érvelés) Mutasd be minden egyes lépés eredményét.”
A gyakorlat során figyeld meg, mi történik, ha a kódvégrehajtás meghiúsul. A modell képes egymaga újra próbálkozni, ami jó dolog; de ha a probléma az adataidban rejlik, egyetlen újraírás sem oldja meg: inkább a fájlt ellenőrizd, ne pedig újraindítsd a folyamatot. És ha a kérés túl nehézzé válik, bontsd lépésekre, amelyeket egyesével hagysz jóvá.
Hivatalos források: Érvelő modellek (OpenAI API: erőfeszítési szintek, érvelési elemek visszaadása függvényhívásokkal) · Programmatikus Eszközhívás · Adatelemzés a ChatGPT-vel (kódvégrehajtás a ChatGPT-ben) · Modellek (Ultra)
Főbb megállapítások
- Megfelelő erőfeszítési szint mellett az érvelés stratégiai módon, nem mechanikusan vezérli az eszközöket
- Három kulcsfontosságú minta: keresés, elemzés majd kód; adat, kód majd keresés; iteratív kód
- Az API oldalán add vissza az érvelési elemeket a függvényeredményekkel együtt, és fontold meg a Programmatikus Eszközhívást
- Szükségleteid alapján kényszerítheted vagy korlátozhatod az eszközhasználatot
- Hosszú munkafolyamatoknál illessz be ellenőrző pontokat az ellenőrzés megtartása érdekében