A munkafolyamatok tartóssága és megbízhatósága
Ezen az oldalon
Miért változtat meg mindent a tartósság?
Képzelj el egy tíz lépésből álló folyamatot, amely számlák batch feldolgozását végzi: kinyerés, validálás, modellhívás, adatbázis-írás, értesítés. Egy szabványos Python szkriptben, ha a 7. lépésnél összeomlik a rendszer, vissza kell térned az 1. lépéshez. Az első hat lépés újra lefut, ami komoly problémákat okoz, ha bármelyikük írt az adatbázisba vagy küldött üzenetet. Egy tartós munkafolyamattal a rendszer pontosan a 7. lépésnél folytatja. Kihagyja az első hat lépést, elkerüli a műveletek duplikálását, és nem veszít el adatot.
Ez a képesség egy konkrét mechanizmuson, az úgynevezett eseményalapú naplózás (event sourcing) alapul. Ennek a fogalomnak a megértése elengedhetetlen, mert ez magyarázza meg azokat a korlátokat, amelyekkel később találkozni fogsz.
Eseményalapú naplózás: Az alapelv
Az eseményalapú naplózás minden munkafolyamat-műveletet változtathatatlan eseményként rögzít egy naplóban. A hagyományos megközelítéstől való eltérés egyetlen mondatban összefoglalható: a platform a jelenlegi állapot (pl. „folyamatban, 7. lépés“) tárolása helyett a műveletek és azok eredményeinek teljes történetét őrzi meg. Egy két aktivitást tartalmazó munkafolyamat-végrehajtás a következő nyomokat hagyja:
- A munkafolyamat elindul és bemeneti paramétereket kap → esemény rögzítve
- A munkafolyamat meghívja az A aktivitást → esemény rögzítve
- Az A aktivitás eredménnyel befejeződik → esemény rögzítve
- A munkafolyamat meghívja a B aktivitást → esemény rögzítve
- A B aktivitás befejeződik → esemény rögzítve
- A munkafolyamat visszaadja a végeredményt → esemény rögzítve
A rendszer minden lépést mielőtt továbblépne, tartósít. Nincs olyan időablak, amikor egy művelet megtörténne anélkül, hogy a napló tudna róla. Ez a napló válik az egyetlen igazságforrássá; a munkafolyamat állapota sehol máshol nem létezik.
Automatikus újrajátszás: Helyreállítás hiba esetén
Amikor egy worker összeomlik, egy új worker veszi át a helyét, lekéri az eseménynaplót, és újrajátsza a munkafolyamat kódját az elejétől. Az „újrajátszás“ szó gyakran meglepi az embereket: a kód valóban újraindul az első sortól, de minden olyan aktivitás esetén, amely már befejeződött, a motor nem hívja meg újra a függvényedet. Ehelyett a naplóból származó rögzített eredményt helyettesíti be. A munkafolyamat olvasási sebességgel halad addig, amíg el nem éri az első befejezetlen aktivitást. Csak ekkor folytatódik a valós munka.
A már sikeresen lezárult aktivitásokat az újrajátszás során soha nem hajtják végre újra. Az alábbi példa ezt a garanciát kézzelfoghatóvá teszi a legérzékenyebb esetben: egy e-mail elküldésénél.
import mistralai.workflows as workflows
@workflows.activity()
async def send_email(recipient: str, content: str) -> dict:
"""Ez az aktivitás csak egyszer fut le,
még akkor is, ha a munkafolyamat többször újrajátszódik."""
response = await email_service.send(recipient, content)
return {"status": "sent", "id": response.id}
@workflows.workflow.define(name="notification_workflow")
class NotificationWorkflow:
@workflows.workflow.entrypoint
async def run(self, recipient: str) -> dict:
# Ha a munkafolyamat AZ E-MAIL ELKÜLDÉSE UTÁN omlik össze,
# az e-mail az újrajátszás során NEM kerül újraküldésre.
email_result = await send_email(recipient, "A jelentésed elkészült")
# A munkafolyamat itt folytatódik
log_result = await log_notification(recipient, email_result)
return log_result
Hibatűrés: Le fedett forgatókönyvek
A platform négyféle incidenset kezel anélkül, hogy egyetlen sor kódot is írnod kellene. Először is, egy worker összeomlása: a Python folyamat hirtelen leáll egy memóriahiba, egy kill jelzés vagy egy szerver újraindítása miatt. Egy másik worker pontosan ott veszi fel a munkafolyamatot, ahol az abbamaradt. Másodszor, egy átmeneti hálózati hiba: egy API-hívás időtúllépés miatt meghiúsul. Az újrapróbálkozási szabályzat automatikusan újraindítja az aktivitást exponenciális visszalépéssel (exponential backoff), növekvő késleltetéseket alkalmazva, hogy ne terhelje túl a küszködő szolgáltatást.
Harmadszor, hibák a saját kódodban: egy aktivitásban felmerülő kivétel a konfigurált szabályzat alapján meghatározott számú alkalommal újrapróbálkozik, mielőtt véglegesen meghiúsulna. Negyedszer, egy harmadik fél szolgáltatásának ideiglenes elérhetetlensége. Ennek hatása drámai: ha egy partner API tíz percre leáll, az éjszakai pipeline-od nem hiúsul meg. A függőben lévő aktivitások újraindulnak, amikor a szolgáltatás visszatér, és a feldolgozás mindössze tíz perc késéssel fejeződik be.
A determinizmus kényszere
Az újrajátszásnak ára van. Ahhoz, hogy a napló újrajátszása hűen reprodukálja az eredeti végrehajtást, a munkafolyamat kódjának (nem az aktivitásokénak) determinisztikusnak kell lennie. Ugyanazon bemenetek esetén ugyanazt a műveletsorozatot kell előállítania. Ha a munkafolyamatod elágazik egy if datetime.now().hour < 12 feltétel alapján, egy esti újrajátszás során a másik ágra térhet, teljesen deszinkronizálva a naplót.
Ezért a munkafolyamat kódjában soha nem szabad a következőket tenned:
- Használni a
datetime.now()-t → használd aworkflow.now()-t - Használni a
uuid.uuid4()-et → használd aworkflow.uuid4()-et - Használni a
random.random()-t → használd aworkflow.random()-t - Közvetlenül hálózati vagy I/O hívásokat indítani → helyezd át őket egy aktivitásba
Ez a három helyettesítés az első futás során rögzített értékeket adja vissza, amelyeket ezt követően azonos módon játszanak újra. Ezt a korlátot a 8. leckében részletezzük, amely a determinizmusra fókuszál.
Összehasonlítás a hagyományos megközelítésekkel
| Megközelítés | Helyreállítás hiba esetén | Végrehajtási garancia | Komplexitás |
|---|---|---|---|
| Egyszerű Python szkript | Nincs | Nincs | Alacsony |
| Üzenetsor (Celery, RQ) | Részleges | Legalább egyszer (At-least-once) | Közepes |
| Cron + Adatbázis | Kézi | Implementációtól függ | Magas |
| Mistral Workflows (Temporal) | Automatikus | Pontosan egyszer (logikai) | Alacsony (SDK) |
Fordíts nagy figyelmet a komplexitás oszlopra. Egy üzenetsor egyszerűnek tűnik induláskor, de a részleges helyreállítás miatt olyan állapotkezelési logikát kell írnod, amelyet az SDK dobozból kivéve biztosít.
Pontosan egyszer: Logikai garancia
A platform garantálja, hogy a munkafolyamat logikája pontosan egyszer hajtódik végre. Ha egy aktivitás sikeres, a rendszer rögzíti az eredményt, és soha nem hajtja végre újra. Ha meghiúsul, a rendszer a konfigurált szabályzat szerint újrapróbálja.
A „logikai“ szó nem díszítés. Hálózati szinten egy hívás valójában kétszer is elküldésre kerülhet: az ügyfél létrehozására irányuló kérésed eljut a CRM-hez, de a visszaigazolás elveszik útközben. A te szemszögedből az aktivitás meghiúsult és újrapróbálkozik, még akkor is, ha az ügyfél már létezik. Ez szükségessé teszi a idempotens aktivitásokat, amelyek ugyanazt az eredményt produkálják, még akkor is, ha ugyanazon paraméterekkel többször hívják meg őket. A gyakorlatban ez azt jelenti, hogy érdemes egy stabil ID-n végzett PUT műveletet előnyben részesíteni egy olyan POST-tal szemben, amely minden híváskor új sort hoz létre.
Főbb megállapítások
- Az eseményalapú naplózás minden lépést változtathatatlan eseményként rögzít egy naplóban
- Az automatikus újrajátszás lehetővé teszi a megszakított munkafolyamat folytatását a befejezett aktivitások újbóli végrehajtása nélkül
- A platform automatikusan kezeli az összeomlásokat, hálózati hibákat és szolgáltatáskieséseket
- A munkafolyamat kódjának determinisztikusnak kell lennie az újrajátszás működéséhez
- Az aktivitásoknak idempotensnek kell lenniük a konzisztencia biztosításához az újrapróbálkozások során
- A végrehajtási garancia logikai pontosan-egyszer (logical exactly-once)