Nederlandstalige editie
Productie, Evaluaties en Optimalisatie
Behandelt latentie, prompt-caching, Batch API, evaluaties, compactie en een volledige productiearchitectuur.
20 lessen ca. 2 h Gevorderd
Wat u leert
- De end-to-end latentie van een oproep meten en prioritaire optimalisatiehefbomen identificeren
- Kosten op schaal verlagen met prompt-caching, Voorspelde Uitvoer en de Batch API
- Een asynchrone architectuur ontwerpen gebaseerd op wachtrijen, parallelisme en achtergrondmodus
- Lange conversaties beheersen via compactie, token-telling en budgettering
- Evaluaties automatiseren met het Evals-framework en integreren in een CI/CD-pipeline
Cursusoverzicht
- Voor wie
- Ontwikkelaars, ingenieurs en integrators die ChatGPT via API in hun toepassingen willen benutten.
- Vereisten
- Bevestigde ervaring in applicatieontwikkeling en implementatie naar productie.
- Duur
- 2 h — 20 lessen
- Modaliteiten
- 100% online zelfgestuurd cursusaanbod, 24/7 toegankelijk via een browser. De voortgang wordt opgeslagen, zodat u op elk moment kunt hervatten. Geschatte duur: 2 h.
- Toetsing
- Zelfevaluatie op basis van de kernpunten die elke les afsluiten, en directe implementatie van voorbeelden op uw eigen casussen. Een eindquiz van 5 gecorrigeerde vragen aan het einde van de laatste les valideert het leerproces.
- Toegankelijkheid
- Zelfgestuurde cursus toegankelijk voor personen met een handicap: tekstinhoud compatibel met schermlezers, toetsenbordnavigatie en conforme contrasten. Voor aanpassingsbehoeften kunt u e-mailen naar [email protected].
- Prijs
- Gratis
Inhoud van de cursus
- 01 Latentie meten en analyseren
- 02 Optimalisatie van end-to-end: van prompt tot netwerk
- 03 Prompt caching: Berekeningen hergebruiken
- 04 Uitvoer voorspellen: snellere reacties
- 05 Streaming geoptimaliseerd
- 06 Batch API: Massale Asynchrone Verwerking
- 07 Asynchrone architectuur en wachtrijen
- 08 Parallelisme en concurrentie
- 09 Achtergrondmodus
- 10 Kosten optimaliseren op schaal
- 11 Compaction: lange gesprekken comprimeren
- 12 Token telling en budgettering
- 13 Geavanceerde prompt-caching
- 14 Contextstrategieën voor agents
- 15 Evalueer uw prompts: methoden, graders en migratie naar Promptfoo
- 16 Créer des évaluations personnalisées
- 17 Metrics en Benchmarks
- 18 CI/CD voor AI: Geautomatiseerde Evals
- 19 Contentmoderatie op schaal
- 20 Productie-architectuur: monitoring, alerting, schalen