Ga naar hoofdinhoud
Nederlands— Kies een taal
Menu

Nederlandstalige editie

Productie, Evaluaties en Optimalisatie

Behandelt latentie, prompt-caching, Batch API, evaluaties, compactie en een volledige productiearchitectuur.

20 lessen ca. 2 h Gevorderd

Wat u leert

  • De end-to-end latentie van een oproep meten en prioritaire optimalisatiehefbomen identificeren
  • Kosten op schaal verlagen met prompt-caching, Voorspelde Uitvoer en de Batch API
  • Een asynchrone architectuur ontwerpen gebaseerd op wachtrijen, parallelisme en achtergrondmodus
  • Lange conversaties beheersen via compactie, token-telling en budgettering
  • Evaluaties automatiseren met het Evals-framework en integreren in een CI/CD-pipeline

Cursusoverzicht

Voor wie
Ontwikkelaars, ingenieurs en integrators die ChatGPT via API in hun toepassingen willen benutten.
Vereisten
Bevestigde ervaring in applicatieontwikkeling en implementatie naar productie.
Duur
2 h — 20 lessen
Modaliteiten
100% online zelfgestuurd cursusaanbod, 24/7 toegankelijk via een browser. De voortgang wordt opgeslagen, zodat u op elk moment kunt hervatten. Geschatte duur: 2 h.
Toetsing
Zelfevaluatie op basis van de kernpunten die elke les afsluiten, en directe implementatie van voorbeelden op uw eigen casussen. Een eindquiz van 5 gecorrigeerde vragen aan het einde van de laatste les valideert het leerproces.
Toegankelijkheid
Zelfgestuurde cursus toegankelijk voor personen met een handicap: tekstinhoud compatibel met schermlezers, toetsenbordnavigatie en conforme contrasten. Voor aanpassingsbehoeften kunt u e-mailen naar [email protected].
Prijs
Gratis

Inhoud van de cursus

  1. 01 Latentie meten en analyseren
  2. 02 Optimalisatie van end-to-end: van prompt tot netwerk
  3. 03 Prompt caching: Berekeningen hergebruiken
  4. 04 Uitvoer voorspellen: snellere reacties
  5. 05 Streaming geoptimaliseerd
  6. 06 Batch API: Massale Asynchrone Verwerking
  7. 07 Asynchrone architectuur en wachtrijen
  8. 08 Parallelisme en concurrentie
  9. 09 Achtergrondmodus
  10. 10 Kosten optimaliseren op schaal
  11. 11 Compaction: lange gesprekken comprimeren
  12. 12 Token telling en budgettering
  13. 13 Geavanceerde prompt-caching
  14. 14 Contextstrategieën voor agents
  15. 15 Evalueer uw prompts: methoden, graders en migratie naar Promptfoo
  16. 16 Créer des évaluations personnalisées
  17. 17 Metrics en Benchmarks
  18. 18 CI/CD voor AI: Geautomatiseerde Evals
  19. 19 Contentmoderatie op schaal
  20. 20 Productie-architectuur: monitoring, alerting, schalen