Έκδοση στα ελληνικά
Παραγωγή, Evals και βελτιστοποίηση
Latency, prompt caching, Batch API, Evals και compaction, μέχρι την πλήρη αρχιτεκτονική για την παραγωγή.
20 μαθήματα περίπου 2 ώρες Προχωρημένος
Τι θα μάθετε
- Μετρήστε το latency μιας κλήσης άκρη-σε-άκρη και εντοπίστε τους μοχλούς βελτιστοποίησης κατά προτεραιότητα
- Μειώστε το κόστος σε κλίμακα με prompt caching, Predicted Outputs και Batch API
- Σχεδιάστε ασύγχρονη αρχιτεκτονική με ουρές, παραλληλισμό και background mode
- Διαχειριστείτε τις παρατεταμένες συνομιλίες με compaction, μέτρηση token και προϋπολογισμό κόστους
- Εκτελέστε αυτόματες αξιολογήσεις με το πλαίσιο Evals και ενσωματώστε τες στην αλυσίδα CI/CD
Στοιχεία προγράμματος
- Σε ποιους απευθύνεται
- Προγραμματιστές, μηχανικοί και τεχνικοί ολοκλήρωσης που θέλουν να αξιοποιήσουν το ChatGPT μέσω API στις εφαρμογές τους.
- Προαπαιτούμενα
- Επιβεβαιωμένη εμπειρία στην ανάπτυξη εφαρμογών και στη μεταφορά τους σε περιβάλλον παραγωγής.
- Διάρκεια
- 2 ώρες — 20 μαθήματα
- Μορφές παράδοσης
- 100% διαδικτυακή σε αυτορρύθμιση, διαθέσιμη 24/7 από browser. Η πρόοδος αποθηκεύεται και συνεχίζετε όποια στιγμή θέλετε. Εκτιμώμενη διάρκεια: 2 ώρες
- Αξιολόγηση
- Αυτοαξιολόγηση με βάση τα «Βασικά σημεία» που κλείνουν κάθε μάθημα, και άμεση εφαρμογή των παραδειγμάτων σε δικές σας περιπτώσεις. Ένα τελικό κουίζ με 5 ερωτήσεις και διορθώσεις, στο τέλος του τελευταίου μαθήματος, επικυρώνει όσα έχετε μάθει.
- Προσβασιμότητα
- Προσβάσιμη σε άτομα με αναπηρία: τα κείμενα λειτουργούν με αναγνώστες οθόνης, η πλοήγηση γίνεται με πληκτρολόγιο και η αντίθεση χρωμάτων είναι σύμφωνη με τις προδιαγραφές. Για οποιαδήποτε προσαρμογή, γράψτε στο [email protected].
- Τιμή
- Δωρεάν
Περιεχόμενο προγράμματος
- 01 Μέτρηση και ανάλυση της καθυστέρησης
- 02 Βελτιστοποίηση end-to-end: από το prompt στο δίκτυο
- 03 Caching ερωτημάτων: Επαναχρησιμοποίηση υπολογισμών
- 04 Έξοδοι Πρόβλεψης: Ταχύτερες Αποκρίσεις
- 05 Βελτιστοποιημένη ροή δεδομένων (Streaming)
- 06 Batch API: Μαζική Ασύγχρονη Επεξεργασία
- 07 Ασύγχρονη Αρχιτεκτονική και Ουρές
- 08 Παραλληλισμός και Συγχρονισμός
- 09 Λειτουργία παρασκηνίου
- 10 Βελτιστοποίηση Κόστους σε Κλίμακα
- 11 Συμπίεση: Συμπύκνωση Μακρών Συνομιλιών
- 12 Καταμέτρηση και προϋπολογισμός tokens
- 13 Προχωρημένη προσωρινή αποθήκευση prompts
- 14 Στρατηγικές πλαισίου για πράκτορες
- 15 Αξιολογήστε τα prompts σας: Μέθοδοι, Graders και μετανάστευση στο Promptfoo
- 16 Δημιουργία Προσαρμοσμένων Αξιολογήσεων
- 17 Μετρικές και Σημεία Αναφοράς
- 18 CI/CD για την Τεχνητή Νοημοσύνη: Αυτοματοποιημένες Αξιολογήσεις
- 19 Μετριασμός περιεχομένου σε μεγάλη κλίμακα
- 20 Αρχιτεκτονική παραγωγής: παρακολούθηση, ειδοποιήσεις, κλιμάκωση