Έκδοση στα ελληνικά
Παραγωγή: batch, βελτιστοποίηση και παρατηρησιμότητα
Μετάβαση σε παραγωγή: batch inference έως 1 εκατομμύριο αιτήματα, predicted outputs, παραπομπές με πηγές και παρατηρησιμότητα.
16 μαθήματα περίπου 1 ώρα 15 λεπτά Προχωρημένος
Τι θα μάθετε
- Ετοιμάστε μια εργασία batch inference σε JSONL, παρακολουθήστε την κατάστασή της και ανακτήστε τα αποτελέσματα
- Μειώστε τον χρόνο απόκρισης με predicted outputs σε εργασίες επαναδιατύπωσης
- Υλοποιήστε παραπομπές με reference object, για να στηρίζονται οι απαντήσεις στις πηγές τους
- Κάνετε trace την εφαρμογή με OpenTelemetry, εξερευνήστε παραγωγικά traces και αυτοματοποιήστε την αξιολόγηση με LLM judges
- Χτίστε datasets από τα traces και μετρήστε κάθε έκδοση με offline αξιολογήσεις
Στοιχεία προγράμματος
- Σε ποιους απευθύνεται
- Προγραμματιστές, μηχανικοί και integrators που θέλουν να αξιοποιήσουν τη Mistral AI μέσω API στις εφαρμογές τους.
- Προαπαιτούμενα
- Επιβεβαιωμένη εμπειρία στην ανάπτυξη εφαρμογών και στη μεταφορά τους σε περιβάλλον παραγωγής.
- Διάρκεια
- 1 ώρα 15 λεπτά — 16 μαθήματα
- Μορφές παράδοσης
- Εξ ολοκλήρου online αυτόνομη κατάρτιση, διαθέσιμη 24/7 από φυλλομετρητή. Η πρόοδος αποθηκεύεται και συνεχίζετε όποτε θέλετε. Εκτιμώμενη διάρκεια: 1 ώρα 15 λεπτά
- Αξιολόγηση
- Αυτοαξιολόγηση με βάση τα Βασικά σημεία που κλείνουν κάθε μάθημα, και άμεση εξάσκηση των παραδειγμάτων σε δικές σας περιπτώσεις. Ένα τελικό κουίζ με 5 διορθωμένες ερωτήσεις, στο τέλος του τελευταίου μαθήματος, επιβεβαιώνει τις γνώσεις σας.
- Προσβασιμότητα
- Κατάρτιση σε δικό σας ρυθμό, προσβάσιμη σε άτομα με αναπηρία: περιεχόμενο συμβατό με αναγνώστες οθόνης, πλοήγηση με πληκτρολόγιο και χρωματική αντίθεση σύμφωνη με τις προδιαγραφές. Για οποιαδήποτε ανάγκη προσαρμογής, γράψτε στο [email protected].
- Τιμή
- Δωρεάν
Περιεχόμενο προγράμματος
- 01 Συμπερασματολογία Παρτίδας: Γιατί, Πότε και Εξοικονόμηση Κόστους
- 02 Μορφή JSONL, custom_id και Μεταφόρτωση Αρχείου
- 03 Δημιουργία Batch Job, Παρακολούθηση Κατάστασης και Λήψη Αποτελεσμάτων
- 04 Ομαδοποίηση Inline: Έως 10.000 Αιτήματα Χωρίς Αρχείο
- 05 Μείωση του λανθάνοντος χρόνου με Προβλεπόμενες Εξόδους
- 06 Πραγματικές περιπτώσεις χρήσης για προβλεπόμενες εξόδους
- 07 Υλοποίηση Προβλεπόμενων Εξόδων σε Python
- 08 Παραθέματα με πηγές: Αντικείμενο αναφοράς και RAG
- 09 Υλοποίηση Παραπομπών σε Python
- 10 Εδραίωση απαντήσεων σε πηγές και μείωση παραισθήσεων
- 11 Εισαγωγή στην Παρατηρησιμότητα: Ίχνη, Κριτές και Αξιολογήσεις
- 12 Εξερεύνηση: Αναζήτηση και επιθεώρηση ιχνών παραγωγής
- 13 Κριτές: Αυτοματοποιημένη Αξιολόγηση LLM
- 14 Évaluations hors ligne : mesurez avant de déployer
- 15 Σύνολα δεδομένων: Δημιουργία συνόλων αξιολόγησης και επαναληπτική βελτίωση
- 16 Πλήρης ροή εργασίας: ίχνη, κριτές, σύνολα δεδομένων, αξιολογήσεις