Българско издание
Продукция: Пакетна обработка, оптимизация и наблюдаемост
Преминаване към продукция: пакетно извеждане до 1 млн. заявки, предвидени изходи, цитати с източници и наблюдаемост (проследявания, оценители, офлайн оценки).
16 урока ок. 1 ч 15 мин Напреднало
Какво ще научите
- Подготовка на задача за пакетно извеждане в JSONL, проследяване на нейния статус и извличане на резултатите
- Намаляване на латентността на отговорите чрез предвидени изходи при задачи за пренаписване
- Внедряване на цитати с обект за препратка, за да се обосноват отговорите в техните източници
- Проследяване на приложение с OpenTelemetry, разглеждане на производствени проследявания и автоматизиране на оценката с LLM оценители
- Изграждане на набори от данни от проследявания и измерване на всяка версия чрез офлайн оценки
Информация за курса
- За кого е
- Разработчици, инженери и интегратори, които искат да използват Mistral AI чрез API в своите приложения.
- Предварителни изисквания
- Доказан опит в разработването на приложения и тяхното внедряване в продукция.
- Продължителност
- 1 ч 15 мин — 16 урока
- Формати
- 100% онлайн курс в собствен темп, достъпен 24/7 от браузър. Прогресът се запазва и можете да го възобновите по всяко време. Приблизителна продължителност: 1 ч 15 мин.
- Оценяване
- Самооценка въз основа на основните изводи, които завършват всеки урок, и директна практика на примерите върху ваши собствени случаи. Финален тест от 5 оценявани въпроса в края на последния урок утвърждава наученото.
- Достъпност
- Курсът е достъпен за хора с увреждания: текстовото съдържание е съвместимо с екранни четци, навигацията с клавиатура и цветовия контраст отговарят на изискванията. За всякакви нужди от адаптация, пишете на [email protected].
- Цена
- Безплатно
Уроци
- 01 Пакетно извеждане: Защо, кога и икономия на разходи
- 02 Формат JSONL, custom_id и качване на файлове
- 03 Създаване на пакетна задача, проследяване на статуса и изтегляне на резултатите
- 04 Пакетна обработка в паметта: До 10 000 заявки без файл
- 05 Намаляване на латентността чрез предвидени изходи
- 06 Случаи на употреба в реалния свят за предвидени изходи
- 07 Имплементиране на предвидени изходи в Python
- 08 Цитати с източници: Обект за препратки и RAG
- 09 Имплементиране на цитати в Python
- 10 Закотвяне на отговорите в източниците и намаляване на халюцинациите
- 11 Въведение в наблюдаемостта: Трейсове, съдии и оценки
- 12 Изследване: Търсене и инспекция на производствени следи
- 13 Съдии: Автоматизирана оценка на LLM
- 14 Оценки офлайн: измервайте, преди да внедрите
- 15 Набори от данни: Изграждане на оценъчни множества и итерации
- 16 Пайплайн от край до край: следи, оценители, набори от данни, оценки