Премини към основното съдържание
Български— Изберете език
Меню

Българско издание

Продукция: Пакетна обработка, оптимизация и наблюдаемост

Преминаване към продукция: пакетно извеждане до 1 млн. заявки, предвидени изходи, цитати с източници и наблюдаемост (проследявания, оценители, офлайн оценки).

16 урока ок. 1 ч 15 мин Напреднало

Какво ще научите

  • Подготовка на задача за пакетно извеждане в JSONL, проследяване на нейния статус и извличане на резултатите
  • Намаляване на латентността на отговорите чрез предвидени изходи при задачи за пренаписване
  • Внедряване на цитати с обект за препратка, за да се обосноват отговорите в техните източници
  • Проследяване на приложение с OpenTelemetry, разглеждане на производствени проследявания и автоматизиране на оценката с LLM оценители
  • Изграждане на набори от данни от проследявания и измерване на всяка версия чрез офлайн оценки

Информация за курса

За кого е
Разработчици, инженери и интегратори, които искат да използват Mistral AI чрез API в своите приложения.
Предварителни изисквания
Доказан опит в разработването на приложения и тяхното внедряване в продукция.
Продължителност
1 ч 15 мин — 16 урока
Формати
100% онлайн курс в собствен темп, достъпен 24/7 от браузър. Прогресът се запазва и можете да го възобновите по всяко време. Приблизителна продължителност: 1 ч 15 мин.
Оценяване
Самооценка въз основа на основните изводи, които завършват всеки урок, и директна практика на примерите върху ваши собствени случаи. Финален тест от 5 оценявани въпроса в края на последния урок утвърждава наученото.
Достъпност
Курсът е достъпен за хора с увреждания: текстовото съдържание е съвместимо с екранни четци, навигацията с клавиатура и цветовия контраст отговарят на изискванията. За всякакви нужди от адаптация, пишете на [email protected].
Цена
Безплатно

Уроци

  1. 01 Пакетно извеждане: Защо, кога и икономия на разходи
  2. 02 Формат JSONL, custom_id и качване на файлове
  3. 03 Създаване на пакетна задача, проследяване на статуса и изтегляне на резултатите
  4. 04 Пакетна обработка в паметта: До 10 000 заявки без файл
  5. 05 Намаляване на латентността чрез предвидени изходи
  6. 06 Случаи на употреба в реалния свят за предвидени изходи
  7. 07 Имплементиране на предвидени изходи в Python
  8. 08 Цитати с източници: Обект за препратки и RAG
  9. 09 Имплементиране на цитати в Python
  10. 10 Закотвяне на отговорите в източниците и намаляване на халюцинациите
  11. 11 Въведение в наблюдаемостта: Трейсове, съдии и оценки
  12. 12 Изследване: Търсене и инспекция на производствени следи
  13. 13 Съдии: Автоматизирана оценка на LLM
  14. 14 Оценки офлайн: измервайте, преди да внедрите
  15. 15 Набори от данни: Изграждане на оценъчни множества и итерации
  16. 16 Пайплайн от край до край: следи, оценители, набори от данни, оценки