Edición en español
Producción: procesamiento por lotes, optimización y observabilidad
Paso a producción: inferencia por lotes de hasta 1 millón de solicitudes, salidas predichas, citas con fuentes y observabilidad (trazas, jueces y evaluaciones fuera de línea).
16 lecciones ca. 1 h 15 min Avanzado
Lo que aprenderás
- Preparar un trabajo de inferencia por lotes en JSONL, seguir su estado y recuperar los resultados
- Reducir la latencia de respuesta con salidas predichas en tareas de reescritura
- Implementar citas con objetos de referencia para fundamentar las respuestas en sus fuentes
- Rastrear una aplicación con OpenTelemetry, explorar trazas de producción y automatizar la evaluación con jueces LLM
- Construir conjuntos de datos a partir de trazas y medir cada versión mediante evaluaciones fuera de línea
Ficha del curso
- Dirigido a
- Desarrolladores, ingenieros e integradores que deseen utilizar Mistral AI mediante API en sus aplicaciones.
- Requisitos previos
- Experiencia demostrada en el desarrollo de aplicaciones y su despliegue en producción.
- Duración
- 1 h 15 min — 16 lecciones
- Modalidades
- Curso 100 % en línea y a tu propio ritmo, accesible 24/7 desde un navegador. El progreso se guarda y puedes retomarlo en cualquier momento. Duración estimada: 1 h 15 min.
- Evaluación
- Autoevaluación basada en los puntos clave que concluyen cada lección y práctica directa de los ejemplos con tus propios casos. Un cuestionario final de 5 preguntas calificadas al terminar la última lección valida lo aprendido.
- Accesibilidad
- Curso accesible para personas con discapacidad: contenido de texto compatible con lectores de pantalla, navegación por teclado y contraste de colores conforme a normativa. Para necesidades de adaptación, escribe a [email protected].
- Precio
- Gratis
Contenido del curso
- 01 Inferencia por lotes: por qué, cuándo y ahorro de costes
- 02 Formato JSONL, custom_id y carga de archivos
- 03 Crear un trabajo por lotes, seguir su estado y descargar los resultados
- 04 Agrupación en línea: hasta 10 000 solicitudes sin archivos
- 05 Reduce la latencia con salidas predichas
- 06 Casos de uso reales para salidas predichas
- 07 Implementar salidas predichas en Python
- 08 Citas con fuentes: objeto de referencia y RAG
- 09 Implementar citas en Python
- 10 Anclar las respuestas en las fuentes y reducir las alucinaciones
- 11 Introducción a la observabilidad: trazas, jueces y evaluaciones
- 12 Explorar: Buscar e inspeccionar trazas de producción
- 13 Jueces: Evaluación automatizada de LLM
- 14 Evaluaciones fuera de línea: mide antes de desplegar
- 15 Conjuntos de datos: Crear conjuntos de evaluación e iterar
- 16 Canalización de extremo a extremo: trazas, jueces, conjuntos de datos, evaluaciones