Edição em português
Produção, Avaliações e Otimização
Aborda latência, cache de prompts, Batch API, avaliações, compactação e arquitetura completa de produção.
20 aulas ca. 2 h Avancado
O que vai aprender
- Medir a latência de ponta a ponta de uma chamada e identificar alavancas de otimização prioritárias
- Reduzir custos em escala com cache de prompts, Saídas Previstas e a Batch API
- Desenhar uma arquitetura assíncrona baseada em filas, paralelismo e modo em segundo plano
- Dominar conversas longas através de compactação, contagem de tokens e definição de orçamentos
- Automatizar avaliações com a estrutura Evals e integrá-las num pipeline de CI/CD
Ficha do curso
- Destinatários
- Programadores, engenheiros e integradores que pretendem aproveitar o ChatGPT via API nas suas aplicações.
- Pré-requisitos
- Experiência confirmada em desenvolvimento de aplicações e implementação em produção.
- Duração
- 2 h — 20 aulas
- Modalidades
- Curso 100% online e auto ritmo, acessível 24/7 através de um navegador. O progresso é guardado, permitindo retomar a qualquer momento. Duração estimada: 2 h.
- Avaliação
- Autoavaliação com base nos pontos-chave que concluem cada lição e implementação direta de exemplos nos seus próprios casos. Um questionário final de 5 perguntas corrigidas no fim da última lição valida a aprendizagem.
- Acessibilidade
- Curso auto ritmo acessível a pessoas com deficiência: conteúdo de texto compatível com leitores de ecrã, navegação por teclado e contrastes conformes. Para quaisquer necessidades de adaptação, envie um e-mail para [email protected].
- Preço
- Gratis
Conteúdo do curso
- 01 Medir e analisar a latência
- 02 Otimização de ponta a ponta: do prompt à rede
- 03 Cache de prompts: Reutilizar computações
- 04 Saídas Previstas: Respostas Mais Rápidas
- 05 Streaming otimizado
- 06 Batch API: Processamento Assíncrono em Massa
- 07 Arquitetura Assíncrona e Filas
- 08 Paralelismo e Concorrência
- 09 Modo em segundo plano
- 10 Otimização de Custos em Escala
- 11 Compaction: Comprimir Conversas Longas
- 12 Contagem e orçamentação de tokens
- 13 Cache avançado de prompts
- 14 Estratégias de contexto para agentes
- 15 Avaliar os Seus Prompts: Métodos, Avaliadores e Migração para o Promptfoo
- 16 Criar Avaliações Personalizadas
- 17 Métricas e Benchmarks
- 18 CI/CD para IA: Avaliações Automatizadas
- 19 Moderação de conteúdo em escala
- 20 Arquitetura de produção: monitorização, alertas e escalabilidade