Programa do Curso
Preparação de modelos de aprendizagem automática para implantação
- Empacotamento de modelos com Docker
- Exportação de modelos a partir do TensorFlow e PyTorch
- Considerações sobre versionamento e armazenamento
Serviço de modelos no Kubernetes
- Visão geral dos servidores de inferência
- Implantação do TensorFlow Serving e TorchServe
- Configuração de endpoints de modelos
Técnicas de otimização de inferência
- Estratégias de batching
- Gestão de pedidos concorrentes
- Ajuste de latência e throughput
Autoscaling de cargas de trabalho de ML
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Provisionamento de GPU e gestão de recursos
- Configuração de nós com GPU
- Visão geral do plugin de dispositivos NVIDIA
- Requisitos e limites de recursos para cargas de trabalho de ML
Estratégias de rollout e lançamento de modelos
- Implantações blue/green
- Padrões de rollout canary
- Testes A/B para avaliação de modelos
Monitorização e observabilidade de ML em produção
- Métricas para cargas de trabalho de inferência
- Práticas de registo (logging) e rastreamento (tracing)
- Dashboards e alertas
Considerações de segurança e fiabilidade
- Segurança dos endpoints de modelos
- Políticas de rede e controlo de acesso
- Garantia de alta disponibilidade
Síntese e próximos passos
Requisitos
- Compreensão dos fluxos de trabalho de aplicações containerizadas
- Experiência com modelos de aprendizagem automática baseados em Python
- Familiaridade com os fundamentos do Kubernetes
Público-alvo
- Engenheiros de ML
- Engenheiros DevOps
- Equipas de engenharia de plataforma
Formação Empresarial Personalizada
Soluções de formação concebidas exclusivamente para empresas.
- Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
- Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
- Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Preço por grupo privado, formação online em direto, a partir de 2600 € + VAT*
Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes
Testemunhos de Clientes (1)
Gostei da parte do Kubernetes do treinamento, pois tive algumas tarefas envolvendo pods e portas do K8s, e foi ótimo obter uma compreensão melhor sobre o assunto agora. Obrigado!
Laura Miron - Betfair
Curso - Docker and Kubernetes
Máquina Traduzida