Entrar em Contato
 Duração 14 horas

Programa do Curso

Introdução ao Fine-Tuning Eficiente em Parâmetros (PEFT)

  • Moção e limitações do fine-tuning completo
  • Visão geral do PEFT: objetivos e benefícios
  • Aplicações e casos de utilização na indústria

LoRA (Low-Rank Adaptation)

  • Conceito e intuição por trás do LoRA
  • Implementação do LoRA utilizando Hugging Face e PyTorch
  • Prática: Fine-tuning de um modelo com LoRA

Adapter Tuning

  • Como funcionam os módulos de adapter
  • Integração com modelos baseados em transformers
  • Prática: Aplicação do Adapter Tuning a um modelo transformer

Prefix Tuning

  • Utilização de soft prompts para fine-tuning
  • Forças e limitações em comparação com LoRA e adapters
  • Prática: Prefix Tuning numa tarefa de LLM

Avaliação e Comparação de Métodos PEFT

  • Métricas para avaliar o desempenho e a eficiência
  • Trade-offs em velocidade de treino, utilização de memória e precisão
  • Experimentos de benchmarking e interpretação de resultados

Implantação de Modelos Fine-Tuned

  • Guarda e carregamento de modelos fine-tuned
  • Considerações de implantação para modelos baseados em PEFT
  • Integração em aplicações e pipelines

Boas Práticas e Extensões

  • Combinação do PEFT com quantização e destilação
  • Utilização em contextos de baixos recursos e multilingues
  • Direções futuras e áreas de investigação ativa

Requisitos

  • Compreensão dos fundamentos do machine learning
  • Experiência no trabalho com modelos de linguagem de grande escala (LLMs)
  • Conhecimento de Python e PyTorch

Público-Alvo

  • Cientistas de dados
  • Engenheiros de IA

Formação Empresarial Personalizada

Soluções de formação concebidas exclusivamente para empresas.

  • Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
  • Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
  • Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Investimento

Preço por grupo privado, formação online em direto, a partir de 2600 € + VAT*

Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes

Próximas Formações Provisórias

Categorias Relacionadas