Curso de Técnicas de Ajuste Fina de Parâmetros Eficientes (PEFT) para LLMs

Introdução ao Ajuste Fino de Parâmetros Eficientes (PEFT)

• Motivação e limitações do ajuste fino completo
• Visão geral do PEFT: objetivos e benefícios
• Aplicações e casos de uso na indústria

LoRA (Adaptação de Baixo Rango)

• Conceito e intuição por trás do LoRA
• Implementação do LoRA usando Hugging Face e PyTorch
• Prática: Ajuste fino de um modelo com LoRA

Adapter Tuning

• Como funcionam os módulos de adaptadores
• Integração com modelos baseados em transformers
• Prática: Aplicação de Adapter Tuning a um modelo transformer

Prefix Tuning

• Uso de prompts suaves para ajuste fino
• Pontos fortes e limitações em comparação com LoRA e adaptadores
• Prática: Prefix Tuning em uma tarefa de LLM

Avaliando e Comparando Métodos PEFT

• Métricas para avaliar desempenho e eficiência
• Equilíbrios em velocidade de treinamento, uso de memória e precisão
• Experimentos de benchmarking e interpretação de resultados

Implantação de Modelos Ajustados

• Salvamento e carregamento de modelos ajustados
• Considerações de implantação para modelos baseados em PEFT
• Integração em aplicações e pipelines

Boas Práticas e Extensões

• Combinação de PEFT com quantização e destilação
• Uso em cenários com recursos limitados e multilíngues
• Direções futuras e áreas de pesquisa ativas