Programa do Curso

Introdução aos Grandes Modelos de Linguagem

  • Visão Geral do Processamento de Língua Natural (NLP)
  • Introdução aos Grandes Modelos de Linguagem (LLMs)
  • Contribuições da Meta AI para o desenvolvimento de LLMs

Compreendendo a Arquitetura dos LLMs da Meta AI

  • Arquitetura Transformer e mecanismos de auto-atenção
  • Métodos de treinamento para modelos em grande escala
  • Comparação com outros LLMs (GPT, BERT, T5, etc)

Configurando o Ambiente de Desenvolvimento

  • Instalação e configuração do Python e Jupyter Notebook
  • Trabalhando com Hugging Face e repositório de modelos da Meta AI
  • Usando GPUs baseadas em nuvem ou locais para treinamento

Ajuste Fino e Personalização dos LLMs da Meta AI

  • Carregando modelos pré-treinados
  • Ajuste fino em conjuntos de dados específicos do domínio
  • Técnicas de aprendizado transferível

Construindo Aplicações NLP com os LLMs da Meta AI

  • Desenvolvendo chatbots e IA conversacional
  • Implementando resumos de texto e paráfrase
  • Análise de sentimentos e moderação de conteúdo

Otimização e Implantação de Grandes Modelos de Linguagem

  • Ajuste de desempenho para a velocidade de inferência
  • Técnicas de compressão e quantização do modelo
  • Implantação de LLMs usando APIs e plataformas em nuvem

Considerações Éticas e IA Responsável

  • Detecção e mitigação de vieses nos LLMs
  • Garantindo transparência e equidade nos modelos de IA
  • Tendências futuras e desenvolvimentos na IA

Resumo e Próximos Passos

Requisitos

  • Compreensão básica de aprendizado de máquina e aprendizado profundo
  • Experiência com programação em Python
  • Familiaridade com conceitos de processamento de linguagem natural (PLN)

Público-alvo

  • Pesquisadores de IA
  • Cientistas de Dados
  • Engenheiros de Aprendizado de Máquina
  • Desenvolvedores de Software interessados em PLN
 21 Horas

Próximas Formações Provisórias

Categorias Relacionadas