Programa do Curso

Introdução aos transformadores generativos pré-treinados (GPT)

  • Evolução dos modelos linguísticos em PNL
  • Introdução à GPT e sua importância
  • Casos de utilização e aplicações dos modelos GPT

Compreender a arquitetura e a formação GPT

  • Arquitetura do transformador e mecanismo de auto-atenção
  • Pré-treino e afinação dos modelos GPT
  • Aprendizagem por transferência e adaptação ao domínio com GPT

Explorar a GPT-3

  • Visão geral da arquitetura e características do GPT-3
  • Compreensão das capacidades e limitações do modelo
  • Exercícios práticos com o GPT-3 para geração e preenchimento de texto

Avanços recentes: GPT-4

  • Visão geral do mais recente modelo GPT-4
  • Principais melhorias e aperfeiçoamentos em relação às versões anteriores
  • Explorando as capacidades expandidas do GPT-4

Aplicações dos modelos GPT

  • Geração e conclusão de texto com modelos GPT
  • Tradução automática com GPT
  • Sistemas de diálogo e chatbots com GPT
  • Escrita criativa e narração de histórias com modelos GPT

Ajuste fino dos modelos GPT

  • Técnicas de afinação dos modelos de GPT em tarefas específicas
  • Adaptação de GPT para aplicações específicas de um domínio
  • Melhores práticas para afinação e avaliação de modelos

Considerações éticas e desafios

  • Implicações éticas da utilização de modelos linguísticos de grande dimensão
  • Questões de parcialidade e equidade nos modelos de GPT
  • Mitigar os riscos e garantir uma utilização responsável dos modelos de GPT

Tendências futuras e para além do GPT-4

  • Tendências emergentes em PNL e modelos generativos
  • Fronteiras de investigação e potenciais avanços para além da GPT-4

Resumo e próximas etapas

  • Recapitulação das principais aprendizagens e conclusões do curso
  • Recursos para exploração adicional e oportunidades de aprendizagem em modelos GPT e PNL

Requisitos

  • Familiaridade com conceitos de aprendizagem profunda e fundamentos de processamento de linguagem natural (PNL). 
  • O conhecimento básico de transformadores seria benéfico.

Público

  • Cientistas de dados
  • Engenheiros de aprendizagem de máquinas
  • Investigadores de PNL
  • Entusiastas de IA
 14 horas

Declaração de Clientes (1)

Cursos Relacionados

Categorias Relacionadas