Programa do Curso

Fundamentos de IA Segura e Justa

  • Conceitos principais: segurança, viés, justiça, transparência
  • Tipos de viés: de conjunto de dados, representação, algorítmico
  • Visão geral dos quadros regulatórios (Regulamento de IA da UE, GDPR, etc.)

Viés em Modelos Afinados

  • Como o afinamento pode introduzir ou amplificar o viés
  • Estudos de caso e falhas no mundo real
  • Identificação de viés em conjuntos de dados e previsões do modelo

Técnicas para Mitigação de Viés

  • Estratégias a nível de dados (rebalanceamento, aumento)
  • Estratégias durante o treinamento (regularização, desvio adversarial)
  • Estratégias pós-processamento (filtragem de saída, calibração)

Segurança e Robustez do Modelo

  • Detectando saídas inseguras ou prejudiciais
  • Tratamento de entrada adversária
  • Testes de equipe vermelha e testes de estresse em modelos afinados

Auditoria e Monitoramento de Sistemas de IA

  • Métricas de avaliação de viés e justiça (por exemplo, paridade demográfica)
  • Ferramentas de explicabilidade e quadros de transparência
  • Práticas contínuas de monitoramento e governança

Kits de Ferramentas e Prática Prática

  • Usando bibliotecas de código aberto (por exemplo, Fairlearn, Transformers, CheckList)
  • Mão na massa: Detectando e mitigando viés em um modelo afinado
  • Geração de saídas seguras através do design de prompts e restrições

Casos Empresariais e Preparação para Conformidade

  • Melhores práticas para integrar a segurança em fluxos de trabalho de LLM
  • Documentação e cartões de modelo para conformidade
  • Preparação para auditorias e revisões externas

Resumo e Próximos Passos

Requisitos

  • Um entendimento dos modelos de aprendizado de máquina e processos de treinamento
  • Experiência em trabalhar com ajustes finos e LLMs (Large Language Models)
  • Familiaridade com Python e conceitos de NLP (Processamento de Linguagem Natural)

Público-alvo

  • Equipes de conformidade em IA
  • Engenheiros de ML
 14 Horas

Próximas Formações Provisórias

Categorias Relacionadas