Programa do Curso
Introdução à Modelação de Ameaças em IA
- O que torna os sistemas de IA vulneráveis?
- Superfície de ataque da IA vs. sistemas tradicionais
- Vetores de ataque-chave: camadas de dados, modelo, saída e interface
Ataques Adversariais a Modelos de IA
- Compreensão de exemplos adversariais e técnicas de perturbação
- Ataques white-box vs. black-box
- Métodos FGSM, PGD e DeepFool
- Visualização e criação de amostras adversariais
Inversão de Modelos e Fugas de Privacidade
- Inferência de dados de treino a partir da saída do modelo
- Ataques de inferência de pertença
- Riscos de privacidade em modelos de classificação e generativos
Envenenamento de Dados e Injeção de Portas dos Traseiras
- Como os dados envenenados influenciam o comportamento do modelo
- Portas dos traseiras baseadas em gatilhos e ataques Trojan
- Estratégias de deteção e saneamento
Robustez e Técnicas de Defesa
- Treino adversarial e aumento de dados
- Encobrimento de gradientes e pré-processamento de entrada
- Suavização de modelos e técnicas de regularização
Defesas de IA que Preservam a Privacidade
- Introdução à privacidade diferencial
- Injeção de ruído e orçamentos de privacidade
- Aprendizagem federada e agregação segura
Segurança da IA na Prática
- Avaliação e implantação de modelos conscientes das ameaças
- Utilização da ART (Adversarial Robustness Toolbox) em cenários aplicados
- Estudos de caso da indústria: violações reais e mitigações
Resumo e Próximos Passos
Requisitos
- Compreensão dos fluxos de trabalho de machine learning e do treino de modelos
- Experiência com Python e frameworks comuns de ML, como PyTorch ou TensorFlow
- Familiaridade com conceitos básicos de segurança ou modelação de ameaças é uma vantagem
Público-Alvo
- Engenheiros de machine learning
- Analistas de cibersegurança
- Investigadores em IA e equipas de validação de modelos
Formação Empresarial Personalizada
Soluções de formação concebidas exclusivamente para empresas.
- Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
- Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
- Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Preço por grupo privado, formação online em direto, a partir de 2600 € + VAT*
Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes
Testemunhos de Clientes (3)
inventariar e identificar as diferentes exposições a riscos dentro da IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Máquina Traduzida
Gostei muito de aprender sobre ataques de IA e as ferramentas disponíveis para começar a praticar e usar ativamente na segurança. Saí da aula com bastante conhecimento que eu não tinha no começo, e o curso foi exatamente o que eu esperava. A parte que mais me chamou atenção na apresentação foi o Comet Browser, e fiquei impressionado com o que ele pode fazer. Com certeza investigarei isso mais a fundo. No geral, foi um ótimo curso e aproveitei muito para aprender o OWASP Top 10 para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Máquina Traduzida
O conhecimento profissional e a maneira como ele o apresentou a nós
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Máquina Traduzida