Programa do Curso
Fundamentos: Modelos de Ameaça para IA Agêntica
- Tipos de ameaças agênticas: utilização indevida, escalonamento, fuga de dados e riscos de cadeia de fornecimento
- Perfis de adversários e capacidades de atacantes específicos para agentes autónomos
- Mapeamento de ativos, fronteiras de confiança e pontos de controlo críticos para agentes
Governança, Política e Gestão de Riscos
- Enquadramentos de governança para sistemas agênticos (papéis, responsabilidades, pontos de aprovação)
- Design de políticas: utilização aceitável, regras de escalonamento, manipulação de dados e auditabilidade
- Considerações de conformidade e recolha de evidências para auditorias
Identidade Não Humana e Autenticação para Agentes
- Design de identidades para agentes: contas de serviço, JWTs e credenciais de curta duração
- Padrões de acesso com privilégio mínimo e credenciação just-in-time
- Ciclo de vida da identidade, rotação, delegação e estratégias de revogação
Controlos de Acesso, Segredos e Proteção de Dados
- Modelos de controlo de acesso granular e padrões baseados em capacidades para agentes
- Gestão de segredos, criptografia em trânsito e em repouso, e minimização de dados
- Proteção de fontes de conhecimento sensíveis e de dados pessoais (PII) contra acesso não autorizado por agentes
Observabilidade, Auditoria e Resposta a Incidentes
- Design de telemetria para o comportamento dos agentes: rastreio de intenção, registos de comandos e proveniência
- Integração com SIEM, limiares de alertas e prontidão forense
- Runbooks e playbooks para incidentes relacionados com agentes e contenção
Red-Teaming de Sistemas Agênticos
- Planeamento de exercícios de red-teaming: âmbito, regras de engajamento e failover seguro
- Técnicas adversariais: injeção de prompts, uso indevido de ferramentas, manipulação da cadeia de raciocínio e abuso de API
- Condução de ataques controlados e medição da exposição e do impacto
Endurecimento e Mitigações
- Controlos de engenharia: limitação de respostas (throttling), controlo de capacidades e sandboxing
- Controlos de política e orquestração: fluxos de aprovação, intervenção humana (human-in-the-loop) e ganchos de governança
- Defesas a nível do modelo e de prompts: validação de entrada, canonicização e filtros de saída
Operacionalização de Implementações Seguras de Agentes
- Padrões de implementação: staging, canário e implementação progressiva para agentes
- Controlo de alterações, pipelines de testes e verificações de segurança pré-implementação
- Governança inter-funcional: playbooks de segurança, jurídico, produto e operações
Capstone: Exercício Red-Team / Blue-Team
- Execução de um ataque red-team simulado contra um ambiente de agentes em sandbox
- Defesa, deteção e remediação enquanto equipa blue, utilizando controlos e telemetria
- Apresentação dos resultados, plano de remediação e atualizações de políticas
Resumo e Próximos Passos
Requisitos
- Sólida experiência em engenharia de segurança, administração de sistemas ou operações em cloud
- Conhecimento dos conceitos de IA/ML e do comportamento dos modelos de linguagem grandes (LLM)
- Experiência em gestão de identidades e acessos (IAM) e em design de sistemas seguros
Público-Alvo
- Engenheiros de segurança e profissionais de red-teaming
- Engenheiros de operações de IA e de plataformas
- Oficiais de conformidade e gestores de risco
- Líderes de engenharia responsáveis pelas implementações de agentes
Formação Empresarial Personalizada
Soluções de formação concebidas exclusivamente para empresas.
- Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
- Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
- Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Preço por grupo privado, formação online em direto, a partir de 3900 € + VAT*
Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes
Testemunhos de Clientes (1)
inventariar e identificar as diferentes exposições a riscos dentro da IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Máquina Traduzida