Entrar em Contato

Programa do Curso

Dia 1 — Aprofundamento em Segurança de IA com Agentes

Sessão 1 — 09:30 às 10:50 · Revisão e Injeção de Prompt em Profundidade
  • Revisão rápida da OWASP LLM Top 10 (2025) — baseline acordada
  • Injeção avançada de prompts: injeção indireta, manipulação multi-turno, injeção cross-modal
  • Técnicas de jailbreak e taxonomias defensivas
  • Vazamento do prompt do sistema e padrões de extração de informação
  • Poll interativo via Slido: "Qual é a ferramenta mais sensível à qual seus agentes têm acesso hoje?"

Intervalo — 10:50 às 11:10

Sessão 2 — 11:10 às 12:30 · Protegendo Pipelines de IA — Dados, Modelos e RAG
  • Integridade dos dados de treinamento: envenenamento, backdoors e proveniência
  • Riscos na cadeia de suprimentos de modelos: pipelines de fine-tuning, modelos adaptadores e higiene de repositórios
  • Superfícies de ataque específicas do RAG: envenenamento de armazenamento vetorial, manipulação de contexto, ataques de recuperação
  • Segurança de embeddings: o que os embeddings vazam e como protegê-los
  • Laboratório prático (~30 minutos): Os participantes envenenam um pequeno corpus RAG e depois o defendem. Exercício em pares seguido de debriefing em grupo.

Almoço — 12:30 às 13:20

Sessão 3 — 13:20 às 14:40 · OWASP Top 10 for Agentic Applications (2026) — Parte 1
  • Manipulação de objetivos do agente e subversão de objetivos
  • Abuso de permissões de uso de ferramentas e escalada de privilégios via cadeias de ferramentas
  • Manipulação de memória: ataques a memória persistente, episódica e compartilhada
  • Explorações de planejamento e raciocínio
  • Identidade e autenticação em sistemas de agentes
  • Demonstração rápida ao vivo: Um ataque de manipulação de objetivos contra um agente de planejamento simples

Intervalo — 14:40 às 15:00

Sessão 4 — 15:00 às 16:30 · OWASP Top 10 for Agentic Applications (2026) — Parte 2 + Segurança MCP
  • Arquitetura do MCP (Model Context Protocol) e limites de confiança
  • Segurança de servidores MCP: autenticação, escopo de ferramentas e modelos de permissão
  • Ataques em fluxos de trabalho multi-etapas: encadeamento, execução indireta, falhas em cascata
  • Comunicação cross-agent e confiança
  • Observabilidade de agentes e prontidão forense
  • Fechamento do Dia 1: cada participante identifica um risco crítico de agentes na sua própria pilha tecnológica
  • Perguntas e respostas

Dia 2 — Red Teaming, Arquitetura e Resposta a Incidentes

Sessão 1 — 09:30 às 10:50 · Red Teaming de IA — Metodologia
  • O que é red teaming de IA (e o que não é) — distinção do pentesting tradicional
  • Frameworks de red teaming: MITRE ATLAS, mapeamento da OWASP Agentic Top 10, NIST AI RMF
  • Delimitação de um compromisso de red team para um sistema LLM ou agente
  • Técnicas manuais: ataques de engenharia de prompts, bibliotecas de jailbreak, sequestro de objetivos
  • Panorama de ferramentas automatizadas: Garak, PyRIT, Promptfoo, harnesses personalizados
  • Ética, segurança e divulgação responsável de vulnerabilidades de IA

Intervalo — 10:50 às 11:10

Sessão 2 — 11:10 às 12:30 · Laboratório Prático de Red Teaming
  • Laboratório prático prolongado (~60 minutos): Os participantes trabalham em pares contra um alvo preparado — uma aplicação com agentes multi-etapa que possui pelo menos três vulnerabilidades conhecidas. Cada par produz um relatório curto de red team, incluindo caminho do ataque, avaliação de impacto e mitigações recomendadas.
  • Compartilhamento em grupo e debriefing coletivo

Almoço — 12:30 às 13:20

Sessão 3 — 13:20 às 14:40 · Padrões de Arquitetura Segura para IA com Agentes no Governo
  • Defesa em profundidade para sistemas de agentes: isolamento, sandboxing e redução da área de impacto
  • Criação de catálogos de ferramentas seguros: allow-listing, validação de parâmetros, inspeção de saída
  • Padrões com humano no loop e quando exigir confirmação
  • Limites de dados sensíveis: onde os dados PII e OFFICIAL-SENSITIVE podem e não podem fluir
  • Alinhamento com os Princípios de IA do Reino Unido, NIST AI RMF e controles ISO/IEC 42001
  • Caso de estudo arquitetural: um walkthrough realista de um serviço governamental com agentes

Intervalo — 14:40 às 15:00

Sessão 4 — 15:00 às 16:30 · Resposta a Incidentes, Construção do Manual e Encerramento
  • Classes de incidentes específicos de IA: escalada por injeção de prompts, uso indevido de ferramentas, exfiltração de dados via agentes, incidentes de mau comportamento do modelo
  • Sinais de detecção e padrões de log para sistemas de agentes
  • Estrutura do manual de resposta: contenção, erradicação, recuperação e lições aprendidas
  • Exercício final (~45 minutos): Os participantes constroem um manual de segurança de agente de uma página para um serviço representativo do seu próprio domínio
  • Planejamento de implementação: ações em 30, 60 e 90 dias
  • Recursos, leituras complementares e próximos passos
  • Perguntas e respostas e encerramento do curso

Requisitos

  • Domínio de pelo menos uma linguagem de programação moderna (Python fortemente recomendado para os laboratórios)
  • Conclusão prévia do curso AI Security Fundamentals for Developers ou conhecimento equivalente da OWASP Top 10 for LLM Applications (2025)
  • Familiaridade com APIs REST, conceitos básicos de containerização e práticas gerais de desenvolvimento seguro
  • Experiência com pelo menos uma API de LLM (OpenAI, Anthropic Claude, Azure OpenAI ou similar) é útil, mas não essencial

Público-Alvo

  • Engenheiros de software e engenheiros de IA/ML que constroem sistemas de IA com agentes ou uso de ferramentas
  • Engenheiros de segurança e champions de segurança que trabalham com produtos habilitados para IA
  • Engenheiros de plataforma e DevOps responsáveis pela infraestrutura de LLM e agentes
  • Líderes técnicos e arquitetos projetando serviços governamentais baseados em IA
  • Aqueles que concluíram o curso AI Security Fundamentals for Developers ou possuem experiência equivalente
 14 Horas

Treinamento Corporativo Personalizado

Soluções de treinamento projetadas exclusivamente para empresas.

  • Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
  • Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
  • Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Investimento

Preço por grupo privado, treinamento online ao vivo, a partir de 2600 € + VAT*

Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes

Próximas Formações Provisórias

Categorias Relacionadas