Entrar em Contato

Programa do Curso

Dia 1 — Aprofundamento na Segurança de IA com Agentes

Sessão 1 — 09:30 às 10:50 · Revisão e Injeção de Prompts em Profundidade
  • Revisão rápida da OWASP LLM Top 10 (2025) — linha de base acordada
  • Injeção avançada de prompts: injeção indireta, manipulação em múltiplos turnos, injeção multimodal
  • Técnicas de jailbreak e taxonomias defensivas
  • Vazamento de system prompt e padrões de extração de informações
  • Pesquisa interativa no Slido: "Qual é a ferramenta mais sensível com a qual seus agentes têm acesso hoje?"

Intervalo — 10:50 às 11:10

Sessão 2 — 11:10 às 12:30 · Protegendo Pipelines de IA — Dados, Modelos e RAG
  • Integridade dos dados de treinamento: envenenamento, backdoors e proveniência
  • Riscos na cadeia de suprimentos de modelos: pipelines de fine-tuning, modelos de adaptador e higiene de registro
  • Superfícies de ataque específicas do RAG: envenenamento de banco de vetores, manipulação de contexto e ataques de recuperação
  • Segurança de embeddings: o que os embeddings vazam e como protegê-los
  • Laboratório prático (~30 minutos): Os participantes envenenam um pequeno corpus RAG e depois o defendem. Exercício em pares seguido de debriefing em grupo.

Almoço — 12:30 às 13:20

Sessão 3 — 13:20 às 14:40 · OWASP Top 10 for Agentic Applications (2026) — Parte 1
  • Manipulação de objetivos de agente e subversão de objetivos
  • Abuso de permissões de uso de ferramentas e escalonamento de privilégios por meio de cadeias de ferramentas
  • Manipulação de memória: ataques a memória persistente, episódica e compartilhada
  • Explorações de planejamento e raciocínio
  • Identidade e autenticação em sistemas de agentes
  • Pequena demonstração ao vivo: Um ataque de manipulação de objetivos contra um agente de planejamento simples

Intervalo — 14:40 às 15:00

Sessão 4 — 15:00 às 16:30 · OWASP Top 10 for Agentic Applications (2026) — Parte 2 + Segurança MCP
  • Arquitetura MCP (Model Context Protocol) e limites de confiança
  • Segurança do servidor MCP: autenticação, escopo de ferramentas e modelos de permissão
  • Ataques em fluxos de trabalho de múltiplos passos: encadeamento, execução indireta, falhas em cascata
  • Comunicação entre agentes e confiança
  • Observabilidade de agentes e preparação forense
  • Encerramento do Dia 1: cada participante identifica um risco crítico de agente em sua própria infraestrutura
  • Perguntas e respostas

Dia 2 — Red-Teaming, Arquitetura e Resposta a Incidentes

Sessão 1 — 09:30 às 10:50 · Red-Teaming de IA — Metodologia
  • O que é red-teaming de IA (e o que não é) — distinção em relação aos testes de penetração tradicionais
  • Frameworks de red-teaming: MITRE ATLAS, mapeamento da OWASP Agentic Top 10, NIST AI RMF
  • Delimitando um engajamento de red-team para um sistema LLM ou de agente
  • Técnicas manuais: ataques de engenharia de prompts, bibliotecas de jailbreak, sequestro de objetivos
  • Panorama de ferramentas automatizadas: Garak, PyRIT, Promptfoo, harnesses personalizados
  • Ética, segurança e divulgação responsável de vulnerabilidades de IA

Intervalo — 10:50 às 11:10

Sessão 2 — 11:10 às 12:30 · Laboratório Prático de Red-Teaming
  • Laboratório prático estendido (~60 minutos): Os participantes trabalham em pares contra um alvo preparado — uma aplicação de agente de múltiplos passos com pelo menos três vulnerabilidades conhecidas. Cada par produz um breve relatório de red-team, incluindo caminho de ataque, avaliação de impacto e mitigações recomendadas.
  • Compartilhamento em grupo e debriefing coletivo

Almoço — 12:30 às 13:20

Sessão 3 — 13:20 às 14:40 · Padrões de Arquitetura Segura para IA com Agentes no Governo
  • Defesa em profundidade para sistemas de agentes: isolamento, sandboxing e redução do raio de explosão
  • Projetando catálogos de ferramentas seguros: whitelist, validação de parâmetros, inspeção de saída
  • Padrões de intervenção humana (human-in-the-loop) e quando exigir confirmação
  • Limites de dados sensíveis: onde os dados PII e OFFICIAL-SENSITIVE podem e não podem fluir
  • Alinhamento com os Princípios de IA do Reino Unido, NIST AI RMF e controles ISO/IEC 42001
  • Estudo de caso arquitetural: um walkthrough realista de um serviço governamental com agentes

Intervalo — 14:40 às 15:00

Sessão 4 — 15:00 às 16:30 — Resposta a Incidentes, Construção de Playbook e Encerramento
  • Classes de incidentes específicas de IA: escalonamento por injeção de prompts, uso indevido de ferramentas, exfiltração de dados via agentes, incidentes de mau comportamento do modelo
  • Sinais de detecção e padrões de log para sistemas de agentes
  • Estrutura do playbook de resposta: contenção, erradicação, recuperação, lições aprendidas
  • Exercício final (~45 minutos): Os participantes constroem um manual de segurança de agentes de uma página para um serviço representativo de seu próprio domínio
  • Planejamento de implementação: ações nos primeiros 30, 60 e 90 dias
  • Recursos, leituras adicionais e próximos passos
  • Perguntas e respostas e encerramento do curso

Requisitos

  • Conhecimento sólido em pelo menos uma linguagem de programação moderna (Python é fortemente recomendado para os laboratórios)
  • Conclusão prévia do curso 'AI Security Fundamentals for Developers' ou conhecimento prático equivalente da OWASP Top 10 for LLM Applications (2025)
  • Familiaridade com APIs REST, conceitos básicos de contêinerização e práticas gerais de desenvolvimento seguro
  • Experiência com pelo menos uma API de LLM (OpenAI, Anthropic Claude, Azure OpenAI ou similar) é útil, mas não essencial

Público-Alvo

  • Engenheiros de software e engenheiros de IA/ML que constroem sistemas de IA com agentes ou que utilizam ferramentas
  • Engenheiros de segurança e líderes de segurança (security champions) que trabalham com produtos habilitados para IA
  • Engenheiros de plataforma e DevOps responsáveis pela infraestrutura de LLM e agentes
  • Líderes técnicos e arquitetos que projetam serviços governamentais com IA
  • Pessoas que concluíram 'AI Security Fundamentals for Developers' ou possuem experiência equivalente
 14 Horas

Treinamento Corporativo Personalizado

Soluções de treinamento projetadas exclusivamente para empresas.

  • Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
  • Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
  • Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Investimento

Preço por grupo privado, treinamento online ao vivo, a partir de 2600 € + VAT*

Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes

Próximas Formações Provisórias

Categorias Relacionadas