Curso de Masterclass de Agentes de IA Avançados: Engenharia, Segurança e Governança para Sistemas de Produção

Dia 1

Anatomia de um Agente de IA Moderno

Mais além dos chatbots: agentes como sistemas autónomos de raciocínio e ação

Paradigmas de agentes reativos, proativos, híbridos e orientados a objetivos

Componentes centrais: perceção, planeamento, memória, utilização de ferramentas e ação

Compromissos no design: arquitetura de agente único versus multi-agente

Frameworks de Agentes e o Stack Moderno

LangChain, LlamaIndex, AutoGen, CrewAI e as suas respetivas vantagens e limitações

Comparação com frameworks clássicos como JADE e SPADE

Seleção de framework com base em requisitos de produção

Tool calling, function calling e saídas estruturadas

Prática: criação da estrutura de um agente Python único com chamadas a ferramentas

Arquiteturas de Sistemas Multi-Agente

Designs de sistemas multi-agente (MAS) centralizados, descentralizados, híbridos e hierárquicos

FIPA ACL, passagem de mensagens e equivalentes modernos

Padrões de coordenação: planeamento, negociação e sincronização

Comportamento emergente e auto-organização em populações de agentes

Toma de Decisões e Aprendizagem em Agentes

Teoria dos jogos para interações cooperativas e competitivas entre agentes

Aprendizagem por reforço em ambientes multi-agente

Aprendizagem por transferência e partilha de conhecimento entre agentes

Resolução de conflitos e confiança entre agentes coordenados

Dia 2

Fundamentos Multi-Modais para Agentes

IA multi-modal como fluxo de trabalho unificado em texto, imagem, voz e vídeo

Principais modelos multi-modais: GPT-4 Vision, Gemini, Claude, Whisper

Técnicas de fusão para combinar modalidades no ciclo de raciocínio de um agente

Compromissos entre latência, custo e precisão em pipelines multi-modais

Construção da Camada de Perceção

Processamento de imagem para agentes: classificação, legendas e deteção de objetos

Reconhecimento de voz com Whisper ASR e transcrição em streaming

Síntese de texto para voz e interação vocal natural

Ligação das saídas de perceção ao raciocínio orientado por LLMs e seleção de ferramentas

Prática - Construção de um Agente Multi-Modal em Python

Definição da tarefa do agente, janela de contexto e inventário de ferramentas

Integração de ponta a ponta das APIs do GPT-4 Vision e Whisper

Implementação de memória, estado e gestão de conversação

Adição de chamadas a ferramentas com efeitos secundários no mundo real, de forma segura

Prática - Orquestração de um Sistema Multi-Agente

Composição de agentes especializados com AutoGen ou CrewAI

Definição de papéis, responsabilidades e protocolos de comunicação inter-agentes

Alocação de recursos e coordenação num ambiente simulado

Registo de raciocínio, chamadas a ferramentas e decisões dos agentes para inspeção e auditoria

Dia 3

Superfície de Ameaças de Agentes de IA em Produção

O que torna a IA agêntica particularmente vulnerável em comparação com o software tradicional

Superfície de ataque: camadas de dados, modelo, prompt, ferramentas, saída e interface

Modelação de ameaças para sistemas baseados em agentes com utilização autónoma de ferramentas

Comparação entre práticas de cibersegurança em IA e cibersegurança tradicional

Ataques Adversariais - Prática

Exemplos adversariais e métodos de perturbação: FGSM, PGD, DeepFool

Cenários de ataque white-box versus black-box

Ataques de inversão de modelo e inferência de pertença

Envenenamento de dados e injeção de backdoors durante o treino

Injeção de prompts, jailbreaking e mau uso de ferramentas em agentes baseados em LLMs

Técnicas Defensivas e Fortalecimento de Modelos

Estratégias de treino adversarial e aumento de dados

Destilação defensiva e outras técnicas de robustez

Pré-processamento de entrada, mascaramento de gradientes e regularização

Privacidade diferencial, injeção de ruído e orçamentos de privacidade

Aprendizagem federada e agregação segura para treino distribuído

Prática com a Adversarial Robustness Toolbox

Simulação de ataques contra o agente multi-modal construído no Dia 2

Medição da robustez sob perturbação e quantificação do declínio de desempenho

Aplicação iterativa de defesas e reavaliação das taxas de sucesso dos ataques

Testes de stress nos caminhos de chamadas a ferramentas e vetores de injeção de prompts

Dia 4

Frameworks de Gestão de Riscos para IA

Quadro de Gestão de Riscos de IA do NIST: governar, mapear, medir, gerir

ISO/IEC 42001 e normas emergentes específicas de IA

Mapeamento de riscos de IA para frameworks empresariais de GRC existentes

Prestação de contas, auditabilidade e requisitos de documentação em IA

Conformidade Regulatória para Sistemas Agênticos

AI Act da UE: camadas de risco, usos proibidos e obrigações para sistemas de alto risco

Implicações do RGPD e CCPA para pipelines de dados de agentes

Ordem Executiva dos EUA sobre IA Segura, Segura e Fiel

Guias específicos do setor para finanças, saúde e serviços públicos

Risco de terceiros e utilização de ferramentas de IA por fornecedores

Ética, Viés e Explicabilidade

Deteção e mitigação de viés na perceção e raciocínio dos agentes

Explicabilidade e transparência como propriedades relevantes para a segurança

Equidade, danos a jusante e implantação responsável

Design de comportamentos de agentes inclusivos e auditáveis

Implantação em Produção, Monitorização e Resposta a Incidentes

Padrões de implantação segura para sistemas de agentes únicos e multi-agentes

Monitorização contínua de deriva, anomalias e abusos

Registos, trilhas de auditoria e preparação forense para ações de agentes

Playbooks de resposta a incidentes de segurança em IA e recuperação

Estudos de caso de violações reais de IA e lições aprendidas

Projeto Final e Síntese

Revisão do sistema multi-modal multi-agente construído ao longo do curso

Revisão do pipeline de ponta a ponta: design, construção, segurança, governação, implantação

Avaliação autónoma do sistema em relação às funções do NIST AI RMF

Perspetiva futura sobre tendências emergentes em IA agêntica e segurança de IA

Resumo e Próximos Passos