Entrar em Contato

Programa do Curso

Visão Geral da Arquitetura LLM e Superfície de Ataque

  • Como os LLMs são construídos, desplegados e acedidos via APIs
  • Componentes-chave nas pilhas de aplicações LLM (ex.: prompts, agentes, memória, APIs)
  • Onde e como surgem as questões de segurança em cenários reais

Injeção de Prompts e Ataques de Jailbreak

  • O que é a injeção de prompts e por que é perigosa
  • Cenários de injeção direta e indireta de prompts
  • Técnicas de jailbreak para contornar filtros de segurança
  • Estratégias de deteção e mitigação

Vazamento de Dados e Riscos de Privacidade

  • Exposição acidental de dados através das respostas
  • Vazamentos de dados pessoais (PII) e má utilização da memória do modelo
  • Promoção de prompts e geração aumentada por recuperação (RAG) conscientes da privacidade

Filtragem e Proteção das Saídas LLM

  • Utilização do Guardrails AI para filtragem e validação de conteúdo
  • Definição de esquemas e restrições de saída
  • Monitorização e registo de saídas inseguras

Abordagens de Intervenção Humana e Fluxos de Trabalho

  • Onde e quando introduzir supervisão humana
  • Filas de aprovação, limiares de pontuação, gestão de falhas
  • Calibragem da confiança e o papel da explicabilidade

Padrões de Design Seguro para Aplicações LLM

  • Princípio do menor privilégio e sandboxing para chamadas de API e agentes
  • Limitação de taxa (rate limiting), controlo de tráfego e deteção de abusos
  • Encadeamento robusto com LangChain e isolamento de prompts

Conformidade, Registo e Governação

  • Garantir a auditabilidade das saídas LLM
  • Manter a rastreabilidade e controlo de versão de prompts/versões
  • Alinhamento com as políticas de segurança internas e necessidades regulatórias

Resumo e Próximos Passos

Requisitos

  • Compreensão dos modelos de linguagem de grande porte e interfaces baseadas em prompts
  • Experiência na construção de aplicações LLM utilizando Python
  • Conhecimento prévio de integrações de API e despliegues na nuvem

Público-Alvo

  • Programadores de IA
  • Arquitetos de aplicações e soluções
  • Gestores de produto técnicos que trabalham com ferramentas LLM
 14 Horas

Treinamento Corporativo Personalizado

Soluções de treinamento projetadas exclusivamente para empresas.

  • Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
  • Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
  • Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Investimento

Preço por grupo privado, treinamento online ao vivo, a partir de 2600 € + VAT*

Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes

Próximas Formações Provisórias

Categorias Relacionadas