Entrar em Contato
 Duração 14 horas

Programa do Curso

Visão Geral da Arquitetura de LLM e Superfície de Ataque

  • Como os LLMs são construídos, implementados e acedidos via APIs
  • Componentes-chave nas pilhas de aplicações LLM (p. ex., prompts, agentes, memória, APIs)
  • Onde e como surgem problemas de segurança no uso real

Injeção de Prompts e Ataques de Jailbreak

  • O que é a injeção de prompts e por que é perigosa
  • Cenários de injeção direta e indireta de prompts
  • Técnicas de jailbreaking para contornar filtros de segurança
  • Estratégias de deteção e mitigação

Fuga de Dados e Riscos de Privacidade

  • Exposição acidental de dados através de respostas
  • Fugas de PII e uso indevido da memória do modelo
  • Desenho de prompts conscientes da privacidade e geração aumentada por recuperação (RAG)

Filtragem e Proteção de Saídas de LLM

  • Utilização do Guardrails AI para filtragem de conteúdo e validação
  • Definição de esquemas e restrições de saída
  • Monitorização e registo de saídas inseguras

Abordagens Human-in-the-Loop e de Fluxo de Trabalho

  • Onde e quando introduzir supervisão humana
  • Filas de aprovação, limiares de pontuação, tratamento de falhas
  • Calibração de confiança e papel da explicabilidade

Padrões de Design Seguro de Aplicações LLM

  • Menos privilégios e sandboxing para chamadas de API e agentes
  • Limitação de taxas, estrangulamento e deteção de abuso
  • Encadeamento robusto com LangChain e isolamento de prompts

Conformidade, Registo e Governação

  • Garantia da auditabilidade das saídas de LLM
  • Manutenção da rastreabilidade e controlo de versões de prompts
  • Alinhamento com políticas internas de segurança e necessidades regulamentares

Resumo e Próximos Passos

Requisitos

  • Compreensão dos modelos de linguagem de larga escala e das interfaces baseadas em prompts
  • Experiência na construção de aplicações LLM usando Python
  • Familiaridade com integrações de API e implementações em nuvem

Público-Alvo

  • Desenvolvedores de IA
  • Arquitetos de aplicações e soluções
  • Gestores de produto técnicos que trabalhem com ferramentas de LLM

Formação Empresarial Personalizada

Soluções de formação concebidas exclusivamente para empresas.

  • Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
  • Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
  • Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Investimento

Preço por grupo privado, formação online em direto, a partir de 2600 € + VAT*

Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes

Próximas Formações Provisórias

Categorias Relacionadas