Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Programa do Curso
Visão Geral da Arquitetura de LLM e Superfície de Ataque
- Como os LLMs são construídos, implantados e acessados via APIs
- Componentes-chave nas pilhas de aplicativos LLM (por exemplo, prompts, agentes, memória, APIs)
- Onde e como problemas de segurança surgem no uso real
Injeção de Prompt e Ataques de Liberação
- O que é injeção de prompt e por que é perigoso
- Cenários de injeção direta e indireta de prompts
- Técnicas de liberação para contornar filtros de segurança
- Estratégias de detecção e mitigação
Vazamento de Dados e Riscos à Privacidade
- Exposição acidental de dados através das respostas
- Fugas de PII e uso indevido da memória do modelo
- Diseño de prompts conscientes da privacidade e geração auxiliada por recuperação (RAG)
Filtragem e Proteção de Saída de LLM
- Usando Guardrails AI para filtragem e validação de conteúdo
- Definindo esquemas e restrições de saída
- Monitoramento e registro de saídas inseguras
Abordagens Human-in-the-Loop e Fluxo de Trabalho
- Onde e quando introduzir supervisão humana
- Filas de aprovação, limiares de pontuação, tratamento de falhas
- Acalibragem da confiança e o papel da explicabilidade
Aplicativo LLM Seguro Design Patterns
- Mínimos privilégios e areno para chamadas de API e agentes
- Limite de taxa, controle de fluxo e detecção de abuso
- Cadeias robustas com LangChain e isolamento de prompts
Conformidade, Registro e Governança Go
- Garantindo a auditoria das saídas do LLM
- Mantendo rastreabilidade e controle de versão de prompt
- Alinhando com políticas internas de segurança e necessidades regulatórias
Resumo e Próximos Passos
Requisitos
- Compreensão de modelos de linguagem grandes e interfaces baseadas em prompts
- Experiência na construção de aplicações LLM usando Python
- Familiaridade com integrações API e implantações baseadas em nuvem
Público-Alvo
- Desenvolvedores de IA
- Arquitetos de aplicativos e soluções
- Gestores técnicos de produtos que trabalham com ferramentas LLM
14 Horas