Entrar em Contato
 Duração 14 horas

Programa do Curso

Implementação Offline do EXO

  • Utilizar EXO_OFFLINE para impedir o acesso à internet em tempo de execução
  • Pré-carregar modelos nos EXO_MODELS_READ_ONLY_DIRS a partir de espelhos internos confiáveis
  • Verificar a integridade dos pesos dos modelos com checksums SHA-256 e cartões de modelos assinados
  • Fazer correr o EXO em redes air-gapped sem dependências do HuggingFace

Controlo de Acesso ao Dashboard e API

  • Instalar e configurar proxies inversos (nginx, Caddy) com terminação TLS
  • Implementar controle de acesso baseado em funções (RBAC) para o dashboard do EXO e a API REST
  • Utilizar a chaveiro macOS ou o pass do Linux para guardar segredos para autenticação de API
  • Restringir os pontos de acesso administrativos a faixas específicas de IPs de origem

Isolamento de Clusters e Segurança de Rede

  • Segmentar clusters EXO com EXO_LIBP2P_NAMESPACE e VLANs
  • Configurar firewalls de anfitrião (firewall de aplicações macOS, iptables, nftables) para as portas do EXO
  • Prevenir a descoberta não autorizada de dispositivos e a injeção de nós maliciosos
  • Criptografar o tráfego libp2p entre nós quando RDMA não estiver disponível

Governança e Proveniência de Modelos

  • Construir um registo interno de modelos com listas de modelos aprovados e metadados
  • Etiquetar e versionar pesos quantizados (4-bit, 8-bit) junto dos checkpoints de origem
  • Impor que apenas repositórios específicos do HuggingFace ou artefatos internos possam ser carregados
  • Documentar a linhagem dos modelos, termos de licença e políticas de uso aceitável

Registo de Auditoria e Conformidade

  • Configurar o encaminhamento de registos do EXO para trilhas de auditoria imutáveis (SIEM, armazenamento WORM)
  • Correlacionar os registos de chamadas de API com a identidade do utilizador e o timestamp
  • Capturar eventos de criação, eliminação e pedidos de inferência de instâncias de modelos
  • Gerar relatórios de conformidade periódicos para auditores internos e externos

Modelação de Ameaças e Resposta a Incidentes

  • Identificar ameaças: exfiltração de dados através de saídas de modelos, injeção de prompts, fugas por canais laterais
  • Implementar monitorização de prompts e pipelines de filtragem de conteúdo
  • Crear runbooks de resposta a incidentes para cenários de comprometimento de clusters
  • Isolar nós afetados, preservar registos forenses e reconstruir ambientes limpos

Segurança Física e Limites de Hardware

  • Proteger portas Thunderbolt contra conexões não autorizadas de cabos RDMA
  • Utilizar enclaves seguros e atestação de hardware Apple Silicon, quando aplicável
  • Controlar o acesso físico a Macs em cluster e armazenamento partilhado
  • Documentar o ciclo de vida do hardware e os procedimentos de descomissionamento

Considerações Regulatórias

  • Corresponder as implementações do EXO aos requisitos do GDPR, HIPAA e SOC 2
  • Mantener a residência de dados mantendo a inferência em local próprio (on-premise)
  • Documentar os riscos da cadeia de fornecimento do fornecedor (MLX, EXO, pesos de modelos)
  • Preparar-se para quadros de governança de IA, como o Artigo 53 da Lei de IA da UE

Requisitos

  • Experiência com EXO ou outro tempo de execução local de LLM
  • Compreensão das permissões de sistema de ficheiros Unix e ACLs de rede
  • Familiaridade com a gestão de certificados TLS/SSL e noções de criptografia

Público-Alvo

  • Engenheiros de segurança
  • Oficiais de conformidade
  • Administradores de infraestrutura de IA que lidam com dados sensíveis

Formação Empresarial Personalizada

Soluções de formação concebidas exclusivamente para empresas.

  • Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
  • Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
  • Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Investimento

Preço por grupo privado, formação online em direto, a partir de 2600 € + VAT*

Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes

Testemunhos de Clientes (1)

Próximas Formações Provisórias

Categorias Relacionadas