Entrar em Contato

Programa do Curso

Implantação do EXO Offline

  • Uso da variável EXO_OFFLINE para impedir o acesso à internet em tempo de execução
  • Pré-carregamento dos modelos em EXO_MODELS_READ_ONLY_DIRS provenientes de espelhos internos confiáveis
  • Verificação da integridade dos pesos do modelo com checksums SHA-256 e cartões de modelo assinados
  • Execução do EXO em redes air-gapped sem dependências do HuggingFace

Controle de Acesso ao Dashboard e à API

  • Instalação e configuração de proxies reversos (nginx, Caddy) com terminação TLS
  • Implementação de controle de acesso baseado em funções para o dashboard do EXO e a API REST
  • Uso da chave do macOS ou do Linux pass para armazenar segredos de autenticação da API
  • Restrição dos endpoints administrativos a intervalos específicos de IP de origem

Iso lamento de Clusters e Segurança de Rede

  • Segmentação de clusters do EXO com EXO_LIBP2P_NAMESPACE e VLANs
  • Configuração de firewalls de host (firewall do aplicativo macOS, iptables, nftables) para portas do EXO
  • Prevenção de descoberta de dispositivos não autorizados e injeção de nós rogue
  • Criptografia do tráfego libp2p entre nós quando o RDMA não estiver disponível

Governança de Modelos e Proveniência

  • Construção de um registro interno de modelos com listas de modelos aprovados e metadados
  • Marcacao e versionamento dos pesos quantizados (4-bit, 8-bit) juntamente com checkpoints de origem
  • Imposição para que apenas repositórios específicos do HuggingFace ou artefatos internos possam ser carregados
  • Documentação da linhagem do modelo, termos de licença e políticas de uso aceitável

Auditoria, Log e Conformidade

  • Configuração do envio de logs do EXO para trilhas de auditoria imutáveis (SIEM, armazenamento WORM)
  • Correlação dos logs de chamadas da API com identidade do usuário e carimbo de data/hora
  • Captura de eventos de criação, exclusão de instâncias de modelos e solicitações de inferência
  • Geração periódica de relatórios de conformidade para auditores internos e externos

Modelagem de Ameaças e Resposta a Incidentes

  • Identificação de ameaças: exfiltração de dados por meio das saídas do modelo, injeção de prompts e vazamentos laterais
  • Implementação de pipelines de monitoramento de prompts e filtragem de conteúdo
  • Criação de runbooks de resposta a incidentes para cenários de comprometimento do cluster
  • Iso lamento dos nós afetados, preservação de logs forenses e reconstrução de ambientes limpos

Segurança Física e Limites de Hardware

  • Proteção das portas Thunderbolt contra conexões não autorizadas de cabos RDMA
  • Uso de enclaves seguros e atestado de hardware do Apple Silicon, quando aplicável
  • Controle do acesso físico aos Macs em cluster e ao armazenamento compartilhado
  • Documentação do ciclo de vida do hardware e procedimentos de descomissionamento

Considerações Regulatórias

  • Mapeamento das implantações do EXO aos requisitos GDPR, HIPAA e SOC 2
  • Manutenção da residência dos dados mantendo a inferência on-premise
  • Documentação dos riscos da cadeia de suprimentos do fornecedor (MLX, EXO, pesos dos modelos)
  • Preparação para frameworks de governança de IA, como o Artigo 53 do Ato de IA da UE

Requisitos

  • Experiência com o EXO ou outro runtime de LLM local
  • Compreensão das permissões do sistema de arquivos Unix e ACLs de rede
  • Familiaridade com gerenciamento de certificados TLS/SSL e conceitos básicos de criptografia

Público-Alvo

  • Engenheiros de segurança
  • Oficiais de conformidade
  • Administradores de infraestrutura de IA que lidam com dados sensíveis
 14 Horas

Treinamento Corporativo Personalizado

Soluções de treinamento projetadas exclusivamente para empresas.

  • Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
  • Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
  • Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Investimento

Preço por grupo privado, treinamento online ao vivo, a partir de 2600 € + VAT*

Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes

Testemunhos de Clientes (1)

Próximas Formações Provisórias

Categorias Relacionadas