Programa do Curso
Parte 1 – Conceitos de Deep Learning e DNN
Introdução à IA, Machine Learning & Deep Learning
- História, conceitos básicos e aplicações usuais da inteligência artificial, para além das fantasias associadas a esta área
- Inteligência Coletiva: agregação de conhecimento partilhado por muitos agentes virtuais
- Algoritmos Genéticos: evolução de uma população de agentes virtuais por seleção
- Máquina de Aprendizagem Usual: definição
- Tipos de tarefas: aprendizagem supervisionada, aprendizagem não supervisionada, aprendizagem por reforço
- Tipos de ações: classificação, regressão, agrupamento (clustering), estimação de densidade, redução de dimensionalidade
- Exemplos de algoritmos de Machine Learning: regressão linear, Naive Bayes, árvores aleatórias (Random Trees)
- Machine Learning VS Deep Learning: problemas nos quais o Machine Learning continua a ser o estado da arte (Random Forests & XGBoosts)
Conceitos Básicos de uma Rede Neural (Aplicação: perceptrão multicamadas)
- Relembro das bases matemáticas.
- Definição de uma rede de neurónios: arquitetura clássica, ativação e
- Ponderação de ativações anteriores, profundidade de uma rede
- Definição da aprendizagem de uma rede de neurónios: funções de custo, retropropagação (back-propagation), descida de gradiente estocástica, máxima verosimilhança.
- Modelação de uma rede neural: modelação dos dados de entrada e saída de acordo com o tipo de problema (regressão, classificação ...). Maldição da dimensionalidade.
- Distinção entre dados multivariados e sinal. Escolha de uma função de custo de acordo com os dados.
- Aproximação de uma função por uma rede de neurónios: apresentação e exemplos
- Aproximação de uma distribuição por uma rede de neurónios: apresentação e exemplos
- Aumento de Dados (Data Augmentation): como equilibrar um conjunto de dados (dataset)
- Generalização dos resultados de uma rede de neurónios.
- Inicialização e regularização de uma rede neural: regularização L1 / L2, Normalização em Lote (Batch Normalization)
- Algoritmos de otimização e convergência
Ferramentas Padrão de ML / DL
Prevê-se uma apresentação simples com vantagens, desvantagens, posição no ecossistema e utilização.
- Ferramentas de gestão de dados: Apache Spark, Ferramentas Apache Hadoop
- Machine Learning: Numpy, Scipy, Sci-kit
- Frameworks de alto nível de DL: PyTorch, Keras, Lasagne
- Frameworks de baixo nível de DL: Theano, Torch, Caffe, Tensorflow
Redes Neurais Convolucionais (CNN).
- Apresentação das CNN: princípios fundamentais e aplicações
- Operação básica de uma CNN: camada convolucional, utilização de um kernel,
- Preenchimento (Padding) & passo (stride), geração de mapas de características, camadas de pooling. Extensões 1D, 2D e 3D.
- Apresentação das diferentes arquiteturas de CNN que trouxeram o estado da arte na classificação
- Imagens: LeNet, Redes VGG, Network in Network, Inception, Resnet. Apresentação das inovações trazidas por cada arquitetura e as suas aplicações mais globais (Convolução 1x1 ou ligações residuais)
- Utilização de um modelo de atenção.
- Aplicação a um caso comum de classificação (texto ou imagem)
- CNN para geração: super-resolução, segmentação pixel a pixel. Apresentação de
- Estratégias principais para aumentar os mapas de características para geração de imagens.
Redes Neurais Recorrentes (RNN).
- Apresentação das RNN: princípios fundamentais e aplicações.
- Operação básica da RNN: ativação oculta, retropropagação através do tempo (back propagation through time), versão desenrolada.
- Evoluções para as Unidades Recorrentes Porteadas (GRUs) e LSTM (Long Short Term Memory).
- Apresentação dos diferentes estados e das evoluções trazidas por estas arquiteturas
- Problemas de convergência e de gradiente desaparecido (vanishing gradient)
- Arquiteturas clássicas: Predição de séries temporais, classificação ...
- Arquitetura do tipo RNN Encoder-Decoder. Utilização de um modelo de atenção.
- Aplicações de NLP: codificação de palavras / caracteres, tradução.
- Aplicações de Vídeo: predição da próxima imagem gerada de uma sequência de vídeo.
Modelos Generativos: Variational AutoEncoder (VAE) e Redes Adversariais Generativas (GAN).
- Apresentação dos modelos generativos, ligação com as CNN
- Auto-encoder: redução de dimensionalidade e geração limitada
- Variational Auto-encoder: modelo generativo e aproximação da distribuição de um dado definido. Definição e utilização de espaço latente. Truque de reparametrização. Aplicações e Limites observados
- Redes Adversariais Generativas: Fundamentos.
- Arquitetura de Rede Dual (Gerador e Discriminador) com aprendizagem alternada, funções de custo disponíveis.
- Convergência de uma GAN e dificuldades encontradas.
- Convergência melhorada: Wasserstein GAN, Began. Distância de Movimento de Terra (Earth Moving Distance).
- Aplicações para a geração de imagens ou fotografias, geração de texto, super-resolução.
Deep Reinforcement Learning.
- Apresentação do reinforcement learning: controlo de um agente num ambiente definido
- Por um estado e ações possíveis
- Utilização de uma rede neural para aproximar a função de estado
- Deep Q Learning: reutilização de experiência (experience replay), e aplicação ao controlo de um jogo de vídeo.
- Otimização da política de aprendizagem. On-policy & off-policy. Arquitetura Actor-Critic. A3C.
- Aplicações: controlo de um único jogo de vídeo ou de um sistema digital.
Parte 2 – Theano para Deep Learning
Fundamentos do Theano
- Introdução
- Instalação e Configuração
Funções do Theano
- entradas, saídas, atualizações, valores definidos (givens)
Treino e Otimização de uma rede neural utilizando Theano
- Modelação de Rede Neural
- Regressão Logística
- Camadas Ocultas
- Treino de uma rede
- Computação e Classificação
- Otimização
- Perda Logística (Log Loss)
Teste do modelo
Parte 3 – DNN utilizando Tensorflow
Fundamentos do TensorFlow
- Criação, Inicialização, Gravação e Restauro de variáveis TensorFlow
- Alimentação, Leitura e Pré-carregamento de Dados TensorFlow
- Como utilizar a infraestrutura TensorFlow para treinar modelos em escala
- Visualização e Avaliação de modelos com TensorBoard
Mecânica do TensorFlow
- Preparação dos Dados
- Transferência (Download)
- Entradas e Placeholders
-
Construção dos Grafos
- Inferência
- Perda (Loss)
- Treino (Training)
-
Treino do Modelo
- O Grafo
- A Sessão
- Loop de Treino
-
Avaliação do Modelo
- Construção do Grafo de Avaliação
- Saída de Avaliação
O Perceptrão
- Funções de ativação
- Algoritmo de aprendizagem do perceptrão
- Classificação binária com o perceptrão
- Classificação de documentos com o perceptrão
- Limitações do perceptrão
Do Perceptrão às Máquinas de Vetores de Suporte (SVMs)
- Kernels e o truque do kernel (kernel trick)
- Classificação de margem máxima e vetores de suporte
Redes Neurais Artificiais
- Fronteiras de decisão não lineares
- Redes neurais artificiais feedforward e de feedback
- Perceptrões multicamadas
- Minimização da função de custo
- Propagação direta (Forward propagation)
- Retropropagação (Back propagation)
- Melhoria da forma como as redes neurais aprendem
Redes Neurais Convolucionais
- Objetivos
- Arquitetura do Modelo
- Princípios
- Organização do Código
- Lançamento e Treino do Modelo
- Avaliação de um Modelo
Introduções Básicas a ser fornecidas aos seguintes módulos (Introdução Breve a ser fornecida com base na disponibilidade de tempo):
Tensorflow - Utilização Avançada
- Encadeamento (Threading) e Filas (Queues)
- TensorFlow Distribuído
- Escrita de Documentação e Partilha do seu Modelo
- Personalização de Leitores de Dados
- Manipulação de Ficheiros de Modelo TensorFlow
TensorFlow Serving
- Introdução
- Tutorial Básico de Servir (Serving)
- Tutorial Avançado de Servir (Serving)
- Tutorial de Servir Modelo Inception
Requisitos
Conhecimentos em física, matemática e programação. Experiência em atividades de processamento de imagens.
Os participantes devem ter um entendimento prévio dos conceitos de machine learning e experiência em programação Python e nas suas bibliotecas.
Formação Empresarial Personalizada
Soluções de formação concebidas exclusivamente para empresas.
- Conteúdo Personalizado: Adaptamos o programa e os exercícios práticos aos objetivos e necessidades reais do seu projeto.
- Horário Flexível: Datas e horários adaptados à agenda da sua equipe.
- Formato: Online (ao vivo), In-Company (em suas instalações) ou Híbrido.
Preço por grupo privado, formação online em direto, a partir de 6500 € + VAT*
Entre em contato conosco para obter um orçamento preciso e conhecer nossas promoções mais recentes
Testemunhos de Clientes (2)
Introduzir noções de repetição na formulação de comandos para quem nunca usou IA, e apresentar diferentes métodos de uso para quem já tem experiência com a tecnologia.
Matthew Gay - Tarsus Pharmaceuticals
Curso - Artificial Intelligence (AI) Overview
Máquina Traduzida
O treinamento foi organizado e bem planejado, e saí dele com conhecimento sistematizado e uma boa visão dos tópicos que estudamos
Magdalena - Samsung Electronics Polska Sp. z o.o.
Curso - Deep Learning with TensorFlow 2
Máquina Traduzida