Cursos de Big Data em Cascais

Os participantes que concluírem este treinamento ao vivo conduzido por instrutor em Cascais obterão uma compreensão prática e real do Big Data e de suas tecnologias, metodologias e ferramentas relacionadas.

Os participantes terão a oportunidade de colocar esse conhecimento em prática por meio de exercícios práticos. A interação em grupo e o feedback do formador constituem uma componente importante da aula.

O curso começa com uma introdução aos conceitos elementares de Big Data, depois avança para as linguagens de programação e metodologias usadas para executar Data Analysis. Finalmente, discutimos as ferramentas e a infraestrutura que permitem o armazenamento Big Data, o Processamento Distribuído e a Scalabilidade.

Este treinamento ao vivo conduzido por instrutor em Cascais (no local ou remoto) é destinado a engenheiros de dados de nível intermediário que desejam aprender como usar o Azure Data Lake Storage Gen2 para soluções eficazes de análise de dados.

No final deste treinamento, os participantes serão capazes de:

• Compreender a arquitetura e os principais recursos do Azure Data Lake Storage Gen2.
• Otimizar o armazenamento e o acesso aos dados para custo e desempenho.
• Integrar o Azure Data Lake Storage Gen2 com outros serviços Azure para análise e processamento de dados.
• Desenvolver soluções utilizando a API do Azure Data Lake Storage Gen2.
• Solucionar problemas comuns e otimizar estratégias de armazenamento.

Este treinamento ao vivo conduzido por instrutor em Cascais (no local ou remoto) é destinado a desenvolvedores que desejam usar e integrar o Spark, Hadoop e Python para processar, analisar e transformar conjuntos de dados grandes e complexos.

No final deste treinamento, os participantes serão capazes de:

• Configurar o ambiente necessário para iniciar o processamento de big data com Spark, Hadoop e Python.
• Compreender os recursos, componentes principais e arquitetura do Spark e Hadoop.
• Aprender como integrar Spark, Hadoop e Python para o processamento de big data.
• Explorar as ferramentas do ecossistema Spark (Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka e Flume).
• Construir sistemas de recomendação de filtragem colaborativa semelhantes a Netflix, YouTube, Amazon, Spotify e Google.
• Utilizar o Apache Mahout para escalar algoritmos de aprendizagem automática.

Big Data e Advanced Analytics é a aplicação de técnicas e ferramentas sofisticadas para analisar conjuntos de dados grandes e complexos com insights operacionais e decisões estratégicas.

Este treinamento dirigido pelo instrutor (online ou presencial) destina-se a profissionais avançados de dados que desejam aproveitar métodos analíticos de ponta e tecnologias big data para análise preditiva, prescritiva e em tempo real.

Ao final deste treinamento, os participantes serão capazes de:

• Projetar e implementar pipelines de processamento de dados em grande escala para dados estruturados e não estruturados.
• Aplique técnicas avançadas de aprendizado de máquina e deep learning a conjuntos de dados massivos.
• Leverage frameworks de computação distribuída para análise em tempo real e fluxo de dados.
• Integrar análises big data em sistemas de inteligência empresarial e tomada de decisões.

Formato do Curso

• Aula interativa e discussão.
• Muitos exercícios e prática.
• Implementação hands-on em um ambiente de laboratório ao vivo.

Opções de Customização do Treinamento

• Para solicitar um treinamento personalizado para este curso, entre em contato conosco para agendar.

Esta formação presencial em Cascais (online ou no local) é direcionada a profissionais de big data intermediários que desejam utilizar o Apache Kylin para construir warehouses de dados em tempo real e realizar análises multidimensionais em conjuntos de dados de grande escala.

No final desta formação, os participantes serão capazes de:

• Configurar e configurar o Apache Kylin com fontes de dados de streaming em tempo real.
• Diseñar e construir cubos OLAP para tanto dados por lotes quanto streaming.
• Realizar consultas complexas com latência subsegundo usando a interface SQL do Kylin.
• Integrar o Kylin com ferramentas BI para visualização interativa de dados.
• Otimizar desempenho e gerenciar recursos efetivamente no Kylin.

Os participantes que concluírem este treinamento ao vivo conduzido por instrutor em Cascais ganharão uma compreensão prática e real de Big Data e suas tecnologias, metodologias e ferramentas relacionadas.

Os participantes terão a oportunidade de pôr em prática estes conhecimentos através de exercícios práticos. A interação em grupo e o feedback do instrutor constituem uma componente importante da aula.

O curso começa com uma introdução aos conceitos elementares de Big Data, depois avança para as linguagens de programação e metodologias utilizadas para realizar a Análise de Dados. Finalmente, são discutidas as ferramentas e infra-estruturas que permitem o armazenamento de Big Data, o processamento distribuído e a Scalabilidade.

Este treinamento ao vivo (presencial ou online) ministrado por um instrutor em Cascais é direcionado a administradores de banco de dados, desenvolvedores e analistas intermediários que desejam dominar as funcionalidades avançadas do SQL para operações de dados complexas e gerenciamento de bancos de dados.

No final deste treinamento, os participantes serão capazes de:

• Executar técnicas de consulta avançadas usando uniões, subconsultas e junções complexas.
• Adicionar, atualizar e excluir dados, tabelas, visualizações e índices com precisão.
• Garantir a integridade dos dados através de transações e manipular estruturas do banco de dados.
• Criar e gerenciar bancos de dados eficientemente para armazenamento robusto e recuperação de dados.

Este treinamento ao vivo conduzido por instrutor em Cascais (online ou no local) é destinado a cientistas de dados que desejam usar Excel para mineração de dados.

• No final desta formação, os participantes serão capazes de:
• Explorar dados com o Excel para realizar mineração e análise de dados.
• Utilizar Microsoft algoritmos para mineração de dados.
• Compreender conceitos em mineração de dados no Excel.

O BigTable Apache Accumulo é um armazenamento de chave/valor ordenado e distribuído que fornece armazenamento e recuperação de dados robustos e escaláveis. Baseia-se no design do BigTable da Go e é alimentado pelo Apache Hadoop, Apache Zookeeper e Apache Thrift.

Este curso ao vivo, ministrado por um instrutor, aborda os princípios de funcionamento da Accumulo e orienta os participantes no desenvolvimento de uma aplicação de exemplo em Apache Accumulo.

Formato do curso

• Parte palestra, parte discussão, desenvolvimento prático e implementação, testes ocasionais para avaliar a compreensão

Os avanços nas tecnologias e a quantidade crescente de informações estão transformando a forma como os negócios são conduzidos em muitos setores, inclusive no governo. Goas taxas de geração de dados e arquivamento digital no governo estão aumentando devido ao rápido crescimento de dispositivos e aplicativos móveis, sensores e dispositivos inteligentes, soluções de computação em nuvem e portais voltados para os cidadãos. À medida que a informação digital se expande e se torna mais complexa, o gerenciamento, o processamento, o armazenamento, a segurança e a disposição da informação também se tornam mais complexos. Novas ferramentas de captura, pesquisa, descoberta e análise estão ajudando as organizações a obter insights a partir de seus dados não estruturados. O mercado governamental está num ponto de viragem, percebendo que a informação é um activo estratégico, e o governo precisa de proteger, alavancar e analisar tanto a informação estruturada como a não estruturada para melhor servir e cumprir os requisitos da missão. À medida que os líderes governamentais se esforçam para desenvolver organizações orientadas por dados para cumprirem com êxito a missão, estão a estabelecer as bases para correlacionar dependências entre eventos, pessoas, processos e informações.

Soluções governamentais de alto valor serão criadas a partir de uma combinação das tecnologias mais disruptivas:

Dispositivos móveis e aplicativos Serviços em nuvem Tecnologias de negócios sociais e redes Big Data e análises

A IDC prevê que, até 2020, a indústria de TI atingirá 5 biliões de dólares, aproximadamente 1,7 biliões de dólares a mais do que hoje, e que 80% do crescimento da indústria será impulsionado por estas tecnologias da 3ª Plataforma. A longo prazo, estas tecnologias serão ferramentas essenciais para lidar com a complexidade do aumento da informação digital. Big Data é uma das soluções inteligentes da indústria e permite que o governo tome melhores decisões, agindo com base em padrões revelados pela análise de grandes volumes de dados – relacionados e não relacionados, estruturados e não estruturados.

Mas realizar essas façanhas exige muito mais do que simplesmente acumular grandes quantidades de dados. “Entender esses volumes de Big Data requer ferramentas e tecnologias de ponta que possam analisar e extrair conhecimento útil de vastos e diversos fluxos de informações”, Tom Kalil e Fen Zhao, do Escritório de Política Científica e Tecnológica da Casa Branca, escreveu em um post no Blog OSTP.

A Casa Branca deu um passo para ajudar as agências a encontrar essas tecnologias quando estabeleceu a Iniciativa Nacional Big Data de Pesquisa e Desenvolvimento em 2012. A iniciativa incluiu mais de US$ 200 milhões para aproveitar ao máximo a explosão de Big Data e as ferramentas necessárias para analise-o.

Os desafios que Big Data coloca são quase tão assustadores quanto a sua promessa é encorajadora. Armazenar dados de forma eficiente é um desses desafios. Como sempre, os orçamentos são apertados, por isso as agências devem minimizar o preço por megabyte de armazenamento e manter os dados com fácil acesso para que os usuários possam obtê-los quando quiserem e como precisarem. Fazer backup de grandes quantidades de dados aumenta o desafio.

Analisar os dados de forma eficaz é outro grande desafio. Muitas agências empregam ferramentas comerciais que lhes permitem examinar montanhas de dados, identificando tendências que podem ajudá-las a operar com mais eficiência. (Um estudo recente da MeriTalk descobriu que os executivos federais de TI acham que Big Data poderia ajudar as agências a economizar mais de US$ 500 bilhões e, ao mesmo tempo, cumprir os objetivos da missão.).

Ferramentas desenvolvidas sob medida Big Data também permitem que as agências atendam à necessidade de analisar seus dados. Por exemplo, o Grupo de Análise de Dados Computacionais do Laboratório Nacional de Oak Ridge disponibilizou seu sistema de análise de dados Piranha para outras agências. O sistema ajudou pesquisadores médicos a encontrar um link que pode alertar os médicos sobre aneurismas da aorta antes que eles atacassem. Também é usado para tarefas mais mundanas, como examinar currículos para conectar candidatos a empregos com gerentes de contratação.

Dia 1 - fornece uma visão geral de alto nível das principais áreas de tópicos do Big Data . O módulo é dividido em uma série de seções, cada uma das quais é acompanhada por um exercício prático.

Dia 2 - explora uma variedade de tópicos que relacionam práticas de análise e ferramentas para ambientes de Big Data . Ele não entra em detalhes de implementação ou programação, mas mantém a cobertura em um nível conceitual, concentrando-se em tópicos que permitem aos participantes desenvolver uma compreensão abrangente das funções e recursos de análise comuns oferecidos pelas soluções de Big Data .

Dia 3 - fornece uma visão geral das áreas de tópicos fundamentais e essenciais relacionadas à arquitetura da plataforma de solução Big Data . Ele abrange os mecanismos de Big Data necessários para o desenvolvimento de uma plataforma de solução Big Data e opções de arquitetura para a montagem de uma plataforma de processamento de dados. Cenários comuns também são apresentados para fornecer uma compreensão básica de como uma plataforma de solução Big Data é geralmente usada.

Dia 4 - baseia-se no Dia 3, explorando tópicos avançados relacionados à arquitetura da plataforma de solução Big Data . Em particular, diferentes camadas de arquitetura que compõem a plataforma de solução Big Data são introduzidas e discutidas, incluindo fontes de dados, entrada de dados, armazenamento de dados, processamento de dados e segurança.

Dia 5 - abrange uma série de exercícios e problemas projetados para testar a capacidade dos delegados de aplicar o conhecimento dos tópicos abordados nos dias 3 e 4.

Neste treinamento ao vivo conduzido por instrutor em Cascais, os participantes aprenderão a mentalidade com a qual abordar as tecnologias Big Data, avaliar seu impacto nos processos e políticas existentes e implementar essas tecnologias com o objetivo de identificar atividades criminosas e prevenir crimes. Serão analisados estudos de casos de organizações de aplicação da lei de todo o mundo para obter informações sobre as suas abordagens de adoção, desafios e resultados.

No final desta formação, os participantes serão capazes de:

• Combinar a tecnologia Big Data com os processos tradicionais de recolha de dados para reunir uma história durante uma investigação.
• Implementar soluções industriais de armazenamento e processamento de big data para análise de dados.
• Preparar uma proposta para a adoção das ferramentas e processos mais adequados para permitir uma abordagem baseada em dados para a investigação criminal.

Big Data é um termo que se refere a soluções destinadas a armazenar e processar grandes conjuntos de dados. Desenvolvido pela Go Ogle inicialmente, estes Big Data soluções evoluíram e inspirou outros projectos semelhantes, muitos dos quais estão disponíveis como código-fonte aberto. R é uma linguagem de programação popular no setor financeiro.

Quando as tecnologias de armazenamento tradicionais não conseguem lidar com a quantidade de dados que é necessário armazenar, existem centenas de alternativas. Este curso tenta orientar os participantes sobre as alternativas para armazenar e analisar Big Data e quais são os seus prós e contras.

Este curso centra-se sobretudo na discussão e apresentação de soluções, embora estejam disponíveis exercícios práticos a pedido.

O curso faz parte do conjunto de habilidades do Data Scientist (Domínio: Dados e Tecnologia).

Esta sessão de treinamento em sala de aula explorará Big Data. Os delegados terão exemplos baseados em computador e exercícios de estudo de caso para realizar com ferramentas relevantes de big data

Este treinamento ao vivo conduzido por instrutor em Cascais (no local ou remoto) é destinado a analistas de dados que desejam programar com R em SAS para análise de cluster.

No final desta formação, os participantes serão capazes de

• Utilizar a análise de clusters para a extração de dados
• Mestrar a sintaxe do R para soluções de clustering.
• Implementar clustering hierárquico e não hierárquico.
• Tomar decisões baseadas em dados para ajudar a melhorar as operações comerciais.

Público

Se você tentar entender os dados aos quais tem acesso ou quiser analisar dados não estruturados disponíveis na rede (como o Twitter, Linked in, etc ...), este curso é para você.

É principalmente destinado a tomadores de decisão e pessoas que precisam escolher quais dados valem a pena coletar e o que vale a pena analisar.

Não se destina a pessoas que configuram a solução, essas pessoas irão se beneficiar do quadro geral.

Modo de entrega

Durante o curso, os delegados serão apresentados a exemplos de trabalho, principalmente de tecnologias de código aberto.

Aulas curtas serão seguidas de apresentação e exercícios simples pelos participantes

Conteúdo e Software utilizados

Todo o software utilizado é atualizado cada vez que o curso é executado, por isso, verificamos as versões mais recentes possíveis.

Abrange o processo de obter, formatar, processar e analisar os dados, para explicar como automatizar o processo de tomada de decisão com o aprendizado de máquina.

Big data é um conjunto de dados tão volumoso e complexo que os aplicativos tradicionais de processamento de dados são inadequados para lidar com eles. Os desafios do big data incluem a captura de dados, armazenamento de dados, análise de dados, pesquisa, compartilhamento, transferência, visualização, consulta, atualização e privacidade de informações.

Apache Hadoop é um dos frameworks mais populares para processamento Big Data em clusters de servidores. Este curso aborda a gestão de dados no HDFS, Pig avançado, Hive, e HBase.  Essas técnicas de programação avançadas serão benéficas para desenvolvedores experientes com Hadoop.

Público-alvo: desenvolvedores

Duração: três dias

Formato: palestras (50%) e laboratórios práticos (50%).

Este treinamento ao vivo conduzido por instrutor em Cascais (no local ou remoto) apresenta Hortonworks Data Platform (HDP) e orienta os participantes na implantação da solução Spark + Hadoop.

Ao final deste treinamento, os participantes serão capazes de:

• Usar o Hortonworks para executar Hadoop de forma confiável em grande escala.
• Unificar os recursos de segurança, governança e operações do Hadoop com os fluxos de trabalho analíticos ágeis do Spark.
• Use a Hortonworks para investigar, validar, certificar e dar suporte a cada um dos componentes de um projeto Spark.
• Processar diferentes tipos de dados, incluindo dados estruturados, não estruturados, em movimento e em repouso.

Cloudera Impala é um motor de consulta de processamento paralelo em larga escala (MPP) SQL de código aberto para clusters Apache Hadoop.

Impala permite que os usuários enviem consultas de baixa latência SQL a dados armazenados no Sistema de Arquivos Distribuído Hadoop e no Apache Hbase sem exigir movimentação ou transformação dos dados.

Público-alvo

Este curso é destinado a analistas e cientistas de dados que realizam análises em dados armazenados no Hadoop usando ferramentas Business Intelligence ou SQL.

Após este curso, os participantes serão capazes de

• Extrair informações significativas de clusters Hadoop com o Impala.
• Escriver programas específicos para facilitar a Business Intelligence no Impala em dialeto SQL.
• Solucionar problemas do Impala.

Este treinamento ao vivo conduzido por instrutor em Cascais (no local ou remoto) é destinado a engenheiros de dados, cientistas de dados e programadores que desejam usar os recursos Apache Kafka no fluxo de dados com Python.

No final deste treinamento, os participantes poderão usar Apache Kafka para monitorar e gerenciar condições em fluxos de dados contínuos usando a programação Python.

Este treinamento ao vivo conduzido por instrutor em Cascais (no local ou remoto) é destinado a desenvolvedores que desejam implementar o processamento de fluxo Apache Kafka sem escrever código.

No final deste treinamento, os participantes serão capazes de:

• Instalar e configurar o Confluent KSQL.
• Configurar um pipeline de processamento de fluxo usando apenas comandos SQL (sem codificação Java ou Python).
• Realizar filtragem de dados, transformações, agregações, junções, janelamento e sessionização inteiramente em SQL.
• Conceber e implementar consultas interactivas e contínuas para ETL de fluxo contínuo e análise em tempo real.

Este treinamento ao vivo conduzido por instrutor em Cascais (online ou no local) é destinado a pessoas técnicas que desejam aprender como implementar uma estratégia de aprendizado de máquina enquanto maximizam o uso de big data.

No final desta formação, os participantes irão

• Compreender a evolução e as tendências do aprendizado de máquina.
• Saber como o aprendizado de máquina está sendo usado em diferentes setores.
• Familiarizar-se com as ferramentas, habilidades e serviços disponíveis para implementar o aprendizado de máquina em uma organização.
• Compreender como o aprendizado de máquina pode ser usado para aprimorar a mineração e a análise de dados.
• Saiba o que é um backend intermediário de dados e como ele está sendo usado pelas empresas.
• Entenda o papel que o big data e os aplicativos inteligentes estão desempenhando em todos os setores.

A curva de aprendizado do Apache Spark está aumentando lentamente no início, e é preciso muito esforço para obter o primeiro retorno. Este curso tem como objetivo pular a primeira parte difícil. Depois de fazer este curso, os participantes entenderão o básico do Apache Spark , diferenciarão claramente o RDD do DataFrame, aprenderão as APIs Python e Scala , entenderão os executores e as tarefas, etc. implantação na nuvem, Databricks e AWS. Os alunos também entenderão as diferenças entre o AWS EMR e o AWS Glue, um dos últimos serviços Spark da AWS.

PÚBLICO:

Engenheiro de dados, DevOps , cientista de dados

OBJETIVO:

Este curso apresentará o Apache Spark . Os alunos aprenderão como o Spark se encaixa no ecossistema de Big Data e como usar o Spark para análise de dados. O curso abrange o shell Shell para análise interativa de dados, internos do Spark, APIs do Spark, Spark SQL , streaming do Spark e aprendizado de máquina e graphX.

PÚBLICO :

Desenvolvedores / analistas de dados

O Spark SQL é o módulo do Apache Spark para trabalhar com dados estruturados e não estruturados. O Spark SQL fornece informações sobre a estrutura dos dados, bem como a computação que está sendo executada. Esta informação pode ser usada para realizar otimizações. Dois usos comuns para o Spark SQL são:
- para executar consultas SQL .
- para ler dados de uma instalação existente do Hive .

Neste treinamento ao vivo conduzido por instrutor (no local ou remoto), os participantes aprenderão a analisar vários tipos de conjuntos de dados usando o Spark SQL .

No final deste treinamento, os participantes serão capazes de:

• Instale e configure o Spark SQL .
• Realize a análise de dados usando o Spark SQL .
• Consultar conjuntos de dados em diferentes formatos.
• Visualize dados e resultados de consulta.

Formato do Curso

• Palestra interativa e discussão.
• Muitos exercícios e prática.
• Implementação prática em um ambiente de laboratório ao vivo.

Opções de personalização de curso

• Para solicitar um treinamento personalizado para este curso, entre em contato conosco para agendar.

Este treinamento ao vivo conduzido por instrutor em Cascais (online ou no local) é destinado a pessoas técnicas que desejam implantar o Talend Open Studio for Big Data para simplificar o processo de leitura e análise de Big Data.

No final desta formação, os participantes serão capazes de

• Instalar e configurar o Talend Open Studio para Big Data.
• Conectar-se com sistemas de Big Data, como Cloudera, HortonWorks, MapR, Amazon EMR e Apache.
• Compreender e configurar os componentes e conectores de big data do Open Studio's.
• Configurar parâmetros para gerar automaticamente o código MapReduce.
• Utilizar a interface de arrastar e soltar do Open Studio' para executar trabalhos do Hadoop.
• Prototipar pipelines de big data.
• Automatize projetos de integração de big data.