Curso de Stream Processing with Kafka Streams
O Kafka Streams é uma biblioteca client-side para construir aplicações e microserviços cujos dados são transmitidos para e de um sistema de mensagens Kafka. Tradicionalmente, o Apache Kafka dependia do Apache Spark ou Apache Storm para processar dados entre os produtores e consumidores de mensagens. Ao chamar a API do Kafka Streams dentro de uma aplicação, os dados podem ser processados diretamente no Kafka, eliminando a necessidade de enviar os dados para um cluster separado para processamento.
Neste treinamento conduzido por instrutor e ao vivo, os participantes aprenderão como integrar o Kafka Streams em um conjunto de aplicações Java de exemplo que transmitem dados para e do Apache Kafka para processamento de fluxo.
Ao final deste treinamento, os participantes serão capazes de:
- Compreender as características e vantagens do Kafka Streams em comparação com outros frameworks de processamento de fluxos
- Processar dados de fluxo diretamente dentro de um cluster Kafka
- Escrever uma aplicação ou microserviço em Java ou Scala que se integra com o Kafka e Kafka Streams
- Escrever código conciso que transforma tópicos de entrada do Kafka em tópicos de saída do Kafka
- Construir, empacotar e implantar a aplicação
Público-alvo
- Desenvolvedores
Formato do curso
- Parte palestra, parte discussão, exercícios e prática intensiva
Notas
- Para solicitar um treinamento personalizado para este curso, entre em contato conosco para agendar
Programa do Curso
Introdução
- Kafka vs Spark, Flink e Storm
Visão Geral das Funcionalidades do Kafka Streams
- Processamento com estado e sem estado, processamento baseado em tempo de evento, DSL, operações de janelamento baseadas em tempo de evento, etc.
Caso de Estudo: API Kafka Streams para Orçamento Preditivo
Configurando o Ambiente de Desenvolvimento
Criando um Aplicativo de Fluxos
Iniciando o Cluster Kafka
Preparando os Tópicos e Dados de Entrada
Opções para Processar Dados de Fluxo
- DSL de Nível Superior do Kafka Streams
- Processador de Nível Inferior
Transformando os Dados de Entrada
Inspecionando os Dados de Saída
Parando o Cluster Kafka
Opções para Implantação do Aplicativo
- Ferramentas clássicas de operações (Puppet, Chef e Salt)
- Docker
- Arquivo WAR
Solução de Problemas
Resumo e Conclusão
Requisitos
- Um entendimento de Apache Kafka
- Experiência em programação Java
Precisa de ajuda para escolher o curso certo?
Curso de Stream Processing with Kafka Streams - Consulta
Stream Processing with Kafka Streams - Solicitação de Consultoria
Solicitação de Consultoria
Declaração de Clientes (1)
Relembrando/revisando pontos-chave dos tópicos discutidos.
Paolo Angelo Gaton - SMS Global Technologies Inc.
Curso - Building Stream Processing Applications with Kafka Streams
Máquina Traduzida
Próximas Formações Provisórias
Cursos Relacionados
Apache Kafka Connect
7 HorasEste treinamento orientado por instrutor, ao vivo em Portugal (online ou no local), é destinado a desenvolvedores que desejam integrar o Apache Kafka com bancos de dados e aplicativos existentes para processamento, análise, etc.
Ao final deste treinamento, os participantes serão capazes de:
- Usar o Kafka Connect para ingerir grandes volumes de dados de um banco de dados em tópicos do Kafka.
- Ingerir dados de logs gerados por servidores de aplicativos em tópicos do Kafka.
- Tornar qualquer dado coletado disponível para processamento em fluxo.
- Exportar dados de tópicos do Kafka para sistemas secundários de armazenamento e análise.
Construindo Soluções Kafka com Confluent
14 HorasEste treinamento orientado por instrutor (online ou presencial) é direcionado a engenheiros que desejam usar o Confluent (uma distribuição do Kafka) para construir e gerenciar uma plataforma de processamento de dados em tempo real para seus aplicativos.
Ao final deste treinamento, os participantes serão capazes de:
- Instalar e configurar a Plataforma Confluent.
- Usar as ferramentas e serviços de gerenciamento do Confluent para executar o Kafka com mais facilidade.
- Armazenar e processar dados de fluxo entrante.
- Otimizar e gerenciar clusters do Kafka.
- Segurar fluxos de dados.
Formato do Curso
- Aula interativa e discussão.
- Muitos exercícios e prática.
- Implementação prática em um ambiente de laboratório ao vivo.
Opções de Personalização do Curso
- Este curso é baseado na versão open source do Confluent: Confluent Open Source.
- Para solicitar um treinamento personalizado para este curso, entre em contato conosco para agendar.
Construindo Pipelines de Dados com Apache Kafka
7 HorasO Apache Kafka é uma plataforma de streaming distribuída. É, de fato, um padrão para construir pipelines de dados e resolve muitos casos de uso diferentes em torno do processamento de dados: pode ser usado como uma fila de mensagens, log distribuído, processador de stream, etc.
Começaremos com algumas teorias por trás dos pipelines de dados em geral, continuando com os conceitos fundamentais por trás do Kafka. Também exploraremos componentes importantes como Kafka Streams e Kafka Connect.
Uma Introdução Prática ao Processamento de Streams
21 HorasNeste treinamento liderado por instrutor (no local ou remoto), os participantes aprenderão a configurar e integrar diferentes frameworks de Processamento de Fluxo com sistemas de armazenamento de big data existentes e aplicativos e microserviços relacionados.
Ao final deste treinamento, os participantes serão capazes de:
- Instalar e configurar diferentes frameworks de Processamento de Fluxo, como Spark Streaming e Kafka Streaming.
- Compreender e selecionar o framework mais apropriado para cada tarefa.
- Processar dados continuamente, simultaneamente e em um fluxo registro a registro.
- Integrar soluções de Processamento de Fluxo com bancos de dados existentes, data warehouses, data lakes, etc.
- Integrar a biblioteca de processamento de fluxo mais adequada com aplicativos empresariais e microserviços.
Mensagens Distribuídas com Apache Kafka
14 HorasEste curso é para arquitetos empresariais, desenvolvedores, administradores de sistemas e qualquer pessoa que deseja entender e utilizar um sistema de mensagens distribuídas de alto desempenho. Se você tiver requisitos mais específicos (por exemplo, apenas o lado da administração do sistema), este curso pode ser adaptado para melhor atender às suas necessidades.
Kafka para Administradores
21 HorasEste treinamento presencial, conduzido por instrutores em Portugal (online ou no local), é destinado a sysadmins que desejam configurar, implantar, gerenciar e otimizar um cluster Kafka de nível empresarial.
No final deste treinamento, os participantes serão capazes de:
- Configurar e administrar um Cluster Kafka.
- Avaliar as vantagens e desvantagens de implantar o Kafka localmente ou na nuvem.
- Implantar e monitorar o Kafka usando várias ferramentas em ambientes locais e na nuvem.
Apache Kafka para Desenvolvedores
21 HorasEste treinamento liderado por instrutor (online ou presencial) é direcionado a desenvolvedores de nível intermediário que desejam desenvolver aplicativos de big data com Apache Kafka.
No final deste treinamento, os participantes serão capazes de:
- Desenvolver produtores e consumidores do Kafka para enviar e ler dados do Kafka.
- Integrar o Kafka a sistemas externos usando Kafka Connect.
- Escrever aplicativos de streaming com Kafka Streams & ksqlDB.
- Integrar uma aplicação cliente do Kafka com o Confluent Cloud para implantações baseadas em nuvem.
- Ganhar experiência prática através de exercícios práticos e casos de uso do mundo real.
Apache Kafka para Programadores Python
7 HorasEste treinamento ao vivo conduzido por instrutor em Portugal (no local ou remoto) é destinado a engenheiros de dados, cientistas de dados e programadores que desejam usar os recursos Apache Kafka no fluxo de dados com Python.
No final deste treinamento, os participantes poderão usar Apache Kafka para monitorar e gerenciar condições em fluxos de dados contínuos usando a programação Python.
Fundamentos do Kafka para Desenvolvedores Java
14 HorasEste treinamento conduzido por instrutor (online ou presencial) em Portugal é voltado para desenvolvedores Java de nível intermediário que desejam integrar o Apache Kafka às suas aplicações para mensagens confiáveis, escaláveis e de alta taxa de transferência.
No final deste treinamento, os participantes serão capazes de:
- Compreender a arquitetura e componentes principais do Kafka.
- Configurar um cluster Kafka.
- Produzir e consumir mensagens usando Java.
- Implementar Kafka Streams para processamento de dados em tempo real.
- Garantir tolerância a falhas e escalabilidade nas aplicações Kafka.
Administration of Kafka Message Queue
14 HorasEste treinamento ao vivo conduzido por instrutor em Portugal (no local ou remoto) é destinado a administradores de sistema de nível intermediário que desejam aproveitar os recursos de enfileiramento de mensagens do Kafka de maneira eficaz.
No final deste treinamento, os participantes serão capazes de:
- Compreender os recursos e a arquitetura de enfileiramento de mensagens do Kafka.
- Configurar tópicos do Kafka para cenários de enfileiramento de mensagens.
- Produzir e consumir mensagens usando o Kafka.
- Monitorar e gerenciar o Kafka como uma fila de mensagens.
Segurança para Apache Kafka
7 HorasEste treinamento presencial, ministrado por um instrutor em Portugal (online ou no local), é voltado para testadores de software que desejam implementar medidas de segurança de rede em uma aplicação do Apache Kafka.
Ao final deste treinamento, os participantes serão capazes de:
- Implantar o Apache Kafka em um servidor baseado em nuvem.
- Implementar criptografia SSL para prevenir ataques.
- Adicionar autenticação ACL para rastrear e controlar o acesso dos usuários.
- Garantir que clientes confiáveis tenham acesso a clusters do Kafka com autenticação SSL e SASL.
Apache Kafka e Spring Boot
7 HorasEste treinamento ministrado por instrutor (online ou presencial) em Portugal é voltado para desenvolvedores de nível intermediário que desejam aprender os fundamentos do Kafka e integrá-lo com o Spring Boot.
Ao final deste treinamento, os participantes serão capazes de:
- Compreender o Kafka e sua arquitetura.
- Aprender como instalar, configurar e configurar um ambiente básico do Kafka.
- Integrar o Kafka com o Spring Boot.
Administration of Kafka Topic
14 HorasEste treinamento ao vivo conduzido por instrutor em Portugal (no local ou remoto) é destinado a administradores de sistema de nível iniciante a intermediário que desejam aprender como gerenciar efetivamente os tópicos do Kafka para streaming e processamento de dados eficientes.
No final deste treinamento, os participantes serão capazes de:
- Compreender os fundamentos e a arquitetura do tópico Kafka.
- Criar, configurar e gerenciar tópicos do Kafka.
- Monitorar tópicos do Kafka para saúde, desempenho e disponibilidade.
- Implementar medidas de segurança para tópicos do Kafka.
SMACK Stack para Ciência de Dados
14 HorasEste treinamento presencial, liderado pelo instrutor em Portugal (online ou no local), é voltado para cientistas de dados que desejam utilizar a pilha SMACK para construir plataformas de processamento de dados para soluções de big data.
Ao final deste treinamento, os participantes serão capazes de:
- Implementar uma arquitetura de pipeline de dados para processamento de big data.
- Desenvolver uma infraestrutura de cluster com Apache Mesos e Docker.
- Analisar dados com Spark e Scala.
- Gerenciar dados não estruturados com Apache Cassandra.
Microservices com Spring Cloud e Kafka
21 HorasEste treinamento ministrado por instrutor (online ou presencial) é destinado a desenvolvedores que desejam transformar uma arquitetura tradicional em uma arquitetura baseada em microserviços altamente concorrentes usando Spring Cloud, Kafka, Docker, Kubernetes e Redis.
Ao final deste treinamento, os participantes serão capazes de:
- Configurar o ambiente de desenvolvimento necessário para construir microserviços.
- Projetar e implementar um ecossistema de microserviços altamente concorrente usando Spring Cloud, Kafka, Redis, Docker e Kubernetes.
- Transformar serviços monolíticos e SOA em uma arquitetura baseada em microserviços.
- Adotar uma abordagem DevOps para desenvolvimento, teste e lançamento de software.
- Garantir alta concorrência entre microserviços na produção.
- Monitorar microserviços e implementar estratégias de recuperação.
- Realizar otimização de desempenho.
- Aprender sobre as tendências futuras em arquitetura de microserviços.