Cursos de PySpark em Gaia

Neste treinamento ao vivo conduzido por um instrutor em Gaia, os participantes aprenderão como usar Python e Spark em conjunto para analisar big data, trabalhando em exercícios práticos.

Ao final deste treinamento, os participantes serão capazes de:

• Aprender a usar o Spark com Python para analisar Big Data.
• Trabalhar em exercícios que imitam casos do mundo real.
• Utilizar diferentes ferramentas e técnicas para análise de big data usando o PySpark.

Este treinamento ao vivo com instrutor (online ou presencial) destina-se a engenheiros de dados, analistas de dados e profissionais da área de dados que desejam utilizar o Databricks e o PySpark para construir pipelines escaláveis de dados e migrar fluxos de trabalho SQL existentes.

Este treinamento oferece uma introdução prática à criação de fluxos de trabalho escaláveis de processamento de dados e Machine Learning utilizando PySpark. Os participantes aprenderão como o Apache Spark opera dentro dos ecossistemas modernos de Big Data e como processar grandes conjuntos de dados de forma eficiente, aplicando os princípios da computação distribuída.

Este curso prático de três dias foca na construção e otimização de cargas de trabalho eficientes de processamento de dados usando PySpark, Pandas e Polars em ambientes baseados em Kubernetes.

Os participantes desenvolverão uma compreensão prática de como os aplicativos Spark são executados no Kubernetes e de como as decisões de configuração em nível de aplicativo influenciam desempenho, escalabilidade, consumo de recursos e custos. O curso abrange áreas-chave de otimização, incluindo dimensionamento de executores, alocação de memória, alocação dinâmica, estratégias de particionamento, comportamento de shuffle, problemas de pequenos arquivos e processamento eficiente de Parquet.

O curso também aborda desafios comuns ao trabalhar com Pandas, incluindo limitações de memória e falhas por excesso de memória (out-of-memory), e introduz o Polars como uma alternativa de alto desempenho para cargas de trabalho específicas de processamento de dados. Através de exercícios práticos, os participantes diagnosticarão problemas de desempenho e memória, compararão diferentes estratégias de configuração e aplicarão técnicas de otimização a cenários realistas de ETL e aprendizado de máquina.

O enfoque principal do curso é a tomada de decisão prática: entender como identificar gargalos, selecionar a ferramenta apropriada, configurar o Spark de forma eficiente e equilibrar o desempenho com o consumo de recursos de infraestrutura e os custos.