Formation Python, Spark et Hadoop pour le Big Data

Cette formation en direct, encadrée par un formateur, <lieu> (en ligne ou en présentiel), s'adresse aux data scientists et ingénieurs de niveau intermédiaire souhaitant utiliser Google Colab et Apache Spark pour le traitement et l'analyse des données massives.

À l'issue de cette formation, les participants seront capables de :

• Configurer un environnement de données massives avec Google Colab et Spark.
• Traiter et analyser de grands ensembles de données efficacement avec Apache Spark.
• Visualiser les données massives dans un environnement collaboratif.
• Intégrer Apache Spark avec des outils basés sur le cloud.

Apache Hadoop est le framework le plus populaire pour le traitement des mégadonnées (Big Data) sur des grilles de serveurs. Au cours de cette formation de trois jours (optionnellement quatre jours), les participants apprendront à connaître les avantages commerciaux et les cas d'usage de Hadoop et de son écosystème, comment planifier le déploiement et l'évolution de la grille, ainsi que comment installer, maintenir, surveiller, résoudre les problèmes et optimiser Hadoop. Ils pratiqueront également le chargement en masse des données sur la grille, se familiariseront avec les différentes distributions de Hadoop et apprendront à installer et à gérer les outils de l'écosystème Hadoop. La formation se terminera par une discussion sur la sécurisation de la grille avec Kerberos.

« … Les documents étaient très bien préparés et couverts de manière approfondie. Le laboratoire était très utile et bien organisé »
— Andrew Nguyen, Ingénieur Principal en Intégration DW, Microsoft Online Advertising

Public cible

Administrateurs Hadoop

Format

Cours magistraux et travaux pratiques en laboratoire, avec un équilibre approximatif de 60 % de cours et 40 % de travaux pratiques.

Apache NiFi est une plateforme d'intégration de données et de traitement d'événements open-source basée sur des flux. Elle permet le routage, la transformation et la médiation système automatisés et en temps réel entre des systèmes hétérogènes, grâce à une interface web et un contrôle granulaire.

Cette formation dirigée par un instructeur (en présentiel ou à distance) s'adresse aux administrateurs et ingénieurs de niveau intermédiaire souhaitant déployer, gérer, sécuriser et optimiser les flux de données NiFi dans des environnements de production.

À l'issue de cette formation, les participants seront capables de :

• Installer, configurer et maintenir des clusters Apache NiFi.
• Concevoir et gérer des flux de données provenant de diverses sources et destinations.
• Mettre en œuvre l'automatisation des flux, le routage et la logique de transformation.
• Optimiser les performances, surveiller les opérations et résoudre les problèmes.

Format du cours

• Conférence interactive accompagnée d'une discussion sur l'architecture réelle.
• Travaux pratiques : création, déploiement et gestion des flux.
• Exercices basés sur des scénarios dans un environnement de laboratoire en direct.

Options de personnalisation du cours

• Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en convenir.

Lors de cette formation animée par un instructeur à Belgique, les participants apprendront les principes fondamentaux de la programmation basée sur les flux tout en développant diverses extensions de démonstration, composants et processeurs à l'aide d'Apache NiFi.

À l'issue de cette formation, les participants seront en mesure de :

• Comprendre l'architecture de NiFi et les concepts liés aux flux de données.
• Développer des extensions en utilisant NiFi et des API tierces.
• Créer leurs propres processeurs Apache NiFi sur mesure.
• Ingérer et traiter des données en temps réel provenant de formats de fichiers disparates et peu courants, ainsi que de diverses sources de données.

Cette formation propose une introduction pratique à la création de flux de traitement de données et de Machine Learning évolutifs à l'aide de PySpark. Les participants apprendront comment Apache Spark s'insère dans les écosystèmes modernes de Big Data et comment traiter efficacement de grands volumes de données en appliquant les principes du calcul distribué.

Cette formation en présentiel ou en ligne, animée par un formateur, s'adresse aux ingénieurs souhaitant mettre en place et déployer un système Apache Spark pour traiter de très grands volumes de données.

À l'issue de cette formation, les participants seront capables de :

• Installer et configurer Apache Spark.
• Traiter et analyser rapidement de très grands ensembles de données.
• Comprendre les différences entre Apache Spark et Hadoop MapReduce, et savoir quand utiliser l'un ou l'autre.
• Intégrer Apache Spark avec d'autres outils d'apprentissage automatique.

Cette formation en direct, animée par un formateur, à Belgique (en ligne ou en présentiel), s'adresse aux administrateurs système de niveau débutant à intermédiaire souhaitant déployer, maintenir et optimiser des clusters Spark.

À l'issue de cette formation, les participants seront en mesure de :

• Installer et configurer Apache Spark dans divers environnements.
• Gérer les ressources des clusters et surveiller les applications Spark.
• Optimiser les performances des clusters Spark.
• Mettre en œuvre des mesures de sécurité et garantir une haute disponibilité.
• Dépanner et résoudre les problèmes courants de Spark.

La courbe d'apprentissage d'Apache Spark est relativement raide au début, et il faut beaucoup d'efforts pour en obtenir les premiers bénéfices. Ce cours vise à franchir rapidement cette phase initiale difficile. À l'issue de ce module, les participants comprendront les fondamentaux d'Apache Spark, sauront distinguer clairement les RDD des DataFrame, maîtriseront les API Python et Scala, ainsi que le fonctionnement des exécuteurs et des tâches, entre autres. En suivant les bonnes pratiques, ce cours accorde une forte importance au déploiement dans le cloud, à Databricks et à AWS. Les élèves apprendront également à différencier AWS EMR et AWS Glue, l'un des derniers services Spark proposés par AWS.

PUBLIC CIBLE :

Ingénieur Data, DevOps, Data Scientist

OBJECTIF :

Ce cours présente Apache Spark. Les apprenants apprendront comment Spark s'intègre dans l'écosystème Big Data et comment l'utiliser pour l'analyse de données. Le programme couvre le shell Spark pour l'analyse de données interactive, les mécanismes internes de Spark, les API Spark, Spark SQL, Spark Streaming, ainsi que l'apprentissage automatique et GraphX.

PUBLIC CIBLE :

Développeurs / Analystes de données

Cette formation en présentiel ou en ligne, animée par un instructeur, s'adresse aux data scientists et aux développeurs souhaitant utiliser Spark NLP, construit sur Apache Spark, pour développer, implémenter et mettre à l'échelle des modèles et des pipelines de traitement de texte en langage naturel.

À l'issue de cette formation, les participants seront capables de :

• Configurer l'environnement de développement nécessaire pour commencer à construire des pipelines NLP avec Spark NLP.
• Comprendre les fonctionnalités, l'architecture et les avantages de l'utilisation de Spark NLP.
• Utiliser les modèles pré-entraînés disponibles dans Spark NLP pour mettre en œuvre le traitement du texte.
• Apprendre à construire, entraîner et mettre à l'échelle des modèles Spark NLP pour des projets de niveau production.
• Appliquer la classification, l'inférence et l'analyse des sentiments sur des cas d'utilisation réels (données cliniques, insights sur le comportement des clients, etc.).

Lors de cette formation en présentiel animée par un formateur à Belgique, les participants apprendront à utiliser Python et Spark conjointement pour analyser le big data, en réalisant des exercices pratiques.

À l'issue de cette formation, les participants seront capables de :

• Utiliser Spark avec Python pour analyser le Big Data.
• Réaliser des exercices simulant des cas concrets.
• Utiliser différents outils et techniques d'analyse du big data avec PySpark.

Spark SQL est le module d'Apache Spark dédié au traitement des données structurées et non structurées. Il fournit des informations sur la structure des données ainsi que sur les calculs effectués, ce qui permet d'optimiser les opérations. Spark SQL est couramment utilisé pour :
- exécuter des requêtes SQL.
- lire des données à partir d'une installation Hive existante.

Lors de cette formation en présentiel ou à distance, animée par un formateur expert, les participants apprendront à analyser différents types de jeux de données à l'aide de Spark SQL.

À l'issue de cette formation, les participants seront capables de :

• Installer et configurer Spark SQL.
• Réaliser des analyses de données avec Spark SQL.
• Interroger des jeux de données dans différents formats.
• Visualiser les données et les résultats des requêtes.

Format de la formation

• Cours interactifs et débats.
• Nombreux exercices et mises en pratique.
• Mise en œuvre concrète dans un environnement de laboratoire en temps réel.

Options de personnalisation de la formation

• Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin de convenir des détails.

Stratio est une plateforme centrée sur les données qui intègre le big data, l'IA et la gouvernance dans une solution unique. Ses modules Rocket et Intelligence permettent une exploration rapide des données, leur transformation et des analyses avancées dans les environnements d'entreprise.

Cette formation en direct, animée par un formateur (en ligne ou sur site), s'adresse aux professionnels des données de niveau intermédiaire souhaitant utiliser efficacement les modules Rocket et Intelligence de Stratio avec PySpark, en mettant l'accent sur les structures de bouclage, les fonctions définies par l'utilisateur et la logique des données avancée.

À l'issue de cette formation, les participants seront capables de :

• Naviguer et travailler au sein de la plateforme Stratio en utilisant les modules Rocket et Intelligence.
• Appliquer PySpark dans le cadre de l'ingestion, de la transformation et de l'analyse des données.
• Utiliser les boucles et la logique conditionnelle pour contrôler les flux de données et les tâches d'ingénierie des fonctionnalités (feature engineering).
• Créer et gérer des fonctions définies par l'utilisateur (UDF) pour des opérations de données réutilisables dans PySpark.

Format de la formation

• Conférence interactive et discussions.
• Nombreux exercices et pratiques.
• Mise en œuvre pratique dans un environnement de laboratoire en direct.

Options de personnalisation de la formation

• Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin de l'organiser.