Plan du cours
Introduction
Comprendre Big Data
Aperçu de Spark
Vue d'ensemble de Python
Vue d'ensemble de PySpark
- Distribuer des données à l'aide de la structure de données distribuées résilientes (Resilient Distributed Datasets Framework)
- Distribuer des calculs à l'aide des opérateurs de l'API Spark
Configurer Python avec Spark
Configuration PySpark
Utiliser Amazon Web Services (AWS) Instances EC2 pour Spark
Mise en place Databricks
Configuration du cluster AWS EMR
Apprendre les bases de Python Programming
- Démarrer avec Python
- Utiliser le bloc-notes Jupyter
- Utiliser des variables et des types de données simples
- Travailler avec des listes
- Utilisation des instructions if
- Utilisation des entrées utilisateur
- Travailler avec des boucles while
- Implémentation de fonctions
- Travailler avec des classes
- Travailler avec des fichiers et des exceptions
- Travailler avec des projets, des données et des API
Apprendre les bases de Spark DataFrame
- Démarrer avec les DataFrames Spark
- Implémenter des opérations de base avec Spark
- Utiliser les opérations Groupby et Aggregate
- Travailler avec des horodatages et des dates
Travailler sur un projet Spark DataFrame Exercice
Comprendre Machine Learning avec MLlib
Travailler avec MLlib, Spark et Python pour Machine Learning
Comprendre les régressions
- Apprendre la théorie de la régression linéaire
- Implémenter un code d'évaluation de régression
- Travailler sur un exemple d'exercice de régression linéaire
- Apprendre la théorie de la régression logistique
- Implémentation d'un code de régression logistique
- Travailler sur un exemple d'exercice de régression logistique
Comprendre les Random Forest et les arbres de décision
- Apprendre la théorie des méthodes d'arbres
- Implémentation des arbres de décision et des codes Random Forest
- Travailler sur un exemple d'exercice de classification Random Forest
Travailler avec le regroupement K-means
- Comprendre la théorie du regroupement K-means
- Implémentation d'un code de clustering K-means
- Travailler sur un exemple d'exercice de clustering
Travailler avec les systèmes de recommandation
Implémentation du traitement du langage naturel
- Comprendre Natural Language Processing (NLP)
- Vue d'ensemble des outils de traitement du langage naturel
- Travailler sur un exemple d'exercice de NLP
Streaming avec Spark sur Python
- Vue d'ensemble du streaming avec Spark
- Exemple d'exercice Spark Streaming
Remarques finales
Pré requis
- Compétences générales en programmation
Public
- Développeurs
- Professionnels de l'informatique
- Scientifiques des données
Nos clients témoignent (6)
J'ai aimé qu'il soit pratique. J'ai adoré appliquer les connaissances théoriques avec des exemples pratiques.
Aurelia-Adriana - Allianz Services Romania
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
Le cours portait sur une série de sujets très complexes et interconnectés, et Pablo maîtrise chaque domaine en profondeur. Parfois, les nuances étaient perdues dans la communication et/ou à cause des contraintes de temps, ce qui a pu entraîner un écart entre les attentes et la réalité. Il y avait également quelques problèmes d'installation avec UHG/Azure Databricks, mais Pablo et UHG les ont résolus rapidement une fois qu'ils sont devenus apparents - cela témoigne à mes yeux d'un haut niveau de compréhension et de professionnalisme entre UHG et Pablo,
Michael Monks - Tech NorthWest Skillnet
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
Attention individuelle.
ARCHANA ANILKUMAR - PPL
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
Formation pratique..
Abraham Thomas - PPL
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
Les leçons ont été dispensées dans un notebook Jupyter. Les sujets étaient structurés de manière logique et contribuaient naturellement à développer la session des parties les plus simples aux plus complexes. Étant déjà un utilisateur avancé de Python avec une formation en apprentissage automatique, j'ai trouvé le cours plus facile à suivre que, possiblement, certains de mes camarades qui ont suivi la formation. J'apprécie que certaines des notions les plus élémentaires aient été omises et qu'il se soit concentré sur les questions les plus importantes.
Angela DeLaMora - ADT, LLC
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique
tâches de pratique
Pawel Kozikowski - GE Medical Systems Polska Sp. Zoo
Formation - Python and Spark for Big Data (PySpark)
Traduction automatique