OCTOGONE

Data Engineer : Databricks / GCP

Vélizy-Villacoublay, Île-de-France · Posted 2d ago

salary not listedcontract
DatabricksGCPPySparkSparkPythonGitHubCI/CD

Job Description

Nous allons travailler sur un POC Réseau Autonome d une durée limitée (approx 6 mois à partir de septembre), l objectif est de collecter des données réseaux (données config Radio, Kpi, référentielles) les intégrer dans Databricks, développer des API pour requêter ces données afin que des agent IA puissent requêter les données à travers ces API. Livrables: Conception et développement de projets d intégration de données pour des projets à forte valeur ajoutée. Développement de jobs d intégration de données en PySpark, Spark, Python en mode streaming et batch sur la plateforme Databricks. La mise en œuvre de CI/CD (github, devops, Databricks Bundles), de l orchestration, du data management et de la sécurité. Optimisation des jobs et des ressources cloud (GCP et Databricks). Mise en place de de Dashboard Finops afin de suivre l usage des ressources GCP / Databricks. Travailler au sein d équipes pluridisciplinaires : chefs de projet, architectes, devops, data engineer. Assurer une formation continue, le partage de connaissances, mise en place de documentation.