Senior Data Engineer (Azure Databricks / Airflow)
Coopers Group AG Switzerland
Human Resources Services · 51-200 employees
About the role
Develop and operate modern data products and pipelines while facilitating the migration of the data platform to Azure Databricks. Collaborate with architects and engineers to ensure data quality, performance, and reliable platform operations.
What they look for
Requirements
Requires several years of experience as a Data Engineer with strong proficiency in Python, SQL, and Apache Airflow. Candidates should have experience with cloud-based data engineering, containerization tools, and modern data architectures.
Full description
................
Für unseren Kunden aus der Finanzbranche in Basel, suchen wir eine:n erfahrene:n, motivierte:n und aufgeschlossene:n Senior Data Engineer (Azure Databricks / Airflow).
In dieser Rolle entwickelst und betreibst du moderne Data Products und Data Pipelines und gestaltest gleichzeitig die Weiterentwicklung der Data Platform von der On-Premise-Umgebung hin zu Azure Databricks.
Deine Aufgaben:
- Entwicklung und Weiterentwicklung von Data Products – von der Datenaufnahme über Transformation und Aufbereitung bis zur Bereitstellung für Konsumenten
- Konzeption, Implementierung und Betrieb von Datenpipelines und Transformationen mit Python, SQL und Apache Airflow
- Sicherstellung von Datenqualität, Performance und zuverlässigem Betrieb der Data Pipelines
- Mitarbeit an der Weiterentwicklung der Data Platform und Data Architecture sowie an Architekturentscheidungen
- Aktive Zusammenarbeit mit Data Architect, DevOps Engineer und Product Owner
- Unterstützung der Anwender bei datenbezogenen Fragestellungen, der Nutzung der Plattform und Python-Programmierung
- Monitoring und Troubleshooting von Datenpipelines, Datenqualität und Plattformkomponenten
- Mitarbeit bei der Migration und Transformation der bestehenden On-Premise-Data-Platform nach Azure Databricks
- Unterstützung bei operativen Aufgaben im Cloud- und Plattformumfeld
Dein Profil:
- Mehrjährige Erfahrung als Data Engineer mit fundierten Kenntnissen in Python und SQL
- Sehr gute praktische Erfahrung mit Apache Airflow, insbesondere bei der Erstellung und Verwaltung von DAGs
- Sehr gute SQL- und PostgreSQL-Kenntnisse
- Erfahrung mit Python Data-Engineering-Tools wie pandas, Polars und Poetry
- Erfahrung mit Docker, Kubernetes, OpenShift und S3-kompatiblem Storage (z. B. MinIO)
- Erfahrung mit Azure Databricks bzw. mit Data Engineering im Databricks-Umfeld
- Vertrautheit mit JupyterHub und explorativen Datenumgebungen
- Kenntnisse im Bereich Data Cataloging, idealerweise mit Acryl DataHub
- Gutes Verständnis von Data Mesh, insbesondere Data Contracts, sowie von Lakehouse-Architekturen
- Interesse an Cloud-Migrationen und der Weiterentwicklung moderner Data Platforms
- Ausgeprägte Kommunikations- und Teamfähigkeit sowie Freude daran, technische und nicht-technische Anwender zu unterstützen
- Selbstständige, proaktive Arbeitsweise und Ownership für die eigenen Deliverables
- Fliessende Deutsch und Englischkenntnisse in Wort und Schrift
Similar roles
-
CYS - Data Engineer - TP
Leonardo Chieti, Abruzzo, Italy · €36K–€59K/yr
-
Senior Data Engineer
Gibson Dunn Los Angeles, California, United States · $150K–$200K/yr
-
Senior Data Engineer (MarTech) - (26083101)
Third Eye Software Austin, Texas, United States
-
Senior Data Engineer (Remote)
Neumo Holdings LLC Texas, United States
-
Founding Data Engineer
Patient Funding Alternatives Woburn, Massachusetts, United States · $150K/yr
-
Data Engineer
Auto Air Export, Inc. Irving, Texas, United States