Senior Data Engineer | Databricks, PySpark, Python, Data Lakehouse, IaC | bis 50% Home-Office (mwd)

Vesterling Personalberatung für Technologie: Wir sind Pioniere im Technology Recruiting und vermitteln Informatiker und Ingenieure in Festanstellung. Wir sind für mehr als 2.500 Unternehmen tätig. Einmal bei uns bewerben, unzählige Job-Chancen erhalten. Unser Klient ist ein mittelständisches Beratungshaus, das seine Kunden aus der Finanzbranche dabei unterstützt, die vielfältigen Herausforderungen, die im täglichen Handelsgeschäft oder etwa durch gesetzliche Änderungen und Regulierungen entstehen, zu bewältigen. Als Senior Data Engineer erarbeiten Sie Lösungen im Banken- und Börsenumfeld. Sie migrieren dabei Legacy Mainframe-Systeme (COBOL, Flat Files) in moderne Cloud-Lakehouses. Standort: Frankfurt am Main Vertragsart: Unbefristete Festanstellung durch unseren Klienten Aufgaben Als Senior Data Engineer erarbeiten Sie Lösungen im Banken- und Börsenumfeld.

Sie migrieren dabei Legacy Mainframe-Systeme (COBOL, Flat Files) in moderne Cloud-Lakehouses.

Ihre Tätigkeit erbringen Sie im folgenden Umfeld: Compute & Processing Engine: Databricks, PySpark, Python (pandas, numpy, scipy, os, itertools, matplotlib etc.), Spark SQL, Delta Lake Data Lakehouse Storage: Delta Lake (ACID-Transaktionen, Time Travel, Schema Enforcement) Orchestrierung & Workflow: Apache Airflow, Databricks Workflows (DAGs, Scheduling, Alerts) API & Microservices: Python (FastAPI / Flask), OpenAPI / Swagger, Entwicklung von RESTful APIs Data Governance & Mesh: Databricks Unity Catalog, OpenAPI Data Contracts Legacy & File Ingestion: Mainframe EBCDIC, Fixed-Width-File-Parser (KI-gestützt), Kafka, SFTP Infrastructure as Code (IaC): Cloud-Technologien, MS Azure CI/CD & DevOps: GitHub Actions / Azure DevOps, Docker, Git Ihr Profil Sie haben mehrjährige Berufserfahrung im nachfolgenden Technologieumfeld: Databricks & PySpark: fundierte Kenntnisse in PySpark, Delta Lake,

Performance Tuning, Partitionierungsstrategien sowie Databricks Unity Catalog API-Entwicklung: ausgeprägte Python-Kenntnisse im Backend-Bereich (FastAPI, Flask, Requests, Pydantic, Containerisierung mit Docker) Orchestrierung: Erfahrung im Schreiben komplexer Apache-Airflow-DAGs und/oder vergleichbarer Workflow-Tools IT-Architektur: Kenntnisse der Medallion-Architektur, dezentraler Data-Mesh-Ansätze sowie allgemeiner Backend-Architekturen Sie haben gute Deutsch- und Englischkenntnisse Machen Sie Ihren nächsten Karriereschritt und bewerben Sie sich direkt hier. Ihre Daten werden von uns niemals ohne Ihre explizite Zustimmung für jeden Einzelfall weitergeleitet. Wir garantieren eine Rückmeldung innerhalb von 2 Arbeitstagen.