JobCubby JobCubby
Sign up
PROSTAFF Schweiz GmbH

Senior Azure DevOps Engineer – GenAI / LLMOps

PROSTAFF Schweiz GmbH Zurich, Zurich, Switzerland

Staffing and Recruiting · 201-500 employees

6 d ago
devops Senior (5-10 yrs) Full-time Switzerland
Create a free account to apply — email only, no card. You can also save this posting or score it against your profile with AI.

Applying here? Try the free cover letter tool — paste this posting and your résumé, no account needed.

About the role

You will be responsible for building, operating, and scaling a company-wide Generative AI platform on Microsoft Azure. This includes managing infrastructure via automation, optimizing CI/CD pipelines for LLMOps, and ensuring robust monitoring and security for AI applications.

What they look for

Azure DevOps Generative AI LLMOps Terraform Kubernetes Azure OpenAI CI/CD Python Java Azure API Management Prometheus Grafana GitLab Docker Azure AI Foundry RAG

Requirements

The ideal candidate has several years of experience as a DevOps Engineer in an Azure cloud environment with deep knowledge of Azure services and infrastructure automation. Proficiency in Git, Docker, Terraform, and programming languages like Python or Java is required, with experience in GenAI or LLMOps being a significant advantage.

Full description

Für unseren Kunden aus dem Finanzdienstleistungsumfeld suchen wir einen erfahrenen Azure DevOps Engineer für den Aufbau, Betrieb und die Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform.

  • Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure
  • Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry
  • Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab
  • Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps)
  • Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor
  • Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse
  • Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen
  • Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform
  • Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails
  • Analyse und Behebung technischer Probleme im produktiven Betrieb
  • Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld
  • Fundierte Kenntnisse in Git, GitLab, Docker und Terraform
  • Tiefgehende Erfahrung mit Azure API Management, AKS, Azure Functions, Azure OpenAI, AI Search, Document Intelligence, Azure AI Foundry und Storage Accounts
  • Erfahrung mit Monitoring-, Logging- und Alerting-Lösungen wie Prometheus, Grafana oder Azure Monitor
  • Gute Kenntnisse von Infrastructure as Code und CI/CD-Automatisierung
  • Erfahrung mit GenAI, RAG, Agentic AI oder LLMOps (von Vorteil)
  • Kenntnisse von Azure Entra ID, RBAC und OAuth (von Vorteil)
  • Erfahrung mit Kubernetes, Helm und Langfuse (von Vorteil)
  • Programmierkenntnisse in Python und/oder Java (von Vorteil)
  • Erfahrung in der Konzeption und Abstimmung von Cloud-Architekturen mit Security-Teams (von Vorteil)
  • Deutsch C2 und Englisch C1 (von Vorteil)

Similar roles