evoila Germany GmbH
Senior Kubernetes Platform Engineer – Consultant (m/w/x)
Vollzeitmit HomeofficeSenior
Mainz
Neuer Job?Nejo!
Dein persönlicher KI-Karriere-Agent
EVevoila Germany GmbH
Senior AI Platform Engineer (m/w/x)
Vollzeitmit HomeofficeSenior
AI/ML
Data Science
Nejo KI-Zusammenfassung
Entwicklung und Betrieb von AI/ML-Plattformen auf Kubernetes für Kund:innen in On-Premises-, Hybrid- und Cloud-Umgebungen. Erfahrung mit Kubernetes, GPU-Scheduling und Python/Golang/Java erforderlich. Betriebliche Altersvorsorge und gezielte fachliche Weiterentwicklung.
Deine Match-Analyse
von deinem Karriere-Agenten
Warum dieser Job zu dir passt
Mögliche Lücken
Tipps für deine Bewerbung
Anforderungen
- Leidenschaft für Kubernetes, Plattform-Engineering und AI-Technologien
- Schaffung von Infrastruktur und Plattformen für innovative AI-Anwendungen
- Betrieb und Optimierung von Plattformen/Services in Kubernetes (On-Premise/Cloud)
- Architektur und Betrieb skalierbarer Lösungen mit Kubernetes (inkl. GPU-Workloads)
- Programmierkenntnisse in Python, Golang oder Java
- Erfahrung mit Model-Serving-Frameworks (vLLM, NVIDIA Triton, KServe)
- Erfahrung mit MLOps-Werkzeugen (MLflow, Kubeflow, ClearML)
- Erfahrung mit Infrastructure-as-Code (Ansible, Terraform)
- Erfahrung mit CI/CD- und GitOps-Werkzeugen (Argo CD, Flux)
- Sehr gute Kommunikationsfähigkeiten in Deutsch und Englisch
- Beratung von Kunden und Vermittlung technischer Themen
- 5 Jahre einschlägige Erfahrung im Plattform-Engineering
- Erfahrung mit Cloud-AI-Diensten (AWS SageMaker/Bedrock, Azure ML/OpenAI/AI Foundry)
- Integration von Cloud-AI-Diensten mit Kubernetes-Workloads
- Kenntnisse im Betrieb von LLM-basierten Architekturen (RAG, Vektordatenbanken, Embedding-Services)
- Kenntnisse in Agentic-AI-Ansätzen und Model Context Protocol (MCP)
- Verständnis von System-Level-Grundlagen des LLM-Servings (Rate Limiting, Token Streaming, Load Balancing)
- Verständnis von LLM-Konzepten (Reasoning, Tool Calling, Prompt Templates)
- Erfahrung mit neuen Serving-Bausteinen (llm-d, Kubernetes Inference Gateway)
- Kenntnisse in der Absicherung von AI-Plattformen (TLS, RBAC, Network Policies)
- Grundverständnis von AI-Governance (EU AI Act)
- Zertifizierungen im Bereich relevanter Technologien (CKA/CKAD, NVIDIA)
- Bereitschaft zu gelegentlichen Reisen im DACH-Raum
Aufgaben
- Moderne AI- und ML-Plattformen für Kund:innen entwickeln, betreiben und optimieren
- Hochverfügbare AI/ML-Plattformen und -Services planen, aufbauen und betreiben, insbesondere auf Basis von Kubernetes in On-Premises-, Hybrid- und Cloud-Umgebungen
- Skalierbare GPU-Infrastrukturen innerhalb von Kubernetes-Clustern designen und umsetzen, inklusive GPU-Scheduling und -Sharing mit Blick auf Auslastung und Kosteneffizienz
- Model-Serving- und Inferenz-Dienste für klassische ML-Modelle und Large Language Models aufbauen und betreiben
- MLOps-/LLMOps-Workflows für produktive GenAI-Services entwickeln und betreiben, inklusive Guardrails & Policies, Evaluierung, Regressionstests sowie Kosten- und Qualitätsmonitoring
- Fine-Tuning- und Re-Training-Workflows auf der Plattform bereitstellen
- AI-Plattformen monitoren, troubleshooten und Performance-Tunen, um höchste Performance und Verfügbarkeit sicherzustellen
- Kund:innen in Bezug auf Best Practices, AI-Governance, Datensicherheit und Datenschutz im Kontext von AI-Plattformen auf Kubernetes beraten
- Nahtlose Integration von AI-Lösungen mit Data-Science-, Data-Platform- und Entwicklungsteams sicherstellen
- AI-Plattformen end-to-end designen und technologische Grundsatzentscheidungen treffen
- Technische Führung in Kundenprojekten übernehmen und Kolleg:innen mentoren
Berufserfahrung
3 Jahre
Ausbildung
Abgeschlossene BerufsausbildungODER
Bachelor-AbschlussODER
Master-Abschluss
Sprachen
Deutsch – fließend
Englisch – fließend
Tools & Technologien
KubernetesvLLMNVIDIA TritonKServeMLflowKubeflowClearMLAnsibleTerraformArgo CDFluxAWS SageMakerAWS BedrockAzure MLAzure OpenAIAzure AI Foundryllm-dKubernetes Inference Gateway
Benefits
Betriebliche Altersvorsorge
- Betriebliche Altersvorsorge
Lockere Unternehmenskultur
- Teamorientierte Unternehmenskultur
Team Events & Ausflüge
- Regelmäßige Teamevents
Weiterbildungsangebote
- Gezielte fachliche Weiterentwicklung
Mitarbeiterrabatte
- Corporate Benefits Programm
Flexibles Arbeiten
- Flexible Arbeitszeiten
- Remote-Work-Möglichkeiten
Modernes Büro
- Moderner Arbeitsplatz mit zeitgemäßer Ausstattung
Von Nejo automatisch aufbereitet
Nejo hat diesen Job automatisch von der Website des Unternehmens evoila Germany GmbH erfasst und die Informationen auf Nejo mit Hilfe von KI für dich aufbereitet. Trotz sorgfältiger Analyse können einzelne Informationen unvollständig oder ungenau sein. Bitte prüfe immer alle Angaben in der Originalanzeige! Inhalte und Urheberrechte der Originalanzeige liegen beim ausschreibenden Unternehmen.
Zur Originalanzeige bei evoila Germany GmbHÜber das Unternehmen
EV
ITMainz
Das Unternehmen treibt Innovationen voran und gestaltet die Zukunft der IT-Branche durch präzise Planung und technisches Know-how mit.
Wie gut ist dein Lebenslauf?
Nejo bewertet ihn, und bringt ihn danach gemeinsam mit dir in Bestform.
Du hast noch keinen Lebenslauf?
Noch nicht perfekt?
- dtmsCloud Platform Engineer – Kubernetes / STACKIT / AI Platform Operations (m/w/x)Vollzeitmit HomeofficeKeine AngabeHamburg, Mainz
- ilume Informatik agAI Engineer (m/w/x)Vollzeitmit HomeofficeBerufserfahrenMainz
- Umweltgerechte Kraftanlagen UKA GroupPlatform Engineer (m/w/x)Vollzeitmit HomeofficeSeniorBerlin, Köln, Essen, Dresden, Hannover, Bielefeld, Kiel, Magdeburg, Halle (Saale), Mainz
- evoila Germany GmbHSenior Data Engineer (m/w/x)Vollzeitmit HomeofficeSeniorMainz