(Senior) MLOps Engineer (w/m/d)

KPMG Karriere Deutschland
Berlin

Du möchtest Large Language Models in stabile Produktivsysteme überführen und moderne AI-Plattformen an der Schnittstelle von Modellen, Daten, Infrastruktur und Governance aufbauen? Dann bring Dich hier ein:

  • LLMOps & Lifecycle Management : Du konzipierst, entwickelst und betreibst End-to-End-LLM-Pipelines – von der Modellauswahl über Prompt- und Versionierungsstrategien bis hin zu Evaluierung, Monitoring und kontinuierlicher Optimierung.
  • Produktivsetzung von AI : Du überführst Prototypen in stabile, skalierbare Produktivsysteme und stellst Performance, Zuverlässigkeit, Wartbarkeit und reibungslose Betriebsprozesse sicher.
  • Modellintegration & Orchestrierung : Du integrierst moderne KI-Technologien wie Azure OpenAI, OpenAI, Agent Frameworks und weitere LLM-Services in produktive Business-Anwendungen und etablierst robuste Orchestrierungslogiken.
  • Agentic Skills & Skalierung : Du entwickelst und operationalisierst Agentic Skills für konkrete Business-Anwendungsfälle und schaffst die technischen Voraussetzungen, um diese nachhaltig im Unternehmen zu skalieren.
  • Evaluierung & Qualität : Du entwickelst Evaluierungs-, Benchmarking- und Guardrail-Ansätze, um LLM-basierte Anwendungen transparent, sicher, evaluierbar und qualitativ hochwertig zu machen.
  • Daten & Retrieval : Du entwickelst und integrierst RAG-Architekturen, Vektordatenbanken und Datenpipelines, um kontextbasierte Datenflüsse zuverlässig abzubilden und AI-Systeme fachlich wirksam zu machen.
  • Cloud & Betrieb : Du entwickelst, deployest und betreibst skalierbare AI-Lösungen auf Azure und bindest dabei APIs, Datenbanken, Observability-Tools und cloudbasierte Services nahtlos in die Gesamtarchitektur ein.
  • Security & Governance : Du sicherst hohe Standards in Bezug auf Datenschutz, Compliance, verantwortungsvollen KI-Einsatz und technische Governance über den gesamten Lebenszyklus der Systeme hinweg.
  • Zusammenarbeit & Agilität : Du arbeitest eng mit AI-Engineers, Data Engineers, Software-Entwicklern und Fachbereichen zusammen und bringst Dich aktiv in agile Entwicklungsprozesse, technische Konzeption und Enablement ein.

Dein Profil

  • Akademischer Hintergrund : Du hast ein Studium der Informatik, des Ingenieurwesens oder eines vergleichbaren Fachgebiets abgeschlossen. Ein Schwerpunkt auf KI, Softwareentwicklung, Daten oder Cloud-Technologien ist von Vorteil.
  • LLM- und KI-Verständnis : Du verfügst über fundierte praktische Erfahrung mit Large Language Models, Prompting, RAG-Architekturen und Evaluierungsansätzen und kannst dieses Wissen in produktive Anwendungen übertragen.
  • Technologische Kompetenz : Du bringst fundierte Erfahrung in der Backend- und Plattformentwicklung mit und arbeitest sicher mit APIs, Microservices sowie modernen Software-Engineering-Praktiken rund um produktive AI-Systeme.
  • Cloud-Erfahrung : Du hast Erfahrung mit Azure-basierten Entwicklungs- und Deployment-Umgebungen und bringst ein gutes Verständnis für moderne DevOps-, CI/CD- und Betriebsprozesse mit.
  • Datenverständnis : Du hast Erfahrung mit Datenpipelines, Embeddings, Vektordatenbanken und Retrieval-Konzepten und verstehst, wie Datenqualität die Leistungsfähigkeit von LLM-Anwendungen beeinflusst.
  • Tooling & Frameworks : Du bringst praktische Erfahrung mit LLM-Frameworks, Evaluierungs-Tooling und Observability-Lösungen mit und kennst gängige Muster zur Operationalisierung generativer KI.
  • Arbeitsweise und Kommunikation : Du arbeitest eigenständig, denkst analytisch und kommunizierst klar (Deutsch C1 und Englisch B2) mit fachlichen und technischen Stakeholdern, auch bei komplexen Anforderungen und in interdisziplinären Teams.

Deine Benefits

Die abgebildeten Leistungen können je nach Position und Standort leicht variieren.

Veröffentlicht am 2026-06-06

Empfohlene Jobs

Berufskraftfahrer Entsorgung m/w/d

PerZukunft Arbeitsvermittlung GmbH&Co.KG
Berlin

Ihre ((private)) und engagierte Arbeitsvermittlung suchen einen Berufskraftfahrer m/w/d für die tägliche Erledigung von Leergutentsorgung. Hierbei fahren Sie das Leergut von großen Getränkehändlern a…

Details Anzeigen
Veröffentlicht am 2026-06-09

Ergotherapeut (m/w/d) für den stationären Pflegebereich

Senioren- und Therapiezentrum Haus Havelblick GmbH
Berlin

„Wenn Sie etwas bewegen wollen – kommen Sie zu uns!“ Zur Verstärkung unseres Teams suchen wir Sie als Ergotherapeut/-in (m/w/d) für den stationären Pflegebereich – Voll- oder Teilzeit Das Haus…

Details Anzeigen
Veröffentlicht am 2026-06-03

⭐ Dozent*in (m/w/d) für digitalen Vertrieb | freiberuflich | remote ⭐

Sales Akademie
Berlin

Über uns Die ATR Sales Akademie ist ein AZAV‑zertifizierter Bildungsträger, der praxisorientierte Weiterbildungen im digitalen Vertrieb anbietet. Unsere Kurse unterstützen erwerbssuchende Teilnehme…

Details Anzeigen
Veröffentlicht am 2026-06-03

Verkäufer für Schreibwaren im Einzelhandel (m/w/d) BERLIN

PerZukunft Arbeitsvermittlung GmbH&Co.KG
Berlin

Für unseren Auftraggeber, ein etabliertes Einzelhandelsunternehmen im Bereich Schreibwaren und Bürobedarf, suchen wir engagierte Verkaufstalente (m/w/d) für verschiedene Standorte. Wenn Sie eine Leid…

Details Anzeigen
Veröffentlicht am 2026-05-29

Senior Partnerships Manager DACH (m/f/d)

Raisin
Berlin

Raisin is the world's leading platform for savings and investment products. Founded in 2012, the  FinTech connects consumers with banks in the EU, the UK and the US. This gives consumers better int…

Details Anzeigen
Veröffentlicht am 2026-06-12

Heilpädagoge (m/w/d)

BPG Personal Medizin & Pflege
Berlin

Anders. Besser. BPG! Willkommen bei BPG Berliner Personaldienstleistungsgesellschaft mbH Du bist Heilpädagoge (m/w/d) mit Herz, Empathie und Leidenschaft für die Arbeit mit Menschen? Dann bist d…

Details Anzeigen
Veröffentlicht am 2026-05-08

Kooperations-Arzt/Ärztin (m/w/d) mit eigener Praxis für telemedizinische & persönliche Behandlungen mit medizinischem Cannabis - ab sofort deutschlandweit

tetrapy GmbH
Berlin

Wir sind Teil einer internationalen Holding-Gesellschaft mit Unternehmen, die medizinisches Cannabis Patienten als alternative Behandlungsmethode zur Verfügung stellt. Eine unserer Gesellschaften ist…

Details Anzeigen
Veröffentlicht am 2026-06-12

Mechatroniker Prüffeld (m/w/d) für 25€/Std.

Trenkwalder Deutschland
Berlin

Mechatroniker Prüffeld (m/w/d) für 25€/Std. Für unseren weltweit bekannten Kunden, ein weltweit führendes Technologieunternehmen im Energiesektor mit Schwerpunkt auf innovativen und nachhaltigen L…

Details Anzeigen
Veröffentlicht am 2025-10-24

Industrieschlosser - Sicherer Job & moderne Technologien! (m/w/d)

DIEPA GmbH Filiale Berlin Südost
Berlin

Meine Benefits: Ein unbefristetes Arbeitsverhältnis in einem marktführenden Unternehmen Tagschicht (keine Schichten) Professionelle und hochwertige Arbeitskleidung  Wettbewerbsfähige Vergüt…

Details Anzeigen
Veröffentlicht am 2026-06-07

SAP Senior Consultant Treasury (w/m/d) - S/4HANA

UNIORG Gruppe
Berlin

SAP Senior Consultant Treasury (w/m/d) - S­­/­­4HANA 18.05.2026 UNIORG Gruppe Dortmund, Berlin Weitere passende Anzeigen: Jobmailer Ihre Merkliste / Mit Klick auf einen Stern in der Treffe…

Details Anzeigen
Veröffentlicht am 2026-05-18