(Senior) MLOps Engineer (w/m/d)

KPMG Karriere Deutschland
Berlin

Du möchtest Large Language Models in stabile Produktivsysteme überführen und moderne AI-Plattformen an der Schnittstelle von Modellen, Daten, Infrastruktur und Governance aufbauen? Dann bring Dich hier ein:

  • LLMOps & Lifecycle Management : Du konzipierst, entwickelst und betreibst End-to-End-LLM-Pipelines – von der Modellauswahl über Prompt- und Versionierungsstrategien bis hin zu Evaluierung, Monitoring und kontinuierlicher Optimierung.
  • Produktivsetzung von AI : Du überführst Prototypen in stabile, skalierbare Produktivsysteme und stellst Performance, Zuverlässigkeit, Wartbarkeit und reibungslose Betriebsprozesse sicher.
  • Modellintegration & Orchestrierung : Du integrierst moderne KI-Technologien wie Azure OpenAI, OpenAI, Agent Frameworks und weitere LLM-Services in produktive Business-Anwendungen und etablierst robuste Orchestrierungslogiken.
  • Agentic Skills & Skalierung : Du entwickelst und operationalisierst Agentic Skills für konkrete Business-Anwendungsfälle und schaffst die technischen Voraussetzungen, um diese nachhaltig im Unternehmen zu skalieren.
  • Evaluierung & Qualität : Du entwickelst Evaluierungs-, Benchmarking- und Guardrail-Ansätze, um LLM-basierte Anwendungen transparent, sicher, evaluierbar und qualitativ hochwertig zu machen.
  • Daten & Retrieval : Du entwickelst und integrierst RAG-Architekturen, Vektordatenbanken und Datenpipelines, um kontextbasierte Datenflüsse zuverlässig abzubilden und AI-Systeme fachlich wirksam zu machen.
  • Cloud & Betrieb : Du entwickelst, deployest und betreibst skalierbare AI-Lösungen auf Azure und bindest dabei APIs, Datenbanken, Observability-Tools und cloudbasierte Services nahtlos in die Gesamtarchitektur ein.
  • Security & Governance : Du sicherst hohe Standards in Bezug auf Datenschutz, Compliance, verantwortungsvollen KI-Einsatz und technische Governance über den gesamten Lebenszyklus der Systeme hinweg.
  • Zusammenarbeit & Agilität : Du arbeitest eng mit AI-Engineers, Data Engineers, Software-Entwicklern und Fachbereichen zusammen und bringst Dich aktiv in agile Entwicklungsprozesse, technische Konzeption und Enablement ein.

Dein Profil

  • Akademischer Hintergrund : Du hast ein Studium der Informatik, des Ingenieurwesens oder eines vergleichbaren Fachgebiets abgeschlossen. Ein Schwerpunkt auf KI, Softwareentwicklung, Daten oder Cloud-Technologien ist von Vorteil.
  • LLM- und KI-Verständnis : Du verfügst über fundierte praktische Erfahrung mit Large Language Models, Prompting, RAG-Architekturen und Evaluierungsansätzen und kannst dieses Wissen in produktive Anwendungen übertragen.
  • Technologische Kompetenz : Du bringst fundierte Erfahrung in der Backend- und Plattformentwicklung mit und arbeitest sicher mit APIs, Microservices sowie modernen Software-Engineering-Praktiken rund um produktive AI-Systeme.
  • Cloud-Erfahrung : Du hast Erfahrung mit Azure-basierten Entwicklungs- und Deployment-Umgebungen und bringst ein gutes Verständnis für moderne DevOps-, CI/CD- und Betriebsprozesse mit.
  • Datenverständnis : Du hast Erfahrung mit Datenpipelines, Embeddings, Vektordatenbanken und Retrieval-Konzepten und verstehst, wie Datenqualität die Leistungsfähigkeit von LLM-Anwendungen beeinflusst.
  • Tooling & Frameworks : Du bringst praktische Erfahrung mit LLM-Frameworks, Evaluierungs-Tooling und Observability-Lösungen mit und kennst gängige Muster zur Operationalisierung generativer KI.
  • Arbeitsweise und Kommunikation : Du arbeitest eigenständig, denkst analytisch und kommunizierst klar (Deutsch C1 und Englisch B2) mit fachlichen und technischen Stakeholdern, auch bei komplexen Anforderungen und in interdisziplinären Teams.

Deine Benefits

Die abgebildeten Leistungen können je nach Position und Standort leicht variieren.

Veröffentlicht am 2026-07-18

Empfohlene Jobs

Mitarbeiter (m/w/d) im Vertriebsinnendienst Sparte Krankenversicherung HPJB1_DE

H.B.C. Hanse Betreuungscenter GmbH
Berlin

Die H.B.C. Hanse Betreuungscenter GmbH ist spezialisiert auf die serviceorientierte Betreuung von Kunden und Vertriebspartnern im Versicherungsbereich. Als 100%ige Tochtergesellschaft der HanseMerkur …

Details Anzeigen
Veröffentlicht am 2026-02-21

Trainee Filialleiter/Shop Manager (m/w/d), Teilzeit/Vollzeit, Berlin

Tchibo GmbH
Berlin

  Wir bleiben anders. Du auch?  In unseren Shops sind wir ganz eng mit unseren Kundinnen und Kunden verbunden und sprechen direkt und persönlich mit ihnen. Wir schaffen durch unseren persönliche…

Details Anzeigen
Veröffentlicht am 2026-07-18

Marketing Manager (f/m/d)

GO2 Markets
Berlin

We’re looking for a Marketing Manager to join our Marketing team - someone who combines strong writing skills with hands-on campaign execution and a sharp sense for go-to-market strategy. GO2 Ma…

Details Anzeigen
Veröffentlicht am 2026-06-03

Systemadministrator m/w/d - Online-Shop - 43,22 Euro

PerZukunft Arbeitsvermittlung GmbH&Co.KG
Berlin

Aktuell ((suchen)) wir für unseren Kunden nach einem versierten Windows-Systemadministrator (m/w/d) in Vollzeit. Die Stelle ist in Berlin und ab sofort zu besetzen. Bewerben Sie sich am besten noc…

Details Anzeigen
Veröffentlicht am 2026-07-13

(Senior) Analyst, International Markets

Delivery Hero
Berlin

Job Description We are on the lookout for a (Senior) Analyst, In-house Consulting to join the International Markets team in Berlin on our journey to always deliver amazing experiences.  Be part …

Details Anzeigen
Veröffentlicht am 2026-07-18

Business Developpment Manager (m/w/d) - Kassensysteme SaaS (ID: LC7)

SalesPotentials
Berlin

Unser Partner ist ein international bekanntes Unternehmen, das cloudbasierte Point-of-Sale (POS)- und E-Commerce-Lösungen für verschiedene Branchen anbietet, insbesondere für Gastronomie, Einzelhan…

Details Anzeigen
Veröffentlicht am 2026-07-15

Initiativbewerbung (m/w/d) - Berlin

Medizintechnik Rostock GmbH
Berlin

Zuständigkeiten / Hauptaufgaben Egal in welchem Bereich Ihre Stärken liegen – wir finden gemeinsam heraus, wo Sie am besten zu uns passen. Bei uns zählt, was Sie können und wofür Sie brennen. Q…

Details Anzeigen
Veröffentlicht am 2026-06-30

Erzieher*in Erzieher*in als Gruppenleitung Pädagogische Fachkraft

Kindertagesstätte "Galileo"
Berlin

Sie bringen mit Wir wünschen uns: eine abgeschlossene Ausbildung als staatlich anerkannte*r Erzieher*in (oder gleichwertig), Freude an Teamarbeit, Mitgestaltung und offener Kommunikation, …

Details Anzeigen
Veröffentlicht am 2026-06-30

Berufskraftfahrer / Fahrer - Bäckerei / Konditorei (m/w/d)

PerZukunft Arbeitsvermittlung GmbH&Co.KG
Berlin

Ihre ([[private]]) und engagierte Arbeitsvermittlung, als Berufskraftfahrer m/w/d für den sicheren Transport von Bäckerei-Öfen. Diese fahren Sie von einer Produktionsstätte zu Berliner Kunden. Ihre T…

Details Anzeigen
Veröffentlicht am 2026-07-17