RAG DevOps Engineer (m/w/d)
Für ein GenAI-Team einer Schweizer Bank suchen wir einen erfahrenen DevOps/GenAI Engineer, der RAG-Lösungen von der technischen Konzeption über die Implementierung bis in den produktiven Betrieb begleitet.
Aufgaben: Sie entwickeln und optimieren produktive GenAI- und RAG-Lösungen und setzen neue AI Use Cases von der Konzeption bis zur Production um. Ihre Verantwortung umfasst Prompt- und Context-Engineering sowie die Evaluation und Optimierung von LLM-Lösungen. Sie bauen und betreiben APIs, Datenpipelines und CI/CD-Prozesse auf und nutzen dabei Python und Azure-Technologien. Ein weiterer Schwerpunkt liegt auf LLM-Tracing, Monitoring, LLMOps und kontinuierlicher Qualitätsoptimierung. Sie arbeiten eng mit Data Scientists, Cloud-/DevOps- und Business Engineers zusammen.
Anforderungen: Sie bringen mehrjährige praktische Erfahrung mit GenAI, LLM und RAG mit und haben bereits produktive RAG-Lösungen implementiert – nicht nur Proof-of-Concepts. Ihre Python-Kenntnisse sind sehr gut, und Sie verfügen über fundierte Erfahrung mit CI/CD und automatisierten Deployments. Erfahrung mit Azure Cloud ist erforderlich, idealerweise auch mit LangChain/LangFuse. Sie beherrschen Deutsch auf C2-Niveau und Englisch auf C1-Niveau.
Position: 100% Auslastung, Hybrid-Modell innerhalb der Schweiz, Standort Zürich und Region. Vertrag für 12 Monate mit Start im Oktober 2026.
Wir bieten eine anspruchsvolle Rolle in einem innovativen Umfeld mit modernen Technologien und der Möglichkeit, Ihr Fachwissen in einem führenden Finanzinstitut einzubringen.
Skills erklärt
- GenAI
- Künstliche Intelligenz, die in der Lage ist, neue Inhalte wie Texte, Bilder oder Code zu generieren, basierend auf trainierten Mustern.
- RAG
- Technik, bei der ein KI-Modell externe Datenquellen abfragt, um seine Antworten mit aktuellen oder spezifischen Informationen zu ergänzen.
- LLM
- Large Language Model – trainierte KI-Modelle mit Milliarden von Parametern zur Verarbeitung und Generierung von natürlicher Sprache.
- Python
- Universelle Programmiersprache für Webentwicklung, Datenanalyse, Automatisierung und künstliche Intelligenz.
- Azure
- Cloud-Computing-Plattform von Microsoft für Hosting, Datenverarbeitung, Speicherung und verschiedene IT-Services.
- Azure AI Search
- Cloud-Service von Microsoft zum Durchsuchen und Analysieren großer Datenmengen mit Hilfe von künstlicher Intelligenz und Machine Learning.
- Azure AI Foundry
- Microsoft-Plattform zur Entwicklung, Bereitstellung und Verwaltung von KI-Modellen und -Anwendungen in der Azure-Cloud.
- LangChain
- Framework zur Entwicklung von Anwendungen mit großen Sprachmodellen (LLMs), das die Integration und Verkettung verschiedener KI-Komponenten vereinfacht.
- LangFuse
- Open-Source-Tool zur Überwachung und Debugging von Large Language Model (LLM)-Anwendungen und deren Ausgaben.
- CI/CD
- Automatisierte Prozesse für kontinuierliche Integration von Code-Änderungen und kontinuierliche Bereitstellung von Software-Updates.
- API-Entwicklung
- Erstellung von Schnittstellen (Application Programming Interfaces), die es Anwendungen ermöglichen, miteinander zu kommunizieren und Daten auszutauschen.
- Datenpipelines
- Automatisierte Prozesse zur Erfassung, Verarbeitung, Transformation und Bereitstellung von Daten zwischen verschiedenen Systemen.
- Prompt Engineering
- Technik zur Formulierung präziser Eingabeaufforderungen für KI-Sprachmodelle; zielt darauf ab, bessere und relevantere Antworten zu erhalten.
- Context Engineering
- Methode zur Analyse und Gestaltung von Systemen unter Berücksichtigung ihres Einsatzkontextes, Umfelds und der Anforderungen der Nutzer.
- LLM-Tracing
- Technik zur Nachverfolgung und Überwachung von Anfragen und Antworten in Large Language Models; wird eingesetzt, um Transparenz und Debugging zu verbessern.
- Monitoring
- Kontinuierliche Überwachung von Systemen, Anwendungen oder Prozessen zur Erfassung von Leistungsdaten und Erkennung von Problemen.
- LLMOps
- Operationalisierung und Verwaltung von Large Language Models in Produktionsumgebungen, ähnlich wie DevOps für KI-Modelle.
Als IT-Freelancer automatisch auf Projekte wie dieses bewerben
Nexus ist die KI-gestützte Plattform für IT-Freelancer, die täglich neue Projektausschreibungen analysiert und passgenaue Bewerbungstexte generiert – vollautomatisch, in Sekunden. Kein manuelles Schreiben mehr: Nexus liest die Ausschreibung, erkennt die gefragten Skills und erstellt einen individuellen Bewerbungstext, den du per Klick versendest.
- ✓ Projektausschreibungen direkt von Anbietern aus dem DACH-Raum
- ✓ KI-Bewerbungstext in unter 30 Sekunden – individuell auf jedes Projekt zugeschnitten
- ✓ Automatischer Versand per E-Mail + Anlage in Pipedrive
- ✓ Kostenlos starten – keine Kreditkarte erforderlich
Häufige Fragen zu Nexus
- Was ist Nexus und für wen ist es geeignet?
- Nexus richtet sich an selbstständige IT-Freelancer, die regelmäßig auf Projektausschreibungen antworten. Die Plattform automatisiert den gesamten Bewerbungsprozess – von der Analyse der Ausschreibung bis zum Versand der Bewerbung.
- Wie schreibt Nexus den Bewerbungstext?
- Nexus analysiert die Projektbeschreibung mit Claude (Anthropic) und gleicht die Anforderungen mit deinem hinterlegten Profil ab. Der generierte Text ist individuell, professionell und direkt versendbar – du kannst ihn vor dem Absenden noch anpassen.
- Welche Projektplattformen werden unterstützt?
- Nexus erhält Projekte direkt von Projektanbietern aus dem DACH-Raum – neue Ausschreibungen erscheinen automatisch in deiner Pipeline, ohne dass du Plattformen manuell durchsuchen musst.
- Kostet Nexus etwas?
- Der Einstieg ist dauerhaft kostenlos. Für professionelle Nutzung mit erweiterten Funktionen gibt es kostenpflichtige Pläne – ohne versteckte Kosten oder automatische Verlängerung.
Passende Freelancer
Profile die zu den Skills dieses Projekts passen
Enterprise Architect und AI Platform Strategist mit über 25 Jahren Erfahrung in der Entwicklung, Architektur und Skalierung komplexer Softwareplattformen sowie der Integration moderner AI-Technologien in Enterprise-Umgebungen.
- Senior Backend Developer68 €/h
20+ Jahre Java, 15+ Jahre PHP, 10+ Jahre Frontend – Senior Fullstack-Entwickler mit umfassender Expertise in modernen Web- und Cloud-Technologien.
AI Automation Engineer mit Fokus auf agentische Workflows, LLM-Integration, Fullstack-Entwicklung und intelligente Prozessautomatisierung.
Spezialist für S/4HANA-Transformationen, operatives Controlling und Prozessoptimierung in der Industrie.
25 Jahre eCommerce-Erfahrung mit tiefem Verständnis für Online-Geschäftsprozesse
Nie wieder Bewerbungen schreiben.
Nexus matcht deine Skills und schreibt Bewerbungen automatisch.
Kostenlos registrieren →Keine Kreditkarte erforderlich
Kostenloser CV-Check
Wie gut passt dein RAG-Profil zum Markt?
- ✓ Market Fit gegen 69 RAG-Ausschreibungen
- ✓ Welche Skills dir fehlen und was sie bringen
- ✓ Dein Stundensatz im Vergleich
Kostenlos · anonym gespeichert · von FreelancerJury
Marktgeschwindigkeit
Projekte dieser Skills werden nach durchschnittlich 6,2 Tagen geschlossen.
Stundensatz vs. Markt
Kein Stundensatz für dieses Projekt hinterlegt.
Ø 105 €/h (für diese Skills)
Tipp
Zeiterfassung & Projektverwaltung
Projekte, Stunden und Rechnungen in einer App. Flow ist die schlanke Lösung für IT-Freelancer und Agenturen – kostenlos starten.
Flow ausprobierenÄhnliche Projekte
- Data- und Test-Engineer für KI-Systeme
- Information Retrieval Engineer (m/w/x)
- Data Scientist / Machine Learning Engineer (m/w/d)
- Copilot/AI Enablement Specialist mit Copilot-Studio/Low-Code (m/w/d)
- KI-Manager (m/w/d)
- Validation Consultant LLM/AI
- Consultant Data Analytics & ML/AI (m/w/d)
- AI und Data Architekt (m/w/d)
- Senior AI Engineer - Enterprise AI Solutions(abgelaufen)
- Senior GenAI Engineer (Ref. #26270)(abgelaufen)
Tipp
Konferenzraum in Hamburg
Für das nächste Kunden- oder Teammeeting in Hamburg: vollausgestattet mit Beamer, Whiteboard und Videokonferenz – ab 49 €/h, direkt am Gänsemarkt.
Konferenzraum mieten