Infrastructure Engineer für On-Premise KI-Plattform

Linux Server Administration Docker GPU-basierte KI-Plattformen Performance Monitoring KI-Inferenzumgebungen llama.cpp whisper.cpp LangGraph Qdrant Kapazitätsplanung Netzwerk-Administration

Contracting⏱ 6 Monate💶 VB 🏢 0% vor Ort 🌐 Deutsch

Wir suchen einen erfahrenen Infrastructure Engineer für den Aufbau und Betrieb einer vollständig On-Premise betriebenen KI-Plattform. In dieser Rolle sind Sie verantwortlich für den zuverlässigen Betrieb der KI-Infrastruktur, die Verwaltung des Inferenz-Stacks sowie die Kapazitätsplanung für GPU-basierte Workloads.

Ihre Aufgaben umfassen den eigenverantwortlichen Betrieb und die Überwachung der KI-Inferenzplattform einschließlich Model Orchestrator. Sie verwalten das dynamische Laden und Entladen von KI-Modellen unter Berücksichtigung von GPU- und VRAM-Ressourcen und optimieren kontinuierlich die GPU-Auslastung sowie die Systemperformance. Darüber hinaus planen und führen Sie Benchmark- und Lasttest-Szenarien durch und verwalten lokale KI-Modelle sowie die zugehörige Inferenzumgebung.

Sie betreiben und warten den KI-Technologie-Stack, administrieren Vektordatenbanken im Kontext von Retrieval-Augmented Generation und optimieren Queue-, Batch- und Scheduling-Prozesse zur effizienten Ressourcennutzung. Ein wichtiger Aspekt ist die Sicherstellung des On-Premise-Betriebsprinzips ohne Nutzung von Cloud-KI-Diensten.

Wir erwarten mehrjährige Erfahrung im Betrieb von Linux-Servern in produktiven Umgebungen, fundierte Kenntnisse mit Docker und containerisierten Anwendungen sowie praktische Erfahrung im Betrieb von GPU-basierten KI- oder Machine-Learning-Plattformen. Erfahrung im Performance-Monitoring, der Analyse von Ressourcenengpässen und der Administration von KI-Inferenzumgebungen sind erforderlich.

Diese freiberufliche Position ist remote möglich und startet zeitnah mit einer Laufzeit von sechs Monaten.

Jetzt bewerben →

Als IT-Freelancer automatisch auf Projekte wie dieses bewerben

Nexus ist die KI-gestützte Plattform für IT-Freelancer, die täglich neue Projektausschreibungen analysiert und passgenaue Bewerbungstexte generiert – vollautomatisch, in Sekunden. Kein manuelles Schreiben mehr: Nexus liest die Ausschreibung, erkennt die gefragten Skills und erstellt einen individuellen Bewerbungstext, den du per Klick versendest.

✓ Projektausschreibungen direkt von Anbietern aus dem DACH-Raum
✓ KI-Bewerbungstext in unter 30 Sekunden – individuell auf jedes Projekt zugeschnitten
✓ Automatischer Versand per E-Mail + Anlage in Pipedrive
✓ Kostenlos starten – keine Kreditkarte erforderlich

Jetzt kostenlos testen →Alle IT-Projekte ansehen

Häufige Fragen zu Nexus

Was ist Nexus und für wen ist es geeignet?: Nexus richtet sich an selbstständige IT-Freelancer, die regelmäßig auf Projektausschreibungen antworten. Die Plattform automatisiert den gesamten Bewerbungsprozess – von der Analyse der Ausschreibung bis zum Versand der Bewerbung.
Wie schreibt Nexus den Bewerbungstext?: Nexus analysiert die Projektbeschreibung mit Claude (Anthropic) und gleicht die Anforderungen mit deinem hinterlegten Profil ab. Der generierte Text ist individuell, professionell und direkt versendbar – du kannst ihn vor dem Absenden noch anpassen.
Welche Projektplattformen werden unterstützt?: Nexus erhält Projekte direkt von Projektanbietern aus dem DACH-Raum – neue Ausschreibungen erscheinen automatisch in deiner Pipeline, ohne dass du Plattformen manuell durchsuchen musst.
Kostet Nexus etwas?: Der Einstieg ist dauerhaft kostenlos. Für professionelle Nutzung mit erweiterten Funktionen gibt es kostenpflichtige Pläne – ohne versteckte Kosten oder automatische Verlängerung.

Passende Freelancer

Profile die zu den Skills dieses Projekts passen

Senior Backend Developer68 €/h
20+ Jahre Java, 15+ Jahre PHP, 10+ Jahre Frontend – Senior Fullstack-Entwickler mit umfassender Expertise in modernen Web- und Cloud-Technologien.
Backend Cloud AI Integration PHP
Senior AI Automation Engineer60 €/h
AI Automation Engineer mit Fokus auf agentische Workflows, LLM-Integration, Fullstack-Entwicklung und intelligente Prozessautomatisierung.
Claude Code LLM MCP Agentic AI
Enterprise Architect | AI Platform Strategist | Technology Consultant100 €/h
Enterprise Architect und AI Platform Strategist mit über 25 Jahren Erfahrung in der Entwicklung, Architektur und Skalierung komplexer Softwareplattformen sowie der Integration moderner AI-Technologien in Enterprise-Umgebungen.
Enterprise Architecture Solution Architecture Technical Leadership Large Language Models (LLMs)
Senior Software Developer
Java Python JavaScript TypeScript
Senior IT-Berater / Digitalisierungsexperte für Pensionsverwaltung
Java Spring Framework Oracle Database SQL Server

Alle Freelancer im Verzeichnis →

Nie wieder Bewerbungen schreiben.

Nexus matcht deine Skills und schreibt Bewerbungen automatisch.

Kostenlos registrieren →

Keine Kreditkarte erforderlich

Tipp

Zeiterfassung & Projektverwaltung

Projekte, Stunden und Rechnungen in einer App. Flow ist die schlanke Lösung für IT-Freelancer und Agenturen – kostenlos starten.

Flow ausprobieren

Infrastructure Engineer für On-Premise KI-Plattform

Als IT-Freelancer automatisch auf Projekte wie dieses bewerben

Häufige Fragen zu Nexus

Passende Freelancer

Ähnliche Projekte