Dieses Projekt ist abgelaufen (seit 28.10.2026).
Die Ausschreibung ist nicht mehr aktuell. Unten findest du ähnliche aktive Projekte, oder du siehst dir alle aktuellen IT-Projekte an.
Head of AI Infrastructure
🏛 Ausgeschrieben von Lawrence HarveyWir suchen einen erfahrenen Head of AI Infrastructure für ein innovatives Unternehmen im Bereich Energietechnologie und KI-Computing. Das Unternehmen entwickelt ein dezentrales KI-Compute-Netzwerk, das flüssiggekühlte GPU-Inferenz-Pods an verschiedenen Standorten bundesweit einsetzt – statt auf zentrale Rechenzentren zu setzen.
In dieser Rolle werden Sie die erste dedizierte Infrastruktur-Führungskraft und berichten direkt an den CTO. Sie verantworten die gesamte KI-Plattform von Anfang an: Compute, Memory, Netzwerk, Storage, Orchestrierung und Feldoperationen. Mit dem Wachstum der Flotte bauen Sie ein Infrastruktur-Team auf und führen es.
Ihre Aufgaben umfassen: - Inbetriebnahme, Burn-in und Produktionsbetrieb von GPU-Pods - Optimierung der Inferenz-Performance über alle Schichten hinweg - Sichere Rollouts von Treibern, Software-Updates und Modellen - Stromverbrauchsoptimierung und koordinierte Lastverteilung - Betrieb einer Multi-Tenant Bare-Metal Kubernetes GPU-Plattform mit 24/7 Incident Response - Technische Führung für Kunden und Roadmap-Definition - Aufbau und Leitung des Infrastruktur-Teams
Sie bringen mit: - 12+ Jahre Infrastruktur-Erfahrung mit hands-on Ownership von physischen Production-Systemen - Erfahrung bei Hyperscalern oder GPU-Cloud-Anbietern - Praktisches Wissen in KI-Inferenz (vLLM oder ähnliche Frameworks) - Tiefgehendes Verständnis in mindestens zwei Bereichen: Inference Serving, InfiniBand/RoCE, verteilte Storage, Bare-Metal Kubernetes - Erfahrung mit verteilten Multi-Site-Infrastrukturen - Starke Linux-Skills und Python/Go-Kenntnisse - Technische Führungserfahrung und Ambition zum Teamaufbau
Die Position ist remote mit Reiseanteil. Erforderlich: Arbeitserlaubnis in den USA oder Kanada.
Skills erklärt
- Infrastructure
- Aufbau und Verwaltung der technischen Grundstruktur von IT-Systemen, einschließlich Server, Netzwerke, Speicher und Rechenzentren.
- GPU
- Grafikprozessor, der parallel viele Berechnungen durchführt und für Machine Learning, Datenverarbeitung und grafische Anwendungen eingesetzt wird.
- Kubernetes
- Open-Source-Plattform zur automatisierten Verwaltung, Skalierung und Orchestrierung von containerisierten Anwendungen.
- Linux
- Freies Betriebssystem, das als Basis für Server, Desktops und eingebettete Systeme verwendet wird.
- Python
- Universelle Programmiersprache für Webentwicklung, Datenanalyse, Automatisierung und künstliche Intelligenz.
- Go
- Programmiersprache von Google für effiziente, parallele Systemprogrammierung; wird für Backend-Services, CLI-Tools und Cloud-Anwendungen verwendet.
- vLLM
- Open-Source-Framework zur effizienten Ausführung und Bereitstellung großer Sprachmodelle mit optimierter Speicher- und Rechennutzung.
- Nvidia
- Hersteller von Grafikprozessoren (GPUs) und Halbleitern, deren Hardware häufig für Grafik, Gaming und künstliche Intelligenz eingesetzt wird.
- InfiniBand
- Hochgeschwindigkeits-Netzwerktechnologie für Datenübertragung in Rechenzentren und High-Performance-Computing-Systemen.
- RoCE
- RDMA over Converged Ethernet; Netzwerkprotokoll fuer schnelle Datenuebertragung mit niedriger Latenz in Rechenzentren.
- Distributed storage
- Speichersystem, bei dem Daten auf mehrere physische Orte oder Server verteilt werden; erhöht Verfügbarkeit, Ausfallsicherheit und Skalierbarkeit.
- Bare-metal Kubernetes
- Kubernetes-Cluster, die direkt auf physischen Servern ohne Virtualisierungsschicht installiert werden; ermöglicht maximale Performance und Ressourcennutzung.
- AI inference
- Prozess, bei dem ein trainiertes KI-Modell auf neue Daten angewendet wird, um Vorhersagen oder Entscheidungen zu treffen, ohne dabei neu trainiert zu werden.
- Model Serving
- Bereitstellung von trainierten Machine-Learning-Modellen in Produktionsumgebungen; ermöglicht die praktische Nutzung von KI-Modellen in Anwendungen.
- NCCL
- Software-Bibliothek von Nvidia für schnelle Kommunikation zwischen Grafikprozessoren in verteilten Systemen.
- KV-cache
- Speichertechnik in Large Language Models, die bereits berechnete Schlüssel-Wert-Paare zwischenspeichert; beschleunigt die Verarbeitung von Eingabesequenzen.
- Power Management
- Verwaltung und Optimierung des Energieverbrauchs in IT-Systemen, Geräten oder Infrastrukturen zur Effizienzsteigerung.
- Multi-tenant systems
- Softwarearchitektur, bei der eine Anwendung mehrere unabhängige Kunden (Mandanten) mit getrennten Daten bedient; wird in Cloud-Services und SaaS-Lösungen verwendet.
- Incident Response
- Prozess zur schnellen Erkennung, Analyse und Behebung von Sicherheitsvorfällen und Störungen in IT-Systemen.
- Technical Leadership
- Technical Leadership ist die Fähigkeit, technische Teams zu leiten, technische Entscheidungen zu treffen und die technische Richtung eines Projekts oder einer Organisation zu prägen.
Als IT-Freelancer automatisch auf Projekte wie dieses bewerben
Nexus ist die KI-gestützte Plattform für IT-Freelancer, die täglich neue Projektausschreibungen analysiert und passgenaue Bewerbungstexte generiert – vollautomatisch, in Sekunden. Kein manuelles Schreiben mehr: Nexus liest die Ausschreibung, erkennt die gefragten Skills und erstellt einen individuellen Bewerbungstext, den du per Klick versendest.
- ✓ Projektausschreibungen direkt von Anbietern aus dem DACH-Raum
- ✓ KI-Bewerbungstext in unter 30 Sekunden – individuell auf jedes Projekt zugeschnitten
- ✓ Automatischer Versand per E-Mail + Anlage in Pipedrive
- ✓ Kostenlos starten – keine Kreditkarte erforderlich
Häufige Fragen zu Nexus
- Was ist Nexus und für wen ist es geeignet?
- Nexus richtet sich an selbstständige IT-Freelancer, die regelmäßig auf Projektausschreibungen antworten. Die Plattform automatisiert den gesamten Bewerbungsprozess – von der Analyse der Ausschreibung bis zum Versand der Bewerbung.
- Wie schreibt Nexus den Bewerbungstext?
- Nexus analysiert die Projektbeschreibung mit Claude (Anthropic) und gleicht die Anforderungen mit deinem hinterlegten Profil ab. Der generierte Text ist individuell, professionell und direkt versendbar – du kannst ihn vor dem Absenden noch anpassen.
- Welche Projektplattformen werden unterstützt?
- Nexus erhält Projekte direkt von Projektanbietern aus dem DACH-Raum – neue Ausschreibungen erscheinen automatisch in deiner Pipeline, ohne dass du Plattformen manuell durchsuchen musst.
- Kostet Nexus etwas?
- Der Einstieg ist dauerhaft kostenlos. Für professionelle Nutzung mit erweiterten Funktionen gibt es kostenpflichtige Pläne – ohne versteckte Kosten oder automatische Verlängerung.
Passende Freelancer
Profile die zu den Skills dieses Projekts passen
Enterprise Architect und AI Platform Strategist mit über 25 Jahren Erfahrung in der Entwicklung, Architektur und Skalierung komplexer Softwareplattformen sowie der Integration moderner AI-Technologien in Enterprise-Umgebungen.
- Senior Backend Developer68 €/h
20+ Jahre Java, 15+ Jahre PHP, 10+ Jahre Frontend – Senior Fullstack-Entwickler mit umfassender Expertise in modernen Web- und Cloud-Technologien.
AI Automation Engineer mit Fokus auf agentische Workflows, LLM-Integration, Fullstack-Entwicklung und intelligente Prozessautomatisierung.
Nie wieder Bewerbungen schreiben.
Nexus matcht deine Skills und schreibt Bewerbungen automatisch.
Kostenlos registrieren →Keine Kreditkarte erforderlich
Kostenloser CV-Check
Wie gut passt dein Kubernetes-Profil zum Markt?
- ✓ Market Fit gegen 765 Kubernetes-Ausschreibungen
- ✓ Welche Skills dir fehlen und was sie bringen
- ✓ Dein Stundensatz im Vergleich
Kostenlos · anonym gespeichert · von FreelancerJury
Marktgeschwindigkeit
Projekte dieser Skills werden nach durchschnittlich 9,6 Tagen geschlossen.
Stundensatz vs. Markt
Kein Stundensatz für dieses Projekt hinterlegt.
Ø 98 €/h (für diese Skills)
Tipp
Zeiterfassung & Projektverwaltung
Projekte, Stunden und Rechnungen in einer App. Flow ist die schlanke Lösung für IT-Freelancer und Agenturen – kostenlos starten.
Flow ausprobierenÄhnliche aktive Projekte
- DevOps Engineer (AWS, Linux, Jenkins) (m/w/d)
- DevOps Engineer (HP Nonstop, Compile Umgebungen) (m/w/d)
- Senior Cloud Platform Engineer (m/w/d)
- DevOps Engineer (m/w/d)
- AWS DevOps Engineer (m/w/d) - 90% REMOTE
- Cloud Platform Engineer (Azure, Kubernetes & Terraform) - 60% Remote, Namur/Brussels
- DevOps Backend Entwickler:in (Spring Boot, Java, OpenAPI) (m/w/d)
- DevOps Entwickler (m/w/d)
Tipp
Konferenzraum in Hamburg
Für das nächste Kunden- oder Teammeeting in Hamburg: vollausgestattet mit Beamer, Whiteboard und Videokonferenz – ab 49 €/h, direkt am Gänsemarkt.
Konferenzraum mieten