Zum Hauptinhalt springen

Dieses Projekt ist abgelaufen (seit 28.10.2026).

Die Ausschreibung ist nicht mehr aktuell. Unten findest du ähnliche aktive Projekte, oder du siehst dir alle aktuellen IT-Projekte an.

DevOps & CloudAbgelaufen

Head of AI Infrastructure

🏛 Ausgeschrieben von Lawrence Harvey
Festanstellung📍 United States💶 $250-350K + Bonus + Equity 🏢 0% vor Ort ⏳ 100% Auslastung 🎓 Expert 🏭 Energie✈️ Reisebereitschaft erforderlich 🌐 Englisch

Wir suchen einen erfahrenen Head of AI Infrastructure für ein innovatives Unternehmen im Bereich Energietechnologie und KI-Computing. Das Unternehmen entwickelt ein dezentrales KI-Compute-Netzwerk, das flüssiggekühlte GPU-Inferenz-Pods an verschiedenen Standorten bundesweit einsetzt – statt auf zentrale Rechenzentren zu setzen.

In dieser Rolle werden Sie die erste dedizierte Infrastruktur-Führungskraft und berichten direkt an den CTO. Sie verantworten die gesamte KI-Plattform von Anfang an: Compute, Memory, Netzwerk, Storage, Orchestrierung und Feldoperationen. Mit dem Wachstum der Flotte bauen Sie ein Infrastruktur-Team auf und führen es.

Ihre Aufgaben umfassen: - Inbetriebnahme, Burn-in und Produktionsbetrieb von GPU-Pods - Optimierung der Inferenz-Performance über alle Schichten hinweg - Sichere Rollouts von Treibern, Software-Updates und Modellen - Stromverbrauchsoptimierung und koordinierte Lastverteilung - Betrieb einer Multi-Tenant Bare-Metal Kubernetes GPU-Plattform mit 24/7 Incident Response - Technische Führung für Kunden und Roadmap-Definition - Aufbau und Leitung des Infrastruktur-Teams

Sie bringen mit: - 12+ Jahre Infrastruktur-Erfahrung mit hands-on Ownership von physischen Production-Systemen - Erfahrung bei Hyperscalern oder GPU-Cloud-Anbietern - Praktisches Wissen in KI-Inferenz (vLLM oder ähnliche Frameworks) - Tiefgehendes Verständnis in mindestens zwei Bereichen: Inference Serving, InfiniBand/RoCE, verteilte Storage, Bare-Metal Kubernetes - Erfahrung mit verteilten Multi-Site-Infrastrukturen - Starke Linux-Skills und Python/Go-Kenntnisse - Technische Führungserfahrung und Ambition zum Teamaufbau

Die Position ist remote mit Reiseanteil. Erforderlich: Arbeitserlaubnis in den USA oder Kanada.

Skills erklärt

Infrastructure
Aufbau und Verwaltung der technischen Grundstruktur von IT-Systemen, einschließlich Server, Netzwerke, Speicher und Rechenzentren.
GPU
Grafikprozessor, der parallel viele Berechnungen durchführt und für Machine Learning, Datenverarbeitung und grafische Anwendungen eingesetzt wird.
Kubernetes
Open-Source-Plattform zur automatisierten Verwaltung, Skalierung und Orchestrierung von containerisierten Anwendungen.
Linux
Freies Betriebssystem, das als Basis für Server, Desktops und eingebettete Systeme verwendet wird.
Python
Universelle Programmiersprache für Webentwicklung, Datenanalyse, Automatisierung und künstliche Intelligenz.
Go
Programmiersprache von Google für effiziente, parallele Systemprogrammierung; wird für Backend-Services, CLI-Tools und Cloud-Anwendungen verwendet.
vLLM
Open-Source-Framework zur effizienten Ausführung und Bereitstellung großer Sprachmodelle mit optimierter Speicher- und Rechennutzung.
Nvidia
Hersteller von Grafikprozessoren (GPUs) und Halbleitern, deren Hardware häufig für Grafik, Gaming und künstliche Intelligenz eingesetzt wird.
InfiniBand
Hochgeschwindigkeits-Netzwerktechnologie für Datenübertragung in Rechenzentren und High-Performance-Computing-Systemen.
RoCE
RDMA over Converged Ethernet; Netzwerkprotokoll fuer schnelle Datenuebertragung mit niedriger Latenz in Rechenzentren.
Distributed storage
Speichersystem, bei dem Daten auf mehrere physische Orte oder Server verteilt werden; erhöht Verfügbarkeit, Ausfallsicherheit und Skalierbarkeit.
Bare-metal Kubernetes
Kubernetes-Cluster, die direkt auf physischen Servern ohne Virtualisierungsschicht installiert werden; ermöglicht maximale Performance und Ressourcennutzung.
AI inference
Prozess, bei dem ein trainiertes KI-Modell auf neue Daten angewendet wird, um Vorhersagen oder Entscheidungen zu treffen, ohne dabei neu trainiert zu werden.
Model Serving
Bereitstellung von trainierten Machine-Learning-Modellen in Produktionsumgebungen; ermöglicht die praktische Nutzung von KI-Modellen in Anwendungen.
NCCL
Software-Bibliothek von Nvidia für schnelle Kommunikation zwischen Grafikprozessoren in verteilten Systemen.
KV-cache
Speichertechnik in Large Language Models, die bereits berechnete Schlüssel-Wert-Paare zwischenspeichert; beschleunigt die Verarbeitung von Eingabesequenzen.
Power Management
Verwaltung und Optimierung des Energieverbrauchs in IT-Systemen, Geräten oder Infrastrukturen zur Effizienzsteigerung.
Multi-tenant systems
Softwarearchitektur, bei der eine Anwendung mehrere unabhängige Kunden (Mandanten) mit getrennten Daten bedient; wird in Cloud-Services und SaaS-Lösungen verwendet.
Incident Response
Prozess zur schnellen Erkennung, Analyse und Behebung von Sicherheitsvorfällen und Störungen in IT-Systemen.
Technical Leadership
Technical Leadership ist die Fähigkeit, technische Teams zu leiten, technische Entscheidungen zu treffen und die technische Richtung eines Projekts oder einer Organisation zu prägen.

Als IT-Freelancer automatisch auf Projekte wie dieses bewerben

Nexus ist die KI-gestützte Plattform für IT-Freelancer, die täglich neue Projektausschreibungen analysiert und passgenaue Bewerbungstexte generiert – vollautomatisch, in Sekunden. Kein manuelles Schreiben mehr: Nexus liest die Ausschreibung, erkennt die gefragten Skills und erstellt einen individuellen Bewerbungstext, den du per Klick versendest.

  • ✓ Projektausschreibungen direkt von Anbietern aus dem DACH-Raum
  • ✓ KI-Bewerbungstext in unter 30 Sekunden – individuell auf jedes Projekt zugeschnitten
  • ✓ Automatischer Versand per E-Mail + Anlage in Pipedrive
  • ✓ Kostenlos starten – keine Kreditkarte erforderlich

Häufige Fragen zu Nexus

Was ist Nexus und für wen ist es geeignet?
Nexus richtet sich an selbstständige IT-Freelancer, die regelmäßig auf Projektausschreibungen antworten. Die Plattform automatisiert den gesamten Bewerbungsprozess – von der Analyse der Ausschreibung bis zum Versand der Bewerbung.
Wie schreibt Nexus den Bewerbungstext?
Nexus analysiert die Projektbeschreibung mit Claude (Anthropic) und gleicht die Anforderungen mit deinem hinterlegten Profil ab. Der generierte Text ist individuell, professionell und direkt versendbar – du kannst ihn vor dem Absenden noch anpassen.
Welche Projektplattformen werden unterstützt?
Nexus erhält Projekte direkt von Projektanbietern aus dem DACH-Raum – neue Ausschreibungen erscheinen automatisch in deiner Pipeline, ohne dass du Plattformen manuell durchsuchen musst.
Kostet Nexus etwas?
Der Einstieg ist dauerhaft kostenlos. Für professionelle Nutzung mit erweiterten Funktionen gibt es kostenpflichtige Pläne – ohne versteckte Kosten oder automatische Verlängerung.

Passende Freelancer

Profile die zu den Skills dieses Projekts passen

Alle Freelancer im Verzeichnis →

Nie wieder Bewerbungen schreiben.

Nexus matcht deine Skills und schreibt Bewerbungen automatisch.

Kostenlos registrieren →

Keine Kreditkarte erforderlich

Kostenloser CV-Check

Wie gut passt dein Kubernetes-Profil zum Markt?

  • ✓ Market Fit gegen 765 Kubernetes-Ausschreibungen
  • ✓ Welche Skills dir fehlen und was sie bringen
  • ✓ Dein Stundensatz im Vergleich
CV vor die Jury bringen →

Kostenlos · anonym gespeichert · von FreelancerJury

Marktgeschwindigkeit

⏳

Projekte dieser Skills werden nach durchschnittlich 9,6 Tagen geschlossen.

Stundensatz vs. Markt

Kein Stundensatz für dieses Projekt hinterlegt.

Ø 98 €/h (für diese Skills)

Untergrenze 15 €Median 86 €Top 10% 115 €

Tipp

Zeiterfassung & Projektverwaltung

Projekte, Stunden und Rechnungen in einer App. Flow ist die schlanke Lösung für IT-Freelancer und Agenturen – kostenlos starten.

Flow ausprobieren

Tipp

Konferenzraum in Hamburg

Für das nächste Kunden- oder Teammeeting in Hamburg: vollausgestattet mit Beamer, Whiteboard und Videokonferenz – ab 49 €/h, direkt am Gänsemarkt.

Konferenzraum mieten