Senior Runtime Engineer, AI Accelerator

Festanstellung📍 San Francisco Bay Area, California💶 $220,000 to $300,000 🏢 50% vor Ort ⏳ 100% Auslastung 🎓 Senior 🏭 IT/Software 🌐 Englisch

Wir suchen einen erfahrenen Senior Runtime Engineer für die Entwicklung der Software-Laufzeitumgebung eines Custom-ASIC-Systems für KI-Inferenz und Training. Das Unternehmen ist ein gut finanziertes Start-up, das spezialisierte Beschleuniger mit überlegener Performance pro Watt gegenüber Standard-GPUs entwickelt. Mit erstem Silicon in Produktion und rampenfahrenden Kundendeployments wird das Software-Team erweitert.

In dieser Rolle verantworten Sie die Software-Schicht zwischen ML-Frameworks und der Accelerator-Hardware. Sie entwickeln und optimieren die Runtime, die Modelle lädt, Speicher verwaltet und Arbeitslasten über mehrere Chips verteilt. Ihre Arbeit bestimmt direkt, wie viel der Silicon-Performance in realen Workloads ankommt.

Aufgaben: - Entwicklung und Ownership der Accelerator-Runtime in C++, einschließlich Memory Management, DMA, Streams und asynchronem Scheduling - Ermöglichung von Multi-Chip-Execution und Integration mit PyTorch, JAX und Serving-Stacks - Optimierung von End-to-End-Latenz und Durchsatz, Entwicklung von Profiling- und Debug-Tools - Zusammenarbeit mit Compiler-, Kernel- und Hardware-Teams bei Schnittstellen und Silicon-Bring-up - Mentoring von Engineers und technische Leitung des Runtime-Teams

Anforderungen: - 7+ Jahre Softwareentwicklung, davon 4+ Jahre mit GPU- oder Accelerator-Runtimes/Treibern - Expert-Level C++ (17+), starke Python- und Linux-Systemskenntnisse - Erfahrung mit CUDA, ROCm/HIP oder ähnlichen Technologien und Performance-Tuning - Verständnis von LLM-Execution, Operator-Dispatch und KV-Cache-Management - Erfahrung in technischer Leitung, Abschluss in Informatik oder verwandtem Bereich

Vorteilhaft: First-Silicon-Erfahrung, Linux-Kernel-Treiber, kollektive Kommunikation (NCCL, MPI), ML-Compiler oder GPU-Erfahrung.

Standort: San Francisco Bay Area, Kalifornien (vor Ort oder hybrid). Wettbewerbsfähiges Gehaltspaket, Equity-Optionen und umfassende Benefits.

Anforderungen

Rollenfamilie: Entwicklung
Berufserfahrung: mindestens 7 Jahre

Projekt

Vermittlung: Über Vermittler
Endkunde: Startup

Jetzt bewerben →

Skills erklärt

C: Programmiersprache für Systemprogrammierung und Anwendungsentwicklung, bekannt für Effizienz und Nähe zur Hardware.
Python: Universelle Programmiersprache für Webentwicklung, Datenanalyse, Automatisierung und künstliche Intelligenz.
Linux: Freies Betriebssystem, das als Basis für Server, Desktops und eingebettete Systeme verwendet wird.
CUDA: Programmierplattform von NVIDIA zur Nutzung von Grafikkarten (GPUs) für parallele Datenverarbeitung und wissenschaftliche Berechnungen.
PyTorch: Open-Source-Framework für Machine Learning und künstliche Intelligenz, das vor allem für Deep Learning und Datenverarbeitung verwendet wird.
Performance tuning: Optimierung von Systemen, Anwendungen oder Code, um Geschwindigkeit, Effizienz und Ressourcennutzung zu verbessern.
Technical Leadership: Technical Leadership ist die Fähigkeit, technische Teams zu leiten, technische Entscheidungen zu treffen und die technische Richtung eines Projekts oder einer Organisation zu prägen.

Als IT-Freelancer automatisch auf Projekte wie dieses bewerben

Nexus ist die KI-gestützte Plattform für IT-Freelancer, die täglich neue Projektausschreibungen analysiert und passgenaue Bewerbungstexte generiert – vollautomatisch, in Sekunden. Kein manuelles Schreiben mehr: Nexus liest die Ausschreibung, erkennt die gefragten Skills und erstellt einen individuellen Bewerbungstext, den du per Klick versendest.

✓ Projektausschreibungen direkt von Anbietern aus dem DACH-Raum
✓ KI-Bewerbungstext in unter 30 Sekunden – individuell auf jedes Projekt zugeschnitten
✓ Automatischer Versand per E-Mail + Anlage in Pipedrive
✓ Kostenlos starten – keine Kreditkarte erforderlich

Jetzt kostenlos testen →Alle IT-Projekte ansehen

Häufige Fragen zu Nexus

Was ist Nexus und für wen ist es geeignet?: Nexus richtet sich an selbstständige IT-Freelancer, die regelmäßig auf Projektausschreibungen antworten. Die Plattform automatisiert den gesamten Bewerbungsprozess – von der Analyse der Ausschreibung bis zum Versand der Bewerbung.
Wie schreibt Nexus den Bewerbungstext?: Nexus analysiert die Projektbeschreibung mit Claude (Anthropic) und gleicht die Anforderungen mit deinem hinterlegten Profil ab. Der generierte Text ist individuell, professionell und direkt versendbar – du kannst ihn vor dem Absenden noch anpassen.
Welche Projektplattformen werden unterstützt?: Nexus erhält Projekte direkt von Projektanbietern aus dem DACH-Raum – neue Ausschreibungen erscheinen automatisch in deiner Pipeline, ohne dass du Plattformen manuell durchsuchen musst.
Kostet Nexus etwas?: Der Einstieg ist dauerhaft kostenlos. Für professionelle Nutzung mit erweiterten Funktionen gibt es kostenpflichtige Pläne – ohne versteckte Kosten oder automatische Verlängerung.

Passende Freelancer

Profile die zu den Skills dieses Projekts passen

Enterprise Architect | AI Platform Strategist | Technology Consultant100 €/h
Enterprise Architect und AI Platform Strategist mit über 25 Jahren Erfahrung in der Entwicklung, Architektur und Skalierung komplexer Softwareplattformen sowie der Integration moderner AI-Technologien in Enterprise-Umgebungen.
Enterprise Architecture Solution Architecture Technical Leadership Large Language Models (LLMs)
Senior Backend Developer68 €/h
20+ Jahre Java, 15+ Jahre PHP, 10+ Jahre Frontend – Senior Fullstack-Entwickler mit umfassender Expertise in modernen Web- und Cloud-Technologien.
Backend Cloud AI Integration PHP
Senior AI Automation Engineer60 €/h
AI Automation Engineer mit Fokus auf agentische Workflows, LLM-Integration, Fullstack-Entwicklung und intelligente Prozessautomatisierung.
Claude Code LLM MCP Agentic AI
Senior Software Developer
Java Python JavaScript TypeScript
IT-Consultant / Full-Stack Developer
JavaScript Python Java React

Alle Freelancer im Verzeichnis →

Nie wieder Bewerbungen schreiben.

Nexus matcht deine Skills und schreibt Bewerbungen automatisch.

Kostenlos registrieren →

Keine Kreditkarte erforderlich

Kostenloser CV-Check

Wie gut passt dein C-Profil zum Markt?

✓ Market Fit gegen 76 C-Ausschreibungen
✓ Welche Skills dir fehlen und was sie bringen
✓ Dein Stundensatz im Vergleich

CV vor die Jury bringen →

Kostenlos · anonym gespeichert · von FreelancerJury

Marktgeschwindigkeit

⏳

Projekte dieser Skills werden nach durchschnittlich 4,8 Tagen geschlossen.

Stundensatz vs. Markt

Kein Stundensatz für dieses Projekt hinterlegt.

Ø 119 €/h (für diese Skills)

Untergrenze 21 €Median 88 €Top 10% 115 €

Tipp

Zeiterfassung & Projektverwaltung

Projekte, Stunden und Rechnungen in einer App. Flow ist die schlanke Lösung für IT-Freelancer und Agenturen – kostenlos starten.

Flow ausprobieren