China hat ein großes KI-Modell gebaut, ohne Nvidia-Chips zu verwenden. Jetzt hat OpenAI Wege gefunden, mit deutlich weniger Nvidia-Chips zu arbeiten, sodass die Kosten für die Inferenz um mehr als die Hälfte gesenkt werden. Trotzdem ist der Kurs von Nvidia gestiegen.
Das ist das Rätsel. OpenAI gehört zu den größten Kunden von Nvidia (NVDA). Dennoch stieg der Kurs, obwohl OpenAI weniger Chips benötigt.
OpenAI senkt Inferenzkosten auf zwei Wegen
Die erste Art betrifft die Software. Das Magazin The Information berichtete, dass Ingenieure von OpenAI die Inferenzkosten durch neue Optimierungsmethoden um mehr als die Hälfte reduzieren konnten. OpenAI hat die technischen Details bisher nicht veröffentlicht.
Durch diese Einsparungen werden weniger Nvidia-Chips benötigt, um einen Teil des ChatGPT-Verkehrs zu bewältigen. OpenAI könnte dadurch auch die Preise senken oder die Nutzungsgrenzen erhöhen.
Der zweite Bereich ist die Hardware. Am 24. Juni haben OpenAI und Broadcom (AVGO) Jalapeño vorgestellt, den ersten eigenen Chip von OpenAI. Laut OpenAI zeigen erste Tests eine deutlich bessere Leistung pro Watt als aktuelle Spitzenchips, und das bei einer Entwicklungszeit von neun Monaten.
Die ersten Chips sollen bis Ende 2026 in großem Maßstab bereitgestellt werden, wobei Microsoft Hauptpartner ist. Dennoch laufen die meisten Inferenz-Prozesse bei OpenAI weiterhin über Nvidia, selbst wenn OpenAI die Zusammenarbeit mit Broadcom finanziert.
Große Tech-Unternehmen entwickeln eigene Chips
OpenAI ist damit nicht allein. Google baut seit 2016 eigene Tensor Processing Units, und auch Amazon hat eigene Chips entwickelt. Das Marktforschungsunternehmen TrendForce prognostiziert, dass auf ASICs basierende Systeme im Jahr 2026 einen Anteil von 27,8% an den Lieferungen von KI-Servern erreichen werden, so hoch wie seit 2023 nicht mehr.
Laut TrendForce werden individuelle Chips erstmals schneller wachsen als die GPUs von Nvidia. Zulieferer wie Broadcom und Marvell zählen zu den wichtigsten Herstellern für kundenspezifische Chips, die beim Ausbau eine große Rolle spielen.
Sanktionen fördern diesen Trend auch in China. Meituan hat sein 1,6-Billionen-Parameter-Modell LongCat-2.0 mit heimischen chinesischen Chips trainiert, ganz ohne Hardware von Nvidia.
Warum der Nvidia-Kurs weiter steigt
Die Bedrohung ist real, doch die Zahlen erklären die ruhige Lage. Der Kurs von Nvidia stieg am 30. Juni um fast 2% auf fast 4,8 Bio. USD. Die aktuellen Ergebnisse zeigen, dass der Umsatz im Bereich Rechenzentren um 75% auf ein Rekordniveau von 62,3 Milliarden USD pro Quartal gestiegen ist.
Der größte Druck liegt beim Bereich Inferenz, nicht beim Training. Nvidia dominiert weiterhin das Training von Modellen, weil die CUDA-Software von Nvidia Entwickler seit 2006 bindet. Individuelle Chips erreichen diese Flexibilität nur selten.
Nvidia verteidigt zudem die Inferenz-Schicht, die angeblich verloren geht. Bei der GTC-Konferenz gab Nvidia bekannt, dass die kommende Rubin-Plattform die Inferenzkosten pro Token um bis zu das Zehnfache gegenüber Blackwell senkt. Durch günstigere Inferenz steigen oft auch die Nutzung und der Rechenaufwand insgesamt.
Nicht alle sind davon überzeugt. Manche Investoren investieren in Konkurrenzunternehmen für Chips, weil sie annehmen, dass der Wandel bei der Inferenz stärkere Auswirkungen hat. Dennoch hat Nvidia die Prognose für dieses Quartal erstellt, ohne Verkäufe nach China einzurechnen, und erwartet weiterhin Rekordnachfrage.
Nvidia verkauft weiterhin jeden Chip, den das Unternehmen herstellen kann. Die entscheidende Frage ist, ob die größten Kunden von Nvidia das Unternehmen schneller ersetzen können, als der Markt wächst.
