OpenAI verrast met eigen chip die Nvidia verslaat in tests

OpenAI zet een grote stap om minder afhankelijk te worden van Nvidia. Het bedrijf achter ChatGPT heeft een eigen AI-chip ontwikkeld die tijdens tests op twee belangrijke onderdelen beter presteerde dan Nvidia’s GB300.

De nieuwe chip heet Jalapeno en moet later dit jaar daadwerkelijk worden ingezet voor de AI-modellen van OpenAI. Vooral het energieverbruik en de snelheid vallen op. Daarmee hoopt het bedrijf de enorme kosten van zijn AI-infrastructuur flink terug te brengen.

OpenAI-chip verslaat Nvidia GB300 in tests

Jalapeno werd getest op twee onderdelen die belangrijk zijn bij het draaien van AI-modellen. Daarbij werd gekeken hoeveel AI-werk de chip per hoeveelheid energie kan verwerken en hoe snel gebruikers een antwoord krijgen.

Volgens OpenAI-chipchef Richard Ho presteerde Jalapeno op beide onderdelen beter dan Nvidia’s GB300, die binnen het gebruikte openbare benchmarksysteem de leidende optie was.

Dat is vooral interessant omdat chips normaal gesproken compromissen kennen. Sommige processors kunnen enorme hoeveelheden opdrachten tegelijk verwerken, terwijl andere juist zijn geoptimaliseerd om individuele antwoorden zo snel mogelijk te leveren.

Volgens Ho kan Jalapeno beide.

“In het lab laat Jalapeno sterke prestaties zien bij zowel hoge verwerkingscapaciteit als lage vertraging”, zegt Ho. Daardoor kan OpenAI volgens hem meer gebruikers goedkoper bedienen, terwijl antwoorden tegelijkertijd snel worden gegenereerd.

De chip draait bovendien op ongeveer 700 watt. Energie is een van de grootste kostenposten voor AI-datacenters, waardoor een efficiëntere chip OpenAI veel geld kan besparen.

Nvidia blijft voorlopig onmisbaar

Er zit wel een belangrijke kanttekening aan de vergelijking. Jalapeno werd niet getest tegen Nvidia’s nieuwste generatie Vera Rubin-chips, die inmiddels worden geleverd.

Ook is Jalapeno niet bedoeld voor het trainen van AI-modellen. De chip richt zich op inference. Dat is het moment waarop een reeds getraind model daadwerkelijk vragen van gebruikers beantwoordt en taken uitvoert.

Juist op dat gebied wil OpenAI een groter deel van zijn infrastructuur zelf verzorgen. Als Jalapeno op grote schaal geproduceerd kan worden en de verwachte kostenbesparingen daadwerkelijk oplevert, wil het bedrijf steeds meer AI-taken naar zijn eigen chips verplaatsen.

Dat betekent niet dat OpenAI afscheid neemt van Nvidia. “Nvidia is een zeer goede partner en we blijven veel Nvidia nodig hebben”, benadrukt Ho.

OpenAI werkt al aan volgende chips

OpenAI ontwikkelde Jalapeno samen met chipbedrijf Broadcom. Opvallend is de snelheid waarmee het project tot stand kwam. De bedrijven maakten hun samenwerking vorig jaar bekend en zeggen de eerste chip in recordtijd te hebben ontwikkeld.

Daar blijft het niet bij. De tweede generatie Jalapeno is al vergevorderd en moet binnen enkele maanden een belangrijke laatste ontwerpfase bereiken. Ondertussen werkt OpenAI al aan de eerste concepten voor een derde generatie.

OpenAI gebruikte zijn eigen AI-modellen om het ontwikkelingsproces te versnellen. Tijdens openbare tests draaide Jalapeno onder meer modellen van DeepSeek en Moonshot AI. Bij het grotere Kimi-model van Moonshot werden de voordelen volgens OpenAI zelfs duidelijker.

Dat is belangrijk voor de toekomst. Naarmate AI-modellen groter en zwaarder worden, denkt OpenAI dat zijn eigen chipontwerp juist meer voordeel kan opleveren.

Voor Nvidia ontstaat daarmee een nieuwe vorm van concurrentie. OpenAI blijft voorlopig een grote klant, maar probeert tegelijkertijd een steeds groter deel van de technologie waarop zijn eigen AI-producten draaien zelf in handen te krijgen.