Nvidia komt met nieuwe AI-chip die de ontwikkelingskosten kan verlagen

Op 7 augustus onthulde Nvidia, een vooraanstaande ontwikkelaar van halfgeleiderchips wereldwijd, hun meest recente chip. Deze chip is speciaal ontworpen om geavanceerde kunstmatige intelligentie (AI)-systemen van krachtige prestaties te voorzien.

Nieuwe chip speciaal voor AI

Volgens het bedrijf is de opkomende GH200 Grace Hopper Superchip een van de pioniers met een ingebouwde HBM3e-processor. Deze superchip is specifiek ontwikkeld om te kunnen omgaan met ‘s werelds meest ingewikkelde generatieve AI-werklasten, waaronder omvangrijke taalmodellen, aanbevelingssystemen en vectordatabases.

De CEO van Nvidia, Jensen Huang, merkte in een keynote op dat het de processor een ‘boost’ geeft en dat:

Deze processor is ontworpen voor de scale-out van datacenters over de hele wereld.

Ontwikkeld voor inferentie

De meest recente chip van Nvidia is specifiek ontwikkeld voor inferentie, wat één van de essentiële aspecten vormt bij het omgaan met AI-modellen nadat ze zijn getraind. Inferentie omvat het gebruik van het model om inhoud te genereren, voorspellingen te maken en voortdurend actief te blijven.

Huang zei dat “vrijwel elk” groot taalmodel (LLM) door deze chip kan worden gehaald en dat het “als een gek zal concluderen”.

De inferentiekosten van grote taalmodellen zullen aanzienlijk dalen.

Beschikbaar vanaf 2e kwartaal 2024

Volgens Huang zal de GH200 naar verwachting beschikbaar zijn in het 2e kwartaal van 2024 en zou tegen eind 2023 beschikbaar moeten zijn voor bemonstering.

Deze ontwikkeling vindt plaats temidden van de uitdagingen voor de huidige marktdominantie van Nvidia, omdat rivaliserende bedrijven in een race zijn verwikkeld om de meest krachtige halfgeleiderchips te produceren.

Momenteel heeft Nvidia een marktaandeel van ruim 80% op het gebied van AI-chips en heeft het zelfs kortstondig een marktwaarde van 1 biljoen dollar bereikt.

Op 28 mei lanceerde Nvidia een nieuwe AI-supercomputer die ontwikkelaars in staat stelt om opvolgers te creëren in de stijl van ChatGPT. Hierbij worden naar verwachting grote technologiebedrijven zoals Microsoft, Meta en Alphabet van Google onder de eerste gebruikers gerekend.

Op 14 juni bracht Advanced Micro Devices (AMD) echter informatie naar buiten over hun aankomende AI-chip, die naar verwachting de capaciteiten en mogelijkheden heeft om de dominante positie van Nvidia uit te dagen. De AMD-chip wordt verwacht in het derde kwartaal van 2023 beschikbaar te komen.