Nvidia lanceert AI-alliantie zonder OpenAI, Google en Anthropic

Nvidia heeft samen met 36 technologiebedrijven een nieuwe alliantie opgericht die open broncode voor AI-beveiliging moet stimuleren. Opvallend is dat OpenAI, Google en Anthropic ontbreken bij de oprichters.

Volgens Nvidia zijn open AI-modellen essentieel geworden nu cyberaanvallen steeds geavanceerder worden. Gesloten systemen kunnen bovendien onderzoekers belemmeren bij het reageren op incidenten.

Nvidia kiest voor open AI-beveiliging

De nieuwe samenwerking, Open Secure AI Alliance, brengt grote namen uit de technologiesector samen. Tot de deelnemers behoren onder meer Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI en de Linux Foundation.

De alliantie bouwt voort op bestaande open source-projecten van de Linux Foundation. Zij wil ontwikkelaars voorzien van vrij toegankelijke beveiligingstools voor AI-systemen. Volgens Nvidia moeten organisaties AI-modellen kunnen inspecteren, aanpassen en op hun eigen infrastructuur draaien. Daardoor kunnen zij snel reageren op cyberdreigingen.

OpenAI, Google en Anthropic maken geen deel uit van de samenwerking. Dat is opvallend, aangezien deze bedrijven tot de grootste ontwikkelaars van geavanceerde AI-modellen behoren. Nvidia noemt daar geen directe reden voor, maar benadrukt wel de voordelen van open modellen boven gesloten alternatieven.

Beveiligingsincident gaf de doorslag

De aanleiding voor de oprichting van de alliantie was een beveiligingsincident bij AI-platform Hugging Face, dat vorige week bekend werd. Tijdens een intern onderzoek bleek dat gesloten AI-modellen moeite hadden om onderscheid te maken tussen aanvallers en beveiligingsonderzoekers. Daardoor werd het forensisch onderzoek naar de aanval bemoeilijkt.

Hugging Face schakelde uiteindelijk over op een open AI-model van de Chinese ontwikkelaar Z.ai. Zo konden ze meer dan 17.000 acties analyseren en de aanval in kaart brengen.

Volgens Nvidia toont dit incident aan dat organisaties tijdens een cyberaanval volledige controle over hun AI-systemen nodig hebben. “Wanneer verdedigers geavanceerde AI niet zelf kunnen inspecteren, aanpassen en draaien op hun eigen infrastructuur, wordt hun vermogen om snel te reageren beperkt op het moment dat snelheid juist cruciaal is”, stelt het bedrijf.

Bedrijven brengen eigen AI-tools in

De deelnemers leveren ieder hun eigen technologie aan de alliantie. Nvidia heeft NOOA uitgebracht, een framework waarmee het gedrag van AI-agents eenvoudiger kan worden getest en gecontroleerd.

Microsoft draagt MDASH bij, een systeem waarin meerdere AI-agents samenwerken om kwetsbaarheden in software op te sporen. SpaceXAI heeft daarnaast zijn programmeerassistent Grok Build als open source beschikbaar gemaakt. Op termijn wil het bedrijf ook de modelgewichten van zijn Grok-modellen vrijgeven.

De oprichting van de Open Secure AI Alliance komt op een moment waarop cyberaanvallen wereldwijd toenemen. Vooral organisaties die afhankelijk zijn van AI en cloudinfrastructuur zoeken naar manieren om sneller en transparanter te reageren op steeds complexere digitale dreigingen.