Amerikaanse overheid gaat AI-modellen van Google, Microsoft en xAI testen

Google, Microsoft en xAI van Elon Musk laten de Amerikaanse overheid voortaan onder de motorkap kijken bij hun nieuwste AI-modellen. De drie techreuzen geven Washington vroegtijdig toegang tot hun krachtigste systemen, zodat overheidswetenschappers ze op nationale veiligheidsrisico’s kunnen testen voordat het publiek ermee aan de slag gaat.

Drie reuzen openen de deuren

Het Center for AI Standards and Innovation (CAISI), onderdeel van het Amerikaanse ministerie van Handel, maakte de afspraken gisteren bekend. De drie bedrijven leveren straks zogenoemde frontier-modellen aan, dat zijn de meest geavanceerde AI-systemen die nog niet op de markt zijn.

“Onafhankelijke, rigoureuze meetwetenschap is essentieel om frontier AI en de implicaties voor de nationale veiligheid te begrijpen,” zei CAISI-directeur Chris Fall.

“Deze uitgebreide samenwerkingen met de industrie helpen ons om ons werk in het publieke belang op te schalen op een cruciaal moment.”

De directe aanleiding ligt bij concurrent Anthropic. Vorige maand onthulde dat bedrijf dat zijn nieuwe Claude Mythos-model verrassend goed bleek in het opsporen van zwakke plekken in cyberbeveiliging.

Dat zette de alarmbellen in Washington op scherp. Mozilla wist met Mythos 271 kwetsbaarheden in zijn Firefox-browser op te sporen en dichten. Anthropic koos er daarom voor het model niet breed uit te brengen, maar alleen aan een select groepje partners te geven.

OpenAI en Anthropic werkten al langer vrijwillig samen met CAISI om hun ongereleasete modellen op kwetsbaarheden te laten testen. Het clubje wordt nu dus een stuk groter.

Wat zoeken de wetenschappers?

De focus ligt op concrete dreigingen. De wetenschappers richten zich op het risico dat geavanceerde modellen worden ingezet voor cyberaanvallen op Amerikaanse infrastructuur.

Ook willen ze voorkomen dat tegenstanders AI gebruiken voor de ontwikkeling van chemische of biologische wapens, of de data corrumperen waarmee Amerikaanse AI wordt getraind.

Ontwikkelaars leveren hun modellen vaak aan zonder de gebruikelijke veiligheidsfilters. Zo kan CAISI echt onder de motorkap kijken. Het centrum heeft inmiddels meer dan veertig evaluaties uitgevoerd.

Trump draait 180 graden

Het is een opmerkelijke draai voor president Donald Trump, die juist altijd hamerde op zo min mogelijk regels voor de AI-sector. Op zijn eerste werkdag schrapte hij een decreet van voorganger Joe Biden uit 2023, dat ontwikkelaars verplichtte om veiligheidstesten met de overheid te delen voor publieke release.

Volgens The New York Times sprak het Witte Huis vorige week met topmannen van Anthropic, Google en OpenAI over een nieuw decreet. Daarin zou een werkgroep worden opgetuigd die geavanceerde modellen vooraf doorlicht. Met deze stap lijkt Trump zijn eigen ‘beautiful baby’ toch een setje teugels om te willen doen.