Google, Microsoft en xAI van Elon Musk laten de Amerikaanse overheid voortaan onder de motorkap kijken bij hun nieuwste AI-modellen. De drie techreuzen geven Washington vroegtijdig toegang tot hun krachtigste systemen, zodat overheidswetenschappers ze op nationale veiligheidsrisico’s kunnen testen voordat het publiek ermee aan de slag gaat.
Het Center for AI Standards and Innovation (CAISI), onderdeel van het Amerikaanse ministerie van Handel, maakte de afspraken gisteren bekend. De drie bedrijven leveren straks zogenoemde frontier-modellen aan, dat zijn de meest geavanceerde AI-systemen die nog niet op de markt zijn.
“Onafhankelijke, rigoureuze meetwetenschap is essentieel om frontier AI en de implicaties voor de nationale veiligheid te begrijpen,” zei CAISI-directeur Chris Fall.
“Deze uitgebreide samenwerkingen met de industrie helpen ons om ons werk in het publieke belang op te schalen op een cruciaal moment.”
De directe aanleiding ligt bij concurrent Anthropic. Vorige maand onthulde dat bedrijf dat zijn nieuwe Claude Mythos-model verrassend goed bleek in het opsporen van zwakke plekken in cyberbeveiliging.
Dat zette de alarmbellen in Washington op scherp. Mozilla wist met Mythos 271 kwetsbaarheden in zijn Firefox-browser op te sporen en dichten. Anthropic koos er daarom voor het model niet breed uit te brengen, maar alleen aan een select groepje partners te geven.
OpenAI en Anthropic werkten al langer vrijwillig samen met CAISI om hun ongereleasete modellen op kwetsbaarheden te laten testen. Het clubje wordt nu dus een stuk groter.
De focus ligt op concrete dreigingen. De wetenschappers richten zich op het risico dat geavanceerde modellen worden ingezet voor cyberaanvallen op Amerikaanse infrastructuur.
Ook willen ze voorkomen dat tegenstanders AI gebruiken voor de ontwikkeling van chemische of biologische wapens, of de data corrumperen waarmee Amerikaanse AI wordt getraind.
Ontwikkelaars leveren hun modellen vaak aan zonder de gebruikelijke veiligheidsfilters. Zo kan CAISI echt onder de motorkap kijken. Het centrum heeft inmiddels meer dan veertig evaluaties uitgevoerd.
Het is een opmerkelijke draai voor president Donald Trump, die juist altijd hamerde op zo min mogelijk regels voor de AI-sector. Op zijn eerste werkdag schrapte hij een decreet van voorganger Joe Biden uit 2023, dat ontwikkelaars verplichtte om veiligheidstesten met de overheid te delen voor publieke release.
Volgens The New York Times sprak het Witte Huis vorige week met topmannen van Anthropic, Google en OpenAI over een nieuw decreet. Daarin zou een werkgroep worden opgetuigd die geavanceerde modellen vooraf doorlicht. Met deze stap lijkt Trump zijn eigen ‘beautiful baby’ toch een setje teugels om te willen doen.
GameStop wilde eBay overnemen, maar het bod werd afgewezen. Nu noemt CEO Ryan Cohen de leiding van eBay “een stel losers.”
Het hantavirus lijkt niet enorm gevaarlijk, maar kan in theorie wel de wereldeconomie raken op een ongunstig moment voor Bitcoin en aandelen.
Volgens deze econoom begint de Iran-oorlog de Amerikaanse economie steeds meer pijn te doen. Dit moet jij hierover weten.
Met 1.000 euro in ASML-aandelen een jaar geleden had je nu ongeveer 2.100 euro. Het aandeel verdubbelde door aanhoudende AI-vraag.
Eerst min 10 procent, nu in de plus: olieprijs reageert direct op WSJ-bericht dat Iran het Hormuz-voorstel afwijst.
Ontdek hoe verloren wallets, geheime Bitcoin-adressen en mysterieuze miljardairs de lijst van rijkste cryptobezitters ter wereld domineren.
