Google, Microsoft en xAI van Elon Musk laten de Amerikaanse overheid voortaan onder de motorkap kijken bij hun nieuwste AI-modellen. De drie techreuzen geven Washington vroegtijdig toegang tot hun krachtigste systemen, zodat overheidswetenschappers ze op nationale veiligheidsrisico’s kunnen testen voordat het publiek ermee aan de slag gaat.
Het Center for AI Standards and Innovation (CAISI), onderdeel van het Amerikaanse ministerie van Handel, maakte de afspraken gisteren bekend. De drie bedrijven leveren straks zogenoemde frontier-modellen aan, dat zijn de meest geavanceerde AI-systemen die nog niet op de markt zijn.
“Onafhankelijke, rigoureuze meetwetenschap is essentieel om frontier AI en de implicaties voor de nationale veiligheid te begrijpen,” zei CAISI-directeur Chris Fall.
“Deze uitgebreide samenwerkingen met de industrie helpen ons om ons werk in het publieke belang op te schalen op een cruciaal moment.”
De directe aanleiding ligt bij concurrent Anthropic. Vorige maand onthulde dat bedrijf dat zijn nieuwe Claude Mythos-model verrassend goed bleek in het opsporen van zwakke plekken in cyberbeveiliging.
Dat zette de alarmbellen in Washington op scherp. Mozilla wist met Mythos 271 kwetsbaarheden in zijn Firefox-browser op te sporen en dichten. Anthropic koos er daarom voor het model niet breed uit te brengen, maar alleen aan een select groepje partners te geven.
OpenAI en Anthropic werkten al langer vrijwillig samen met CAISI om hun ongereleasete modellen op kwetsbaarheden te laten testen. Het clubje wordt nu dus een stuk groter.
De focus ligt op concrete dreigingen. De wetenschappers richten zich op het risico dat geavanceerde modellen worden ingezet voor cyberaanvallen op Amerikaanse infrastructuur.
Ook willen ze voorkomen dat tegenstanders AI gebruiken voor de ontwikkeling van chemische of biologische wapens, of de data corrumperen waarmee Amerikaanse AI wordt getraind.
Ontwikkelaars leveren hun modellen vaak aan zonder de gebruikelijke veiligheidsfilters. Zo kan CAISI echt onder de motorkap kijken. Het centrum heeft inmiddels meer dan veertig evaluaties uitgevoerd.
Het is een opmerkelijke draai voor president Donald Trump, die juist altijd hamerde op zo min mogelijk regels voor de AI-sector. Op zijn eerste werkdag schrapte hij een decreet van voorganger Joe Biden uit 2023, dat ontwikkelaars verplichtte om veiligheidstesten met de overheid te delen voor publieke release.
Volgens The New York Times sprak het Witte Huis vorige week met topmannen van Anthropic, Google en OpenAI over een nieuw decreet. Daarin zou een werkgroep worden opgetuigd die geavanceerde modellen vooraf doorlicht. Met deze stap lijkt Trump zijn eigen ‘beautiful baby’ toch een setje teugels om te willen doen.
Nvidia bereikt een beurswaarde van 5,5 biljoen dollar terwijl AI-vraag explodeert en beleggers hopen op versoepeling richting China.
Het Internationaal Energieagentschap waarschuwt voor een zomerse sprong van de olieprijs door sterk dalende reserves.
Bitcoin daalt richting 80.000 dollar nadat Amerikaanse producentenprijzen veel harder stijgen dan verwacht en beleggers nerveus worden.
MSC laat zijn grote containerschepen de Straat van Hormuz mijden door in Jeddah te lossen. Vrachtwagens overbruggen vervolgens 1.300 kilometer over land.
Met 1.000 euro in ASML-aandelen een jaar geleden had je nu ongeveer 2.100 euro. Het aandeel verdubbelde door aanhoudende AI-vraag.
Eerst min 10 procent, nu in de plus: olieprijs reageert direct op WSJ-bericht dat Iran het Hormuz-voorstel afwijst.
