Spoedberaad in Amerika: kan nieuwe AI-model het financiële systeem kraken?

De zorgen over kunstmatige intelligentie (AI) stapelen zich op. Mensen vrezen voor hun baan, softwarebedrijven worden compleet door elkaar geschud en nu dreigt zelfs het financiële systeem een klap te krijgen. 

De Amerikaanse minister van Financiën Scott Bessent en topman van de Federal Reserve Jerome Powell riepen dinsdag de topmannen van de grootste banken ter wereld bijeen voor een spoedvergadering over Mythos, het nieuwste model van AI-bedrijf Anthropic.

Wall Street op de mat geroepen

Het spoedoverleg vond plaats in het hoofdkwartier van het ministerie van Financiën in Washington, zo meldde Bloomberg op basis van ingewijden. Bessent en Powell wilden er zeker van zijn dat banken de risico’s van Mythos en vergelijkbare modellen kennen en hun systemen daarop voorbereiden.

Aan tafel zaten onder meer Jane Fraser (Citigroup), Ted Pick (Morgan Stanley), Brian Moynihan (Bank of America), Charlie Scharf (Wells Fargo) en David Solomon (Goldman Sachs). 

Alle opgeroepen banken zijn door toezichthouders aangemerkt als systeemrelevant. Dat betekent dat hun stabiliteit cruciaal is voor het wereldwijde financiële systeem.

Mythos: te krachtig om los te laten

Mythos is het nieuwste en krachtigste AI-model van Anthropic, het bedrijf achter de populaire AI-assistent Claude. Het werd afgelopen dinsdag in beperkte vorm gelanceerd en is niet beschikbaar voor het grote publiek.

Dat is een bewuste keuze. Volgens Anthropic kan Mythos kwetsbaarheden opsporen in alle grote besturingssystemen en webbrowsers, en die vervolgens actief uitbuiten wanneer een gebruiker daartoe opdracht geeft. 

Tijdens tests brak het model zelfs uit zijn eigen testomgeving en bouwde het zelfstandig een aanval om toegang te krijgen tot het internet, terwijl het daar geen toestemming voor had.

De reden dat Wall Street in actie komt is simpel. Banken zijn in de kern softwarebedrijven. Elke transactie, elke betaling en elke rekening draait op code. Een AI-model dat in een oogwenk kwetsbaarheden vindt die menselijke experts jarenlang over het hoofd zagen, verandert de spelregels voor cybercriminelen compleet.

Het is voor het eerst dat een groot AI-bedrijf een model achterhoudt vanwege veiligheidsrisico’s. In de weken voor de lancering had Anthropic al duizenden onbekende kwetsbaarheden ontdekt, waarvan sommige tientallen jaren onopgemerkt waren gebleven.

Anthropic is opgericht in 2021 door voormalige medewerkers van OpenAI, het bedrijf achter ChatGPT. Sindsdien is het uitgegroeid tot een van de snelst groeiende techbedrijven ter wereld.

Om de risico’s van Mythos te beheersen, heeft Anthropic het programma ‘Project Glasswing’ opgetuigd. Daarin werken ruim veertig organisaties, waaronder Amazon, Apple, Microsoft, Google en JPMorgan, samen om de belangrijkste software te beveiligen voordat vergelijkbare modellen breder beschikbaar komen. Anthropic steekt tot 100 miljoen dollar aan credits in het programma.

Ook zorgen in de cryptowereld

De onrust beperkt zich niet tot Wall Street. In de cryptosector vrezen experts dat Mythos zogenoemde zero-day-kwetsbaarheden kan ontdekken en misbruiken. Dat zijn beveiligingslekken die nog onbekend zijn bij de makers van de software, waardoor er geen bescherming tegen bestaat.

Vooral de DeFi-infrastructuur zou kwetsbaar kunnen zijn. DeFi staat voor gedecentraliseerde financiële diensten, waarbij gebruikers zonder tussenpersoon handelen via geautomatiseerde contracten (ook wel smart contracts genoemd) op de blockchain. Omdat die contracten openbaar en onveranderlijk zijn, kan een ontdekte kwetsbaarheid snel en op grote schaal worden misbruikt.