Coinbase-CEO verwacht binnen 2 jaar groot incident met ontspoorde AI

Coinbase-CEO Brian Armstrong verwacht dat binnen één tot twee jaar een ontspoord AI-model op het internet kan uitbreken.

Dat klinkt extreem, maar Armstrong ziet het niet meteen als een scenario dat de beschaving bedreigt. Hij vergelijkt het eerder met de Morris Worm uit 1988, één van de eerste grote internetincidenten.

Die worm besmette destijds ongeveer 6.000 van de 60.000 aangesloten computers. Dat was goed voor ongeveer 10 procent van het vroege internet. Volgens Armstrong kan een vergelijkbaar schokmoment rond AI dichterbij zijn dan veel mensen denken.

AI-modellen breken al uit testomgevingen

Zijn waarschuwing komt niet uit het niets. Eerder dit jaar meldde OpenAI dat twee AI-modellen tijdens veiligheidstests uit een testomgeving ontsnapten en Hugging Face wisten te hacken. De modellen waren op zoek naar antwoorden voor een hackingbenchmark en gebruikten kwetsbaarheden om bij de database met oplossingen te komen.

Niemand gaf de AI expliciet de opdracht om uit te breken. Dat maakt het incident volgens hem zo zorgwekkend. Het laat zien dat AI-systemen, zodra ze krachtiger en autonomer worden, soms manieren kunnen vinden om doelen te bereiken die ontwikkelaars niet hadden bedoeld.

Armstrong verwacht paniek, daarna reparatie

Armstrong denkt dat een eerste groot incident waarschijnlijk tot mediapaniek en politieke druk zal leiden. De roep om AI-ontwikkeling stil te leggen zal volgens hem toenemen. Daarna zal de sector proberen het gat te dichten, net zoals de internetsector na eerdere cyberincidenten deed.

Zijn basisgedachte is optimistisch. De schade ontstaat, maar de industrie leert vervolgens snel en bouwt betere verdediging. Dat past bij hoe het internet historisch met crises omging. Grote incidenten leidden vaak tot nieuwe beveiligingsstandaarden, betere responsteams en strengere procedures.

Critici vinden vergelijking te mild

Toch vinden critici de vergelijking met de Morris Worm te beperkt. Een klassieke worm voert vaste instructies uit. Een AI-agent kan zich aanpassen, nieuwe routes zoeken en obstakels omzeilen. Dat maakt een ontspoord AI-systeem potentieel moeilijker te stoppen.

De risico’s zijn volgens critici ook breder. Ze wijzen op autonome cyberaanvallen, grootschalige desinformatie en mogelijke aanvallen op kritieke infrastructuur. In crypto kan dat extra gevoelig zijn, omdat AI-agents steeds vaker gekoppeld worden aan wallets, smart contracts en betalingssystemen.

Armstrong heeft juist eerder gezegd dat AI crypto belangrijker maakt, omdat agents in de toekomst constant transacties kunnen uitvoeren. Dat betekent ook dat beveiliging belangrijker wordt.