Google slaat alarm: hackers gebruiken AI om beveiliging te kraken

Cybercriminelen zetten kunstmatige intelligentie steeds vaker in voor geavanceerde digitale aanvallen. Volgens Google is nu voor het eerst vastgesteld dat hackers AI hebben gebruikt om zelfstandig een onbekende softwarekwetsbaarheid te ontdekken én actief te misbruiken.

Dat blijkt uit een nieuw rapport van Google’s Threat Intelligence Group. De onderzoekers ontdekten een grootschalige aanval waarbij criminelen misbruik maakten van een zogenoemde zero-day kwetsbaarheid in populaire open-source software voor systeembeheer. Via die kwetsbaarheid konden aanvallers tweefactorauthenticatie (2FA) omzeilen.

Google ziet duidelijke sporen van AI-gebruik

Volgens Google is er “grote zekerheid” dat de hackers gebruik maakten van een groot taalmodel (LLM), vergelijkbaar met systemen zoals ChatGPT of Claude.

Onderzoekers vonden in de gebruikte exploitcode meerdere aanwijzingen voor AI-gegenereerde output. Zo bevatte het script typische formattering van AI-modellen en zelfs een zogenoemde AI-hallucinatie, een fout die vaker voorkomt bij automatisch gegenereerde code.

Google benadrukt dat de kwetsbaarheid bijzonder moeilijk te ontdekken was. Het ging niet om een simpele programmeerfout, maar om een complexe logische fout diep in de software.

“Dit soort semantische fouten zijn precies de kwetsbaarheden waar moderne AI-systemen steeds beter in worden,” aldus Google.

Aanvallers konden 2FA-beveiliging omzeilen

Voor de aanval hadden hackers eerst geldige inloggegevens nodig. Daarna konden zij alsnog de tweede beveiligingslaag uitschakelen.

Tweefactorauthenticatie wordt wereldwijd gebruikt als extra beveiliging voor accounts, ook binnen de cryptosector. Veel cryptobeurzen en walletproviders vertrouwen op 2FA om gebruikers te beschermen tegen hacks en phishing.

Google maakte niet bekend welke software precies werd getroffen, maar spreekt wel van een georganiseerde aanval waarbij meerdere cybercriminelen betrokken waren.

China en Noord-Korea investeren volgens Google in AI-hacking

In het rapport noemt Google ook China en Noord-Korea als landen die volgens het bedrijf veel interesse tonen in AI-gestuurde cyberoperaties.

Daarnaast waarschuwt Google dat meerdere malwaregroepen inmiddels actief AI gebruiken om schadelijke software moeilijker detecteerbaar te maken. Malwarefamilies zoals PROMPTFLUX, HONESTCUE en CANFAIL zouden AI inzetten om automatisch extra code te genereren die beveiligingssoftware probeert te ontwijken.

AI verandert cybercriminaliteit fundamenteel

Volgens Google groeit ook het misbruik van premium AI-platformen snel. Cybercriminelen zouden geautomatiseerde systemen gebruiken om AI-accounts te delen, API-sleutels te stelen en beveiligingsmaatregelen van AI-diensten te omzeilen.

Daardoor krijgen hackers langdurige toegang tot krachtige AI-modellen waarmee aanvallen sneller, slimmer en op grotere schaal kunnen worden uitgevoerd.

Google concludeert dat het volledige AI-ecosysteem inmiddels een aantrekkelijk doelwit is geworden voor cybercriminelen. Vooral systemen die AI combineren met externe databronnen of autonome functies zouden extra kwetsbaar zijn.

Tegelijk benadrukt het bedrijf dat hackers er voorlopig nog niet in zijn geslaagd om de kernbeveiliging van geavanceerde AI-modellen volledig te doorbreken.