AI-deepfakes worden steeds beter in het vervalsen KYC-verificatie

De Chief Security Officer van Binance heeft gewaarschuwd dat de Deepfake-technologie die wordt benut door cryptofraudeurs om de ‘Know Your Customer’ (KYC)-verificatie op crypto-exchanges zoals Binance te omzeilen, steeds geavanceerder zal worden.

Steeds meer oplichters maken gebruik van Deepfake-technologie

Deepfake-technologie maakt gebruik van kunstmatige intelligentie en machine learning-tools om overtuigende audio, beelden en video’s te creëren die sterk lijken op een bepaald individu. Hoewel deze technologie legitieme toepassingen heeft, kan deze ook worden misbruikt voor frauduleuze en misleidende doeleinden.

Volgens Jimmy Su, de Chief Security Officer van Binance, is er een toenemend aantal oplichters dat gebruikmaakt van deepfake-technologie om de klantverificatieprocessen van de beurs te omzeilen.

“Hackers zoeken online naar een gewone foto van het slachtoffer, waarna ze met behulp van deepfake-tools video’s kunnen produceren om het verificatieproces te omzeilen”, aldus Su. Hij benadrukte ook dat deze tools zo geavanceerd zijn geworden dat ze zelfs in realtime correct kunnen reageren op audio-instructies die zijn ontworpen om te controleren of de aanvrager een mens is.

“Een deel van de verificatie vereist dat de gebruiker bijvoorbeeld met zijn linkeroog knippert of naar links of rechts kijkt, omhoog of omlaag kijkt. De deepfakes zijn tegenwoordig zo geavanceerd dat ze die commando’s daadwerkelijk kunnen uitvoeren”, legde hij verder uit.

Vervalste video’s nog niet altijd op top niveau

Su is echter van mening dat de vervalste video’s nog niet op het niveau zijn waarop ze een menselijke operator kunnen misleiden. “Als we naar die video’s kijken, zijn er bepaalde aspecten die we met het blote oog kunnen detecteren”, zoals wanneer de gebruiker zijn hoofd opzij moet draaien, merkte Su op.

“Alhoewel AI na verloop van tijd dit probleem kan overwinnen, is het niet iets waar we altijd op kunnen vertrouwen.”
In augustus 2022 heeft Patrick Hillmann, Chief Communications Officer van Binance, gewaarschuwd dat een “geavanceerd hackteam” zijn eerdere nieuwsinterviews en tv-optredens heeft gebruikt om een “deepfake”-versie van hem te creëren.

De deepfake-versie van Hillmann werd vervolgens ingezet om Zoom-vergaderingen te houden met verschillende crypto-projectteams, waarbij het beloofde om hun activa op Binance te noteren – uiteraard tegen betaling.

“Dat is een zeer uitdagend probleem om aan te pakken”, merkte Su op toen hem werd gevraagd hoe dergelijke aanvallen kunnen worden bestreden. Hier voegde hij het volgende aan toe: “Zelfs als we onze eigen video’s kunnen beheren, zijn er video’s die niet van ons zijn. Dus een van de aspecten is gebruikerseducatie.”

Binance is van plan om een reeks blogposts uit te brengen om gebruikers te informeren over risicobeheer. In een vroegere versie van de blogpost, waarin een sectie over cyberbeveiliging wordt behandeld, verklaarde Binance dat het AI en machine learning-algoritmen gebruikt voor interne doeleinden, zoals het detecteren van ongebruikelijke inlogpatronen, transactiepatronen en andere “abnormale activiteiten op het platform”.