Telecommunicatiebedrijf Lingo Telecom krijgt boete van $1 miljoen

Lingo Telecom, het in Texas gevestigde telecommunicatiebedrijf, is door de Amerikaanse Federal Communications Commission (FCC) beboet met een bedrag van $1 miljoen vanwege zijn rol in een illegale deepfake-zwendel waarbij president Joe Biden werd nagebootst.

In deze zwendel werd gebruik gemaakt van kunstmatige intelligentie om een nepstem van Biden te creëren, die vervolgens via robocalls werd verspreid om kiezers te ontmoedigen hun stem uit te brengen tijdens de voorverkiezingen in New Hampshire in januari.

Boete gaat verder dan alleen een strafmaatregel

Volgens de FCC gaat de boete verder dan alleen een strafmaatregel; het is ook een stap om telecommunicatiebedrijven verantwoordelijk te houden voor de inhoud die via hun netwerken wordt verspreid. Naast de financiële sanctie heeft de FCC Lingo Telecom opgedragen een ‘historisch nalevingsplan’ te implementeren. Dit plan omvat een strikte naleving van de authenticatieregels voor nummerherkenning, ontworpen om fraude en misleiding, zoals in dit geval, te voorkomen.

Lingo Telecom moet bovendien voldoen aan de principes “Ken uw klant” en “Ken uw upstream provider”, waarmee telefoonmaatschappijen beter in staat worden gesteld om telefoonverkeer effectief te monitoren en ervoor te zorgen dat alle oproepen op de juiste wijze worden geverifieerd.

Verstoren van voorverkiezingen in New Hampshire

De robocalls, die werden gecoördineerd door politiek adviseur Steve Kramer, waren onderdeel van een bredere poging om de voorverkiezingen in New Hampshire te verstoren. Met behulp van AI-technologie werd een overtuigende imitatie van Biden’s stem gecreëerd om kiezers te manipuleren en te intimideren, wat het democratische proces ondermijnde.

Kramer werd op 23 mei aangeklaagd voor zijn rol in deze robocalls. Hij werkte destijds voor de rivaliserende kandidaat Dean Phillips en werd beschuldigd van het zich voordoen als een deelnemende kandidaat tijdens de Democratische voorverkiezingen in New Hampshire.

Het gebruik van deepfake-technologie in deze zwendel is bijzonder verontrustend en markeert een nieuwe en zorgwekkende ontwikkeling in de strijd tegen desinformatie. Deepfakes, waarbij AI wordt ingezet om zeer realistische maar frauduleuze audio- of video-opnamen te creëren, vormen een ernstige bedreiging voor de integriteit van democratische processen.