Man aangeklaagd voor maken van nep-Biden Robocalls met AI

Een Democratische politieke adviseur is aangeklaagd voor zijn rol in het lanceren van door kunstmatige intelligentie gegenereerde robocalls die de stem van de Amerikaanse president Joe Biden imiteren.

Aanklacht tegen Steven Kramer

Volgens het kantoor van de procureur-generaal van New Hampshire werd Steven Kramer, een politieke adviseur uit New Orleans, op 23 mei aangeklaagd wegens het imiteren van een kandidaat tijdens de Democratische voorverkiezing in New Hampshire.

Hij gebruikte naar verluidt AI om duizenden robocalls te genereren en te versturen naar inwoners van New Hampshire, waarbij hij de stem van president Biden imiteerde en mensen vroeg niet te stemmen.

De vervalste oproepen vroegen mensen om hun stem “te bewaren voor de verkiezing in november” en voegden eraan toe: “Je stem maakt een verschil in november, niet deze dinsdag.”

Procureur-generaal John Formella heeft 13 aanklachten wegens kiezersonderdrukking en 13 aanklachten wegens misleiding ingediend tegen de 54-jarige Kramer.

De Federal Communications Commission (FCC) stelde een boete van $6 miljoen voor aan Kramer, met de verklaring dat de deepfake robocalls de regels voor beller-ID schonden.

Het telefoonbedrijf dat de oproepen heeft doorgestuurd, Lingo Telecom, krijgt nu een voorgestelde boete van $2 miljoen van de FCC voor “het onjuist labelen van [de oproepen] met het hoogste niveau van beller-ID bevestiging, waardoor het voor andere providers moeilijker werd om de oproepen als mogelijk vervalst te detecteren.”

“Ik hoop dat onze handhavingsacties een sterk afschrikwekkend signaal afgeven aan iedereen die overweegt verkiezingen te verstoren, of dat nu met kunstmatige intelligentie gebeurt of op een andere manier,” zei procureur-generaal Formella.

Kramer verdedigt zijn acties als burgerlijke ongehoorzaamheid

Kramer verdedigde zijn acties volgens een NBC-nieuwsrapport in februari. Hierin beweerde hij dat hij de nep-robocalls vanaf het begin had gepland als een daad van burgerlijke ongehoorzaamheid om aandacht te vestigen op de gevaren van AI in de politiek.

“Dit is een manier voor mij om een verschil te maken, en dat heb ik gedaan,” zei hij in het interview destijds, en voegde eraan toe: “Voor $500 kreeg ik ongeveer $5 miljoen aan actie, of dat nu media-aandacht of regelgevende actie was.”

Er zijn groeiende zorgen over de mogelijkheid dat AI-gegenereerde inhoud kiezers misleidt voorafgaand aan de verkiezingen van 2024.

De Biden-campagne zei dat ze zich heeft voorbereid op bedreigingen zoals kwaadaardige AI-gegenereerde deepfakes en heeft “een interdepartementaal team samengesteld om zich voor te bereiden op de mogelijke effecten van AI bij deze verkiezing,” volgens Reuters.

In februari beloofden twintig van de grootste AI-technologiebedrijven om te voorkomen dat hun software invloed heeft op verkiezingen.