De Indiase regering is van plan regels in te voeren tegen deepfake-dreiging

Op 23 november kondigde minister Ashwini Vaishnaw van Spoorwegen, Communicatie, Elektronica en Informatietechnologie aan dat India werkt aan regelgeving om toezicht te houden op deepfakes, een technologie die op realistische wijze met behulp van kunstmatige intelligentie gegenereerde video’s of audio-opnamen manipuleert. Deze aankondiging volgt op de bezorgdheid die premier Narendra Modi een dag eerder uitte over deze technologie.

Onder andere boetes worden overwogen

Volgens een rapport van Reuters heeft Vaishnaw tijdens besprekingen met academici, brancheverenigingen en sociale-mediabedrijven verklaard dat de Indiase regering van plan is om de regelgeving in de komende weken af te ronden. Deepfakes kunnen de gelijkenis en stem van een persoon in bestaande video- of audioclips manipuleren of vervangen, en Modi heeft tijdens een virtuele G20-top opgeroepen tot internationale samenwerking om AI te reguleren en zijn bezorgdheid geuit over de negatieve impact van deepfakes op de samenleving.

Vaishnaw merkte op dat bij het opstellen van de regelgeving boetes zullen worden overwogen voor zowel de persoon die de inhoud uploadt als het sociale-mediaplatform waarop deze wordt geplaatst. Deze stap komt op een moment dat landen wereldwijd worstelen om regelgeving vast te stellen voor het beheer van kunstmatige intelligentie.

AI-Systemen vormen risico

In oktober ondertekende de Amerikaanse president Joe Biden een uitvoerend bevel dat ontwikkelaars van AI-systemen die risico’s vormen voor de nationale veiligheid, economie, volksgezondheid of veiligheid, verplicht om de resultaten van veiligheidstests met de Amerikaanse overheid te delen voordat ze openbaar worden gemaakt.

Internationaal gezien hebben de Verenigde Naties een adviesorgaan met 39 leden opgericht om governance-uitdagingen op het gebied van AI aan te pakken, terwijl Europese wetgevers ontwerpregels hebben opgesteld die mogelijk volgende maand worden goedgekeurd. In november heeft de Canadian Security Intelligence Service zijn bezorgdheid geuit over desinformatiecampagnes op internet met behulp van AI-deepfakes.

In augustus kondigde de Chinese politie een nader onderzoek aan naar de Web3-sector, waarbij politiek commissaris Jinfeng Sun van het Network Security Bureau onthulde dat er 79 gevallen van fraude met deepfake AI waren geweest, zoals identiteitsnabootsing via digitale gezichtswisselingen, wat resulteerde in de arrestatie van 515 personen.