Indiase overheid vereist goedkeuring voor nieuwe AI-tools vóór lancering

De Indiase regering heeft een belangrijke stap gezet door technologiebedrijven die werken aan de ontwikkeling van nieuwe kunstmatige intelligentie (AI)-tools te adviseren dat deze tools eerst door de overheid goedgekeurd moeten worden alvorens ze publiekelijk beschikbaar gemaakt kunnen worden.

Dit advies, uitgebracht op 1 maart door het Ministerie van Informatietechnologie, richt zich specifiek op AI-tools die als “onbetrouwbaar” worden beschouwd of die nog in de testfase zijn. Dergelijke tools dienen duidelijk gemarkeerd te worden om aan te geven dat ze mogelijk inaccuraat kunnen zijn in het beantwoorden van vragen.

De tools vereisen diverse toestemming van overheid

Het ministerie benadrukt dat de beschikbaarheid van deze tools op het Indiase internet expliciete toestemming van de Indiase overheid vereist. Deze maatregel lijkt mede ingegeven door de noodzaak om de integriteit van het verkiezingsproces te waarborgen, met het oog op de algemene verkiezingen die later deze zomer plaatsvinden.

Deze nieuwe richtlijn volgt op een incident waarbij een topminister van India kritiek uitte op Google en zijn AI-tool Gemini, vanwege het leveren van ‘onnauwkeurige’ of bevooroordeelde antwoorden, inclusief een beschrijving van de Indiase premier Narendra Modi als een ‘fascist’ door sommigen. Google heeft zich hiervoor verontschuldigd, waarbij het aangaf dat de tool “niet altijd betrouwbaar” kan zijn, vooral bij hedendaagse sociale onderwerpen.

Onbetrouwbaarheid geeft geen vrijstelling van de wet

De viceminister van IT, Rajeev Chandrasekhar, benadrukte dat “veiligheid en vertrouwen wettelijke verplichtingen van een platform zijn” en dat een excuus van onbetrouwbaarheid geen vrijstelling van de wet betekent. Eerder had de Indiase regering aangekondigd nieuwe regelgeving te zullen introduceren om de verspreiding van door AI gegenereerde deepfakes te bestrijden, vooruitlopend op de verkiezingen.

Deze richtlijnen hebben kritiek ontvangen vanuit de technologiegemeenschap, die stelt dat India een voortrekkersrol speelt in de technologiewereld en dat het een vergissing zou zijn als het land zichzelf buiten deze leidende positie zou plaatsen. Chandrasekhar reageerde op deze kritiek door te stellen dat India zijn ambitie op het gebied van AI en een veilig en betrouwbaar internet voor zijn gebruikers niet opgeeft, maar juist omarmt.

Deze ontwikkelingen komen te midden van een samenwerking tussen Microsoft en de Indiase AI-startup Sarvam om een Indic-Voice Large Language Model naar Azure’s AI-infrastructuur te brengen, wat de toegankelijkheid voor meer gebruikers in het Indiase subcontinent zal vergroten.