OpenAI Bepleit Kernenergie-achtige Regelgeving voor het Beheersen van Superintelligentie

OpenAI pleit in een recente blogpost voor regulering van superintelligentie, vergelijkbaar met de regelgeving voor kernenergie, en stelt voor dat er een toezichthoudend agentschap zoals de International Atomic Energy Agency (IAEA) wordt opgericht. Ze benadrukken de noodzaak van AI-regulering, met name voor superintelligentie, en beschrijven de potentiële impact van snelle AI-ontwikkeling en de behoefte aan adequaat bestuur.

OpenAI’s voorstel voor regelgeving

Het initiële statement in de blogpost stelt dat kunstmatige intelligentie-systemen in de meeste domeinen de vaardigheden van experts zullen overtreffen en net zoveel productieve activiteiten zullen uitvoeren als grote bedrijven in onze tijd. Om deze reden is het essentieel om de risico’s van een existentiële dreiging te beperken op dezelfde manier als de maatregelen die zijn genomen voor kernenergie.

De auteurs van het artikel, Sam Altman, Greg Brockman en Ilya Sutskever, merkten op dat er uiteindelijk behoefte zou zijn aan een soort Internationaal Agentschap voor Atoomenergie (IAEA). Dit agentschap zou de inspanningen op het gebied van superintelligentie reguleren en zou wereldwijde samenwerking en coördinatie vereisen.

Daarnaast benadrukt de blogpost dat het van groot belang is om “bedrijven en open-source projecten in staat te stellen modellen te ontwikkelen die een aanzienlijke capaciteitsdrempel overschrijden, zonder het soort regulering dat normaal gesproken wordt opgelegd.”

OpenAI overweegt democratische beslissingen

OpenAI heeft een strategie ontwikkeld om de regulering van AI aan te moedigen door middel van collectieve besluitvorming, die vergelijkbaar is met de werkwijze van Wikipedia. Greg Brockman, de voorzitter van het bedrijf, heeft aangekondigd dat OpenAI methoden zal evalueren om input van verschillende partijen te verzamelen bij het nemen van beslissingen. Het doel hiervan is het creëren van een democratisch proces voor besluitvorming.

“We zitten niet alleen in Silicon Valley te denken dat we deze regels voor iedereen kunnen schrijven,” aldus Brockman. Hoewel er ongetwijfeld uitdagingen zullen zijn bij het opzetten van een dergelijk systeem, deelde Brockman dezelfde visie als Sam Altman wat betreft het belang van internationale samenwerking bij het reguleren van AI.

Reguleren van AI

De kwestie van hoe AI gereguleerd moet worden, is een onderwerp dat iedereen bezighoudt. Zelfs degenen die direct betrokken zijn bij AI-ontwikkeling pleiten voor regulering. Altman heeft de kans afgewezen om Amerika’s belangrijkste AI-regulator te worden. In plaats daarvan drong hij er tijdens een hoorzitting in het congres op aan dat de VS de verantwoordelijkheid voor regulering op zich zou nemen.

Het lijkt erop dat de Verenigde Staten een speciaal agentschap zullen oprichten om toezicht te houden op AI. Andere landen volgen dit voorbeeld, waarbij met name China zich sterk maakt voor het opleggen van verboden en beperkingen op het gebied van AI. Net zoals in het verleden is gebeurd met de cryptomarkt, kan de AI-industrie te maken krijgen met plotselinge en strenge regelgeving. Deze regelgeving zal zich voornamelijk richten op aspecten zoals privacy, het voorkomen van inmenging in verkiezingen en het vaststellen van wereldwijde normen.