OpenAI kondigt de oprichting van een nieuw team aan

OpenAI heeft de intentie kenbaar gemaakt om een team samen te stellen dat zich zal toeleggen op het beheren van de potentiële risico’s die gepaard gaan met de opkomst van een superintelligent AI-systeem, waarvan wordt verwacht dat het binnen het komende decennium zal worden gerealiseerd.

OpenAI vormt team voor AI-risicobeheer

Het bedrijf verantwoordelijk voor de bekende kunstmatige intelligentie (AI) chatbot ChatGPT kondigt aan dat het een team zal samenstellen om de risico’s van superintelligente AI-systemen te beperken en te beheren.

In een officiële aankondiging op 5 juli op hun blog verklaart OpenAI dat zij een nieuw team zullen oprichten met als doel het sturen en beheersen van AI-systemen die aanzienlijk slimmer zijn dan de mens.

De non-profitorganisatie gelooft dat superintelligentie “de meest invloedrijke technologie zal zijn die de mensheid ooit heeft ontwikkeld” en dat het de potentie heeft om vele problemen op te lossen, maar erkent ook de aanwezige risico’s.

“De immense kracht van superintelligentie kan ook zeer gevaarlijk zijn en kan leiden tot de ontwrichting of zelfs uitroeiing van de mensheid.”

Het bedrijf benadrukt dat zij geloven dat superintelligentie mogelijk dit decennium al werkelijkheid kan worden.

OpenAI heeft aangekondigd dat zij 20% van hun huidige beveiligde rekenkracht zal toewijden aan deze inspanning en streeft naar de ontwikkeling van een geautomatiseerd uitlijningssysteem op “menselijk niveau”. Dit geautomatiseerde systeem zou theoretisch gezien het team kunnen ondersteunen bij het beheer en afstemmen van de veiligheid van superintelligentie op “menselijke intenties”.

Dr. Ilya Sutskever, hoofdwetenschapper bij OpenAI, en Jan Leike, hoofd van het onderzoekslab voor uitlijning, zijn aangesteld als co-leiders van deze inspanning. OpenAI heeft een open oproep gedaan aan onderzoekers en ingenieurs op het gebied van machine learning om zich bij dit team aan te sluiten.

Regulering van AI-systemen wereldwijd in overweging genomen

OpenAI kondigt deze maatregelen aan op een moment waarop regeringen wereldwijd overwegen om de ontwikkeling, implementatie en het gebruik van AI-systemen te reguleren. Hoewel de Europese Unie de meeste voortgang heeft geboekt op het gebied van AI-regulering, heeft het aannemen van de EU AI Act op 14 juni, waarin wordt bepaald dat tools zoals ChatGPT verplicht zijn om alle door AI gegenereerde content openbaar te maken, al tot verontwaardiging geleid onder AI-ontwikkelaars vanwege de mogelijke impact op innovatie.

In een poging om de potentiële negatieve effecten van overdreven regulering aan te pakken, heeft Sam Altman, CEO van OpenAI, in mei een bezoek gebracht aan Brussel om met regelgevers van de Europese Unie te praten. Tegelijkertijd hebben wetgevers in de Verenigde Staten de National AI Commission Act geïntroduceerd, die tot doel heeft een orgaan op te richten dat zal beslissen over de nationale benadering van AI. Ook Amerikaanse regelgevers hebben hun wens geuit om de technologie te reguleren.

Op 30 juni stuurde senator Michael Bennet een brief naar grote technologiebedrijven, waaronder OpenAI, waarin hij hen aanspoorde om AI-gegenereerde content te labelen.