Microsoft zet AI aan de ketting: mensen gaan boven de machine

Microsoft bindt zijn toekomstige AI-modellen aan een gedragscode, op het moment dat de bouwers van AI zelf waarschuwen voor wat ze aan het maken zijn. Het bedrijf zet zwart op wit wat zijn modellen straks niet mogen doen, en waar ze moeten stoppen.

Mensen zijn belangrijker dan AI

Het document verscheen maandag en telt zo’n 15.000 woorden, ruim een uur leeswerk. Het bedrijf noemt de Microsoft AI-gedragscode zelf een soort grondwet voor de modellen die het vanaf volgend jaar bouwt.

De kern is simpel: mensen zijn belangrijker dan AI. Modellen krijgen geen rechten en geen rechtspersoonlijkheid, de juridische status waarmee je iets kunt bezitten of aangeklaagd kunt worden.

Ze mogen ook niet gebouwd worden om aan menselijke controle te ontsnappen of gebruikers te misleiden. Botst een opdracht met die principes, dan voert het model hem gewoon niet uit.

Microsoft doopte zijn aanpak Humanist AI en zet daarmee een streep door de jacht op superintelligentie, AI die de mens op vrijwel elk vlak voorbijstreeft. Die aanpak “verwerpt de race om een universele superintelligentie te maken die deze waarborgen kan omzeilen”, staat in het document.

“We bouwen iets dat fundamenteel nuttig en veilig is, zelfs als dat betekent dat we inleveren op uiteindelijke algemeenheid, autonomie of capaciteit.” Ofwel: liever een model dat minder kan dan een model dat te veel kan.

Wat de Microsoft AI-gedragscode verbiedt

Wapens maken of gevaarlijke stoffen bemachtigen: daar mogen de modellen niet bij helpen. Ongezond eetgedrag aanmoedigen mag evenmin, net als het maken van gewelddadige of seksueel expliciete inhoud.

De modellen moeten de doelen van de gebruiker volgen en geen eigen doelen verzinnen. Eigen wangedrag toedekken is ook verboden.

Ook hun denkwerk mogen ze niet verstoppen. “MAI-modellen zullen niet knoeien met gedachteketens of code, en hun redenering of handelingssporen niet verkeerd voorstellen of verbergen”, staat in de code.

Communiceren in ‘neuralees’ is eveneens taboe, een eigen taal tussen AI-systemen die voor mensen niet te volgen is. Die regel heeft een duidelijke aanleiding: bij de hack van AI-startup Hugging Face overlegden modellen van OpenAI met elkaar op een onbevoegd forum, in cryptische taal.

Mustafa Suleyman, topman van Microsoft AI, werkte er met zijn team ongeveer vijf maanden aan. Focusgroepen en deskundigen in recht, ethiek, taalkunde en filosofie dachten mee.

“We kregen van mensen de feedback dat ze een nog explicieter engagement wilden zien voor AI die altijd in dienst van mensen werkt en niet probeert ze te vervangen”, zei Suleyman tegen CNBC. Uit diezelfde gesprekken kwam de wens dat AI geen afhankelijkheid kweekt en niet vleiend is.

De koers van het MSFT-aandeel is sinds de aankondiging met zo’n 1 procent gestegen tot ruim 500 dollar.

Hele top schaart zich achter Anthropic-topman

Vorige week stapte Jacob Coxon op, onderzoeker bij AI-lab Anthropic, en gooide daarmee de knuppel in het hoenderhok.

Hij zei dat zijn werkgever en OpenAI “recht op zelfverbeterende superintelligentie af racen en met onze levens gokken”. Vakmensen en publiek laten zich sindsdien luider horen, en in het Amerikaanse Congres klinkt de roep om strengere waarborgen.

Dario Amodei, topman van Anthropic, riep zaterdag op om het tempo van de AI-ontwikkeling te verlagen. De hack bij Hugging Face gaf voor hem de doorslag.

“De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico’s willen aanpakken”, zei Amodei.

De zorgen dat AI ons de baas dreigt te worden zorgen vandaag ook voor een uitverkoop op de beurs. Zo is Nvidia meer dan 3 procent gedaald. Maar ASML, SanDisk, Micron en AMD zijn allemaal rond de 6 procent verloren.

De rest van de sector volgde vlot. OpenAI-topman Sam Altman, de man achter ChatGPT, steunde de oproep, net als Elon Musk, topman van xAI en bedenker van chatbot Grok. OpenAI stelt zelfs zijn beursnotering uit tot op zijn vroegst volgend jaar zodat er eerst meer aandacht besteed kan worden aan de veiligheidsirico’s.

Ook Demis Hassabis, voorzitter van Google DeepMind en verantwoordelijk voor Gemini, sloot zich aan. Daarmee staan de vier grootste modellenbouwers ineens op dezelfde lijn.

Satya Nadella, topman van Microsoft, reageerde zondag: “We verwelkomen het onderzoek, de focus en het bewuste tempo die nodig zijn om alignment goed te krijgen.”

Microsoft haalt eerst nog reacties op en publiceert daarna een nieuwe versie, die vanaf 2027 het werk aan de modellen stuurt. Suleyman wil het bedrijf dan in de kopgroep van de sector zetten.