Koning Charles haalt Nvidia, OpenAI en Anthropic naar paleis voor AI-top

Deze week draait opnieuw veel om AI, maar dit keer niet om nieuwe modellen of miljardeninvesteringen. De Britse koning Charles ontvangt topbestuurders van Nvidia, OpenAI, Anthropic en Google DeepMind voor overleg over de toekomst van de technologie. Centraal staat de vraag of gezamenlijke uitgangspunten nodig zijn om AI veilig verder te ontwikkelen. Ook de Britse AI-minister schuift aan.

Met de bijeenkomst mengt Charles zich in een discussie die binnen de AI-sector steeds luider wordt. OpenAI-topman Sam Altman, Elon Musk en Anthropic-CEO Dario Amodei pleitten de afgelopen dagen allemaal voor meer voorzichtigheid bij de ontwikkeling van de krachtigste AI-modellen.

Charles wil AI-top rond één tafel krijgen

Woordvoerders van Buckingham Palace zeggen dat het gesprek draait om de vraag hoe AI de samenleving kan helpen zonder de menselijke waardigheid uit het oog te verliezen. Ook wordt besproken of bedrijven gezamenlijke principes nodig hebben om de technologie veilig verder te ontwikkelen.

De timing is niet toevallig. Amodei riep dit weekend expliciet op om de ontwikkeling van de krachtigste modellen te vertragen. Vorige week meldde Anthropic bovendien dat zijn Claude-modellen al werden gebruikt voor onder meer cyberoperaties, fraude, surveillance en activiteiten rond wapens.

Het Verenigd Koninkrijk probeert daarbij een middenweg te bewandelen. Het land reguleert AI minder streng dan de Europese Unie, maar beschikt sinds 2023 wel over een AI Security Institute. Dat instituut krijgt vóór de lancering toegang tot bepaalde nieuwe modellen om mogelijke risico’s te onderzoeken.

Trump wil juist vol gas doorgaan

Wereldwijde afspraken lijken voorlopig lastig. President Donald Trump wees de oproepen tot vertraging zondag af. Volgens hem zou afremmen vooral China de kans geven om de Verenigde Staten voorbij te streven.

Daar komt een enorme financiële prikkel bovenop. AI-bedrijven halen miljarden op en worden gewaardeerd op bedragen die alleen te rechtvaardigen zijn als de technologie snel blijft verbeteren. Dat zorgt voor een ongemakkelijke tegenstelling. Dezelfde bedrijven die beleggers enorme groei beloven, vragen tegelijkertijd om meer tijd om de veiligheid van hun technologie te waarborgen.

Charles kan die tegenstelling niet oplossen, maar zijn bijeenkomst laat wel zien hoe groot de discussie over AI inmiddels is geworden. Wat begon als een debat tussen onderzoekers en techbedrijven, ligt nu zelfs op tafel in Buckingham Palace.