‘AI heeft wel een gaspedaal, maar geen rem’, waarschuwt Anthropic topman

De ontwikkeling van kunstmatige intelligentie gaat zo snel dat mensen de controle dreigen te verliezen. Daarvoor waarschuwt Jack Clark, mede-oprichter van AI-bedrijf Anthropic. Volgens hem ontbreekt er momenteel een cruciaal onderdeel in de AI-industrie: een rempedaal.

Clark stelt dat overheden moeten kunnen ingrijpen als de technologie sneller groeit dan de samenleving kan bijbenen. Zijn waarschuwing komt op een moment waarop AI-systemen steeds zelfstandiger worden en in toenemende mate hun eigen ontwikkeling ondersteunen.

Anthropic ziet AI steeds onafhankelijker worden

In een interview met de BBC vergelijkt Clark de huidige situatie met een auto die alleen kan versnellen.

“Je wilt de mogelijkheid hebben om je voet van het gaspedaal te halen en op de rem te trappen”, zegt hij. “Op dit moment lijkt het alsof de AI-sector wel een gaspedaal heeft, maar geen rempedaal.”

Volgens Clark wordt Anthropic’s chatbot Claude inmiddels grotendeels ontwikkeld met code die door Claude zelf is geschreven. Naar schatting bestaat ongeveer tachtig procent van de code uit werk van het AI-systeem zelf.

Als die ontwikkeling doorzet, zou Claude binnen twee jaar volledig door AI gegenereerde code kunnen gebruiken. Dat betekent in theorie dat kunstmatige intelligentie zichzelf verder kan verbeteren zonder directe menselijke tussenkomst.

Clark noemt dat een ontwikkeling met mogelijk grote gevolgen voor de economie, arbeidsmarkt en samenleving.

Oproep tot nieuwe AI-regelgeving

De mede-oprichter van Anthropic vindt dat regeringen nu al moeten nadenken over nieuwe regels voor AI.

“De wereld moet hierover nadenken en uiteindelijk nieuwe regelgeving ontwikkelen die ervoor zorgt dat we vertrouwen kunnen hebben in deze systemen”, aldus Clark.

Hij trekt daarbij een vergelijking met de opkomst van de olie-industrie aan het begin van de twintigste eeuw. Ook toen ontstonden nieuwe risico’s en moest de overheid regels opstellen om de voordelen van de technologie te benutten zonder de samenleving bloot te stellen aan onbeheersbare gevaren.

Opvallend genoeg pleitte Anthropic deze week nog voor een relatief soepele benadering van AI-regulering in de Verenigde Staten. Een recente AI-maatregel van president Donald Trump verplicht bedrijven bijvoorbeeld niet om hun modellen vooraf door de overheid te laten testen op veiligheid.

Ondertussen zetten grote spelers als Anthropic, OpenAI en Google hun onderzoek onverminderd voort.

Creativiteit blijft volgens Clark menselijk voordeel

Naast zorgen over veiligheid en controle waarschuwt Clark ook voor de impact van AI op banen. Vooral zogenaamde AI-agenten, systemen die zelfstandig taken uitvoeren, kunnen volgens hem in de toekomst werk overnemen dat nu nog door mensen wordt gedaan.

Grote technologiebedrijven hebben de afgelopen tijd al duizenden werknemers ontslagen, waarbij de toenemende inzet van AI regelmatig als factor werd genoemd.

Toch ziet Clark ook een belangrijk voordeel voor mensen. Volgens hem is er nog altijd weinig bewijs dat AI werkelijk creatief kan zijn.

“Bij Anthropic worden we momenteel meer beperkt door het gebrek aan goede ideeën dan door onze technische mogelijkheden om die ideeën uit te voeren”, zegt hij.

Daarom adviseert hij jonge mensen om breed geïnteresseerd te blijven, veel te lezen en hun nieuwsgierigheid te ontwikkelen. Juist creativiteit en het vermogen om nieuwe ideeën te bedenken zouden volgens hem eigenschappen zijn waarmee mensen zich ook in een AI-gedreven economie kunnen onderscheiden.