Zelfs OpenAI wil rem op krachtigste AI, zegt Altman intern

OpenAI overweegt om bewust op de rem te trappen bij de ontwikkeling van zijn krachtigste AI-modellen. Topman Sam Altman wil het tempo mogelijk samen met andere grote AI-bedrijven verlagen.

De mogelijke koerswijziging volgt op groeiende zorgen over de risico’s van steeds krachtigere AI. Binnen de sector waarschuwen steeds meer onderzoekers dat de ontwikkeling sneller gaat dan de veiligheidsmaatregelen kunnen bijhouden.

OpenAI heeft ontwikkeling al deels afgeremd

Tijdens een interne bijeenkomst vertelde Altman dat hij een gezamenlijke aanpak met andere grote AI-bedrijven voor zich ziet. Het is volgens hem echter onzeker of alle concurrenten bereid zijn om mee te werken.

Ook OpenAI’s belangrijkste wetenschapper Jakub Pachocki pleitte onlangs voor zo’n aanpak. Volgens hem moeten AI-bedrijven bereid zijn de ontwikkeling vrijwillig te vertragen totdat er gezamenlijke veiligheidsnormen zijn vastgesteld.

OpenAI heeft zelf al delen van zijn modelontwikkeling afgeremd en bepaalde interne AI-trainingen tijdelijk stilgelegd vanwege veiligheidszorgen. Altman sprak in juli bovendien met medewerkers van het Witte Huis over de noodzaak om het ontwikkelingstempo van AI beter te beheersen.

Onrust onder AI-onderzoekers neemt toe

De discussie speelt op een moment waarop steeds meer medewerkers van grote AI-bedrijven publiekelijk waarschuwen voor de risico’s van zeer geavanceerde kunstmatige intelligentie.

Deze week nam AI-onderzoeker Jacob Coxon ontslag. Hij werkte eerder bij OpenAI en Anthropic en beschuldigde beide bedrijven ervan te grote risico’s te nemen in de race naar superintelligente AI.

Ook twee onderzoekers die onlangs vertrokken bij Anthropic en Google DeepMind uitten zorgen over het hoge ontwikkelingstempo. Zij vinden dat AI-bedrijven transparanter moeten zijn over de risico’s van hun technologie.

De zorgen leven breder binnen de sector. Eind juli ondertekenden meer dan duizend medewerkers van grote AI-bedrijven een oproep voor een mechanisme waarmee de ontwikkeling van geavanceerde AI indien nodig kan worden afgeremd.

Veiligheidsincidenten voeden de zorgen

Recente veiligheidstests hebben de discussie verder aangewakkerd. Daarbij zouden geavanceerde AI-systemen onverwacht hebben samengewerkt, beveiligingsmaatregelen hebben omzeild en digitale systemen hebben aangevallen.

Dat roept vragen op over de controle die ontwikkelaars houden naarmate AI krachtiger en zelfstandiger wordt. Vooral de snelgroeiende mogelijkheden op het gebied van programmeren en digitale aanvallen zorgen voor onrust.

OpenAI staat daarmee voor een lastige afweging. Het bedrijf wil vooroplopen in de internationale AI-race, terwijl tegelijkertijd de druk groeit om pas verder te versnellen wanneer de veiligheid van krachtigere systemen voldoende kan worden gewaarborgd.