DeepMind-oprichter waarschuwt: ‘AI mag veiligheid niet inhalen’

Kunstmatige intelligentie ontwikkelt zich in hoog tempo. Volgens Shane Legg, medeoprichter van Google DeepMind, dreigt daarbij een belangrijk gevaar. De mogelijkheden van AI mogen volgens hem nooit sneller groeien dan de systemen waarmee de technologie veilig en controleerbaar wordt gehouden.

De waarschuwing komt op een moment dat de discussie over kunstmatige algemene intelligentie steeds serieuzer wordt. Legg denkt dat er al binnen enkele jaren een reële kans bestaat dat een eerste vorm daarvan werkelijkheid wordt.

DeepMind-oprichter waarschuwt voor AI-risico’s

“We leven nu in een periode waarin de mogelijkheden heel, heel snel vooruitgaan”, zei Legg in een interview met de Financial Times. “Maar we mogen niet toestaan dat de mogelijkheden voorlopen op de veiligheid.”

De zorgen nemen toe doordat moderne AI-systemen steeds zelfstandiger kunnen werken. Ze kunnen onder meer software schrijven, zelfstandig taken uitvoeren en onderzoekers helpen bij het ontwikkelen van nieuwe AI-systemen.

Juist dat laatste maakt de ontwikkeling gevoelig. AI-bedrijven waarschuwen voor een scenario waarin krachtige systemen uiteindelijk kunnen bijdragen aan het verbeteren van nieuwe AI. Daardoor bestaat de vrees dat de technologie zich sneller ontwikkelt dan de middelen waarmee mensen haar kunnen volgen en controleren.

Ook Dario Amodei, topman van AI-bedrijf Anthropic, pleitte onlangs voor voorzichtigheid. Hij wil de introductie van de krachtigste AI-modellen vertragen vanwege mogelijke veiligheidsrisico’s, zonder de ontwikkeling volledig stil te leggen.

Legg noemt die gedachte “interessant” en “het overwegen waard”. Tegelijkertijd benadrukt hij dat nog moet worden uitgewerkt hoe zo’n aanpak in de praktijk zou functioneren.

Is AGI inmiddels werkelijkheid?

De discussie wordt extra urgent door de komst van steeds krachtigere modellen. OpenAI-president Greg Brockman stelde deze maand dat het nieuwste GPT-6 Astra betekent dat “we nu in het AGI-tijdperk zitten”. Nvidia-topman Jensen Huang ging nog verder en verklaarde dat AGI volgens hem is gearriveerd.

Legg is daar niet van overtuigd.

AGI staat voor artificial general intelligence, oftewel kunstmatige algemene intelligentie. Google DeepMind gebruikt die term voor een systeem dat over alle cognitieve capaciteiten van het menselijke brein beschikt.

Volgens Legg is het te vroeg om te zeggen dat zo’n systeem al bestaat. Hij betwijfelt zelfs of Astra voldoet aan OpenAI’s eigen definitie van AGI, waarbij een systeem het grootste deel van economisch waardevol denkwerk moet kunnen uitvoeren.

“Ze doen natuurlijk behoorlijk ongelooflijke dingen, maar het is volgens mij nog niet op een punt waarop het zelfs aan hun eigen definitie kan voldoen”, aldus Legg.

Zijn eigen verwachting verandert ondertussen niet. Legg schat de kans nog altijd op vijftig procent dat in 2028 een “minimale” vorm van AGI wordt bereikt.

Nieuw instituut moet discussie over AGI verbreden

Tegelijk met zijn waarschuwing lanceert Legg het DeepMind Institute. Daarmee wil Google DeepMind het publieke debat over krachtige kunstmatige intelligentie verbreden en technisch onderzoek begrijpelijker maken voor mensen buiten de AI-sector.

Volgens Legg is daarvoor juist nu het moment gekomen. “Het publieke debat komt nu echt op gang. Mensen nemen de mogelijkheid van krachtige algemene intelligentie heel, heel serieus.”

Het instituut richt zich niet alleen op technologie. Onderwerpen als wetenschap, onderwijs, samenleving, beleid, filosofie en menselijk welzijn krijgen eveneens aandacht. Naast medewerkers van Google moeten ook externe deskundigen bijdragen leveren.

De eerste drie publicaties gaan over AI-veiligheid, economisch beleid en de uitgangspunten voor een nieuwe vorm van utopisch denken.

In een van die stukken waarschuwen DeepMind-onderzoekers Rohin Shah en Anca Dragan specifiek voor afnemende transparantie bij krachtige AI-modellen. Volgens hen kunnen commerciële concurrentie en de haast om nieuwe modellen uit te brengen bedrijven minder prikkels geven om openheid te bieden over hoe hun systemen redeneren. Regulering kan volgens de onderzoekers helpen om dat probleem aan te pakken.

Google-topman James Manyika vat de inzet van het bedrijf anders samen. De enige AI-wedloop waaraan Google volgens hem wil deelnemen, is “de race om het goed te doen”.