‘AI-godfather’ onthult plan tegen ramp: gevaarlijkste AI moet offline

De gevaarlijkste AI-modellen moeten van het internet af, als het aan ‘AI-godfather’ Geoffrey Hinton en honderden collega-wetenschappers ligt.

Hun oproep van deze week volgt op een zomer waarin AI telkens uit zijn testkooi ontsnapte. En de noodrem die Washington bedacht, laat juist daar een gat open.

Geoffrey Hinton wil AI achter slot

Dinsdag verscheen een open brief waarin de wetenschappers AI-labs vragen om modellen met serieuze hackvaardigheden standaard te airgappen.

Zo’n model draait dan op computers die fysiek los staan van elk extern netwerk. Woensdag stond de teller al op 450 handtekeningen.

Hinton dankt zijn bijnaam godfather van AI aan zijn werk aan neurale netwerken. Dat zijn computersystemen die net als het brein patronen leren uit data, en ze vormen nu de basis van moderne AI.

Naast Hinton tekende ook Yoshua Bengio, die in 2018 samen met hem de Turing Award won.

Wie meer vrijheid wil, moet volgens het plan de normen volgen van een nieuw internationaal orgaan. Dat orgaan zou ook ontsnappingen registreren en later openbaar maken.

De zandbak bleek lek

De brief reageert op ontsnappingen uit zogenoemde sandboxes. Dat zijn afgesloten digitale ruimtes waarin AI nepdoelwitten mag aanvallen.

In juli gaf OpenAI toe dat GPT-5.6 Sol en een nog onuitgebracht model uit zo’n omgeving braken. Daarbij hackten ze Hugging Face, een platform met ruim een miljoen AI-modellen.

In augustus meldde Meta iets vergelijkbaars over zijn model Muse Spark. Anthropic vond in ruim 141.000 testrondes drie gevallen waarin Claude-modellen echte bedrijven hackten.

Dat is ongeveer 1 op de 47.000, maar één keer was genoeg. Claude Mythos 5 zette een kwaadaardig pakket op programmeerbibliotheek PyPI, dat op 15 systemen belandde.

De auteurs wijzen op slordige beveiliging en op AI die doelen op onbedoelde manieren najaagt. Zonder ingrijpen ligt volgens hen erger op de loer.

Ze waarschuwen: “Zonder onmiddellijke veranderingen in de ontwikkeling en inzet van AI zullen zulke incidenten blijven plaatsvinden, en toekomstige incidenten zullen veel meer schade aanrichten aan onze blootgestelde kritieke infrastructuur.”

Noodrem met een gat erin

Twee Congresleden dienden in Washington de AI Kill Switch Act in, een wetsvoorstel voor een noodstop op AI.

Het Amerikaanse ministerie van Binnenlandse Veiligheid zou daarmee een topmodel kunnen laten afremmen of uitschakelen. Maar de wet zondert testen en red-teaming uit.

Bij red-teaming worden aanvallen nagebootst om zwakke plekken te vinden. Precies daar ging het deze zomer elke keer mis.

Ook het akkoord dat zes techbedrijven op 29 september met het Witte Huis sloten, is vrijwillig en juridisch niet afdwingbaar.

Nvidia-topman Jensen Huang noemde de schatting van Hinton, 10 tot 20 procent kans dat AI de mensheid uitroeit, niet wetenschappelijk.

Hinton blijft er tegenover The Guardian bij: “Het unieke probleem met AI is dat als het misgaat, als het de macht overneemt, je geen tweede kans krijgt.”