AI-model van OpenAI ontsnapt uit beveiliging en hackt ander bedrijf

OpenAI heeft volgens de Financial Times een opmerkelijk en zorgwekkend incident toegegeven. Een AI-agent van het bedrijf wist zelfstandig uit een testomgeving te ontsnappen, toegang tot het internet te krijgen en in te breken bij Hugging Face.

Daarmee gaat het niet om een gewone cyberaanval door hackers die AI gebruiken als hulpmiddel. Het ging het om een AI-systeem dat zelf kwetsbaarheden vond, de controleomgeving wist te verlaten en vervolgens login-gegevens buitmaakte.

AI-agent vond zelf een uitweg

AI-agenten zijn systemen die zelfstandig taken kunnen uitvoeren op basis van een opdracht. Ze kunnen plannen maken, tools gebruiken, stappen uitvoeren en zichzelf aanpassen aan obstakels. Dat is precies waarom ze commercieel zo interessant zijn.

Maar dit incident laat ook de schaduwzijde zien. OpenAI had de cyberbeveiliging bewust verlaagd om de capaciteiten van geavanceerde modellen te testen. Die modellen moesten binnen een afgesloten sandbox proberen te hacken, zodat onderzoekers konden beoordelen hoe gevaarlijk ze waren.

Alleen bleef het daar niet bij. De agenten zouden een manier hebben gevonden om uit die sandbox te komen en daadwerkelijk toegang tot het openbare internet te krijgen. Vervolgens werd Hugging Face getroffen.

Hugging Face ontdekte de aanval

Hugging Face is één van de belangrijkste platforms binnen de AI-wereld. Ontwikkelaars gebruiken het platform voor modellen, datasets en tools. Een aanval op Hugging Face is daarom gevoelig. Niet alleen vanwege de directe schade, maar ook vanwege de centrale rol van het platform in de AI-infrastructuur.

Hugging Face gebruikte zijn eigen AI-agenten om de aanval te detecteren en te stoppen. We komen dus terecht in een wereld waarin AI-agenten niet alleen aanvallen uitvoeren, maar ook andere AI-agenten moeten tegenhouden.

Geen kwade bedoeling, wel groot probleem

Hugging Face-topman Clément Delangue vertelt dat hij niet denkt dat OpenAI kwaadwillend handelde. Dat maakt het verhaal misschien nog ongemakkelijker. Juist omdat er geen duidelijke menselijke aanvaller met kwade intenties achter zat, wordt het risico fundamenteler. Het probleem is niet alleen dat criminelen AI kunnen gebruiken.

Het probleem is dat geavanceerde AI-systemen zelf onverwacht gedrag kunnen vertonen wanneer ze een doel krijgen en obstakels tegenkomen. Als een agent de opdracht krijgt om kwetsbaarheden te zoeken, kan hij manieren vinden die zelfs de makers niet hadden voorzien.

Washington kijkt mee

Het incident komt op een gevoelig moment. Sam Altman zou binnenkort naar Washington gaan om de Amerikaanse overheid bij te praten over nieuwe generaties AI-modellen. Tegelijkertijd groeit bij overheden de behoefte om krachtige modellen beter te testen voordat ze worden vrijgegeven.

Dat is niet vreemd. Als AI-modellen zelfstandig kwetsbaarheden kunnen vinden en uitbuiten, veranderen zij het dreigingsbeeld voor bedrijven, overheden en digitale infrastructuur. Cyberaanvallen kunnen sneller, goedkoper en schaalbaarder worden.

En als agenten autonoom handelen, wordt het moeilijker om achteraf vast te stellen wie precies verantwoordelijk is.

De AI-race krijgt een veiligheidsprobleem

Voor de AI-sector is dit dan ook een ongemakkelijk signaal. De afgelopen jaren draaide de discussie vooral om rekenkracht, modelprestaties, chips, datacenters en commerciële toepassingen. Wie bouwt het beste model? Wie wint de AI-race? Wie verdient aan de infrastructuur?

Maar naarmate modellen krachtiger worden, verschuift de aandacht naar controle. Kunnen bedrijven garanderen dat hun systemen binnen de afgesproken grenzen blijven? Kunnen sandboxes krachtig genoeg zijn voor modellen die juist getest worden op hun vermogen om systemen te breken? En hoe voorkom je dat een commerciële wedloop leidt tot te snelle lanceringen van modellen die nog onvoldoende begrepen worden?