OpenAI gehackt via Claude: ‘gewoon drie jongens met abonnementen’ krijgen duizenden dollars

Beveiligingsonderzoekers zijn erin geslaagd toegang te krijgen tot interne systemen van OpenAI. Daarbij maakten ze gebruik van Claude, het AI model van concurrent Anthropic. De onderzoekers handelden binnen een bug bounty programma en meldden de gevonden kwetsbaarheden direct bij OpenAI, aldus The Wall Street Journal.

Binnen dit programma mogen beveiligingsonderzoekers onder bepaalde voorwaarden naar kwetsbaarheden zoeken. Voor geldige beveiligingslekken kunnen ze een beloning ontvangen.

Onderzoek begon bij forum van OpenAI

De onderzoekers werken voor beveiligingsbedrijf Hacktron AI en begonnen hun onderzoek op 23 juli. Ze ontdekten een kwetsbaarheid in Discourse, de software achter het communityforum van OpenAI.

De onderzoekers gebruikten een speciale versie van Claude voor beveiligingsexperts om het lek uit te buiten. In eerste instantie lukte dat niet. Na de komst van Claude Opus 5 wist het AI model volgens de onderzoekers alsnog werkende code te schrijven.

Daarmee kregen ze toegang tot een Discourse server van OpenAI. Op die server stonden authenticatie-tokens waarmee gebruikers ingelogd konden blijven bij online diensten.

De onderzoekers ontdekten vervolgens dat sommige tokens ook werkten bij ChatGPT. Een deel daarvan bleek bovendien van medewerkers van OpenAI te zijn.

Toegang tot interne code

Via de tokens konden de onderzoekers ook systemen op GitHub bereiken. Daar kregen ze toegang tot een opslagplaats voor softwarecode met de naam Monorepo.

Volgens bronnen die bekend zijn met de infrastructuur van OpenAI bevat deze opslagplaats belangrijke interne software waarmee de AI-modellen van het bedrijf sneller en efficiënter worden gemaakt.

De onderzoekers zeggen dat ze stopten zodra duidelijk werd dat ze gevoelige informatie konden bekijken. Wel dienden ze nog een wijzigingsverzoek in voor een document. Daarmee wilden ze aantonen dat ze daadwerkelijk toegang hadden gekregen.

OpenAI zegt dat uit onderzoek bleek dat er sprake was van “beperkte inzage” in metadata en codewijzigingen van interne codeopslagplaatsen. De kwetsbaarheden zijn inmiddels opgelost.

OpenAI voert beveiliging op

OpenAI betaalde Hacktron AI een beloning van 6.500 dollar voor het melden van de problemen. Discourse zegt zijn eigen kwetsbaarheid op 25 juli te hebben verholpen, dezelfde dag waarop het bedrijf werd ingelicht.

Volgens beveiligingsonderzoekers laat de ontdekking zien dat AI het steeds makkelijker maakt om softwarelekken te vinden en uit te buiten. Hacktron AI CTO Mohan Pedhapati wijst erop dat veel sterkere partijen over dezelfde technologie kunnen beschikken.

“Ik denk niet dat wij zo goed zijn als Chinese hackers”, zegt Pedhapati. “We zijn gewoon drie jongens met abonnementen op Claude en Codex.”

OpenAI voerde na meerdere beveiligingsincidenten een uitgebreide controle van zijn systemen uit. Volgens medeoprichter Greg Brockman werd tijdelijk 25 procent van de softwareontwikkelaars ingezet voor beveiligingswerk. Daarbij werden volgens hem meerdere ernstige problemen gevonden en opgelost.