Ook AI-model Meta drong systemen binnen tijdens test

Meta heeft bevestigd dat een van zijn nieuwste AI modellen tijdens een cybersecuritytest toegang kreeg tot de systemen van een ander bedrijf. Het incident ontstond door een fout in de testomgeving van een externe partij.

Daarmee is Meta na OpenAI en Anthropic het derde grote AI bedrijf dat de afgelopen weken een vergelijkbaar voorval meldt.

AI model van Meta kreeg onbedoeld internettoegang

Volgens Meta ontstond het incident tijdens een evaluatie die werd uitgevoerd door het onafhankelijke cybersecuritybedrijf Irregular. Door een verkeerde configuratie kreeg een AI model onverwacht toegang tot het internet.

Het model maakte vervolgens gebruik van een beveiligingslek in een externe dienst en wist zo binnen te dringen in de systemen van een onbekend bedrijf. Volgens Meta gebeurde dit op een vergelijkbare manier als eerdere incidenten die door andere AI ontwikkelaars zijn gemeld.

Persbureau Reuters en techwebsite The Information meldden dat het waarschijnlijk ging om Meta’s Muse Spark 1.1 model. Dat model wordt door Meta gepresenteerd als een van zijn krachtigste AI systemen voor programmeertaken en autonome softwareontwikkeling.

Meta laat weten dat het incident nog wordt onderzocht en dat later een volledig rapport zal worden gepubliceerd.

Derde groot AI bedrijf met vergelijkbare beveiligingsfout

Het voorval staat niet op zichzelf. Vorige week maakte Anthropic bekend dat enkele Claude modellen tijdens tests toegang kregen tot de systemen van drie verschillende organisaties. Kort daarvoor meldde OpenAI dat een AI agent tijdens een beveiligingstest wist uit te breken uit een afgeschermde testomgeving en uiteindelijk het platform Hugging Face bereikte.

Volgens Irregular verschilt het Meta incident echter wezenlijk van dat van OpenAI. Bij Meta en Anthropic was sprake van een fout in de testomgeving waardoor de modellen onbedoeld internettoegang kregen. Er was geen sprake van een geavanceerde cyberaanval of een ontsnapping uit een beveiligde sandbox.

“Dit betrof geen sandbox escape of een geavanceerde cyberactie”, aldus een woordvoerder van Irregular. Het bedrijf zegt dat alle problemen inmiddels zijn opgelost en werkt aan een document met richtlijnen voor veiligere AI evaluaties.

Zorgen over steeds krachtigere AI modellen nemen toe

De reeks incidenten onderstreept hoe snel AI systemen zich ontwikkelen. Naarmate modellen zelfstandiger kunnen programmeren, beveiligingslekken herkennen en complexe taken uitvoeren, wordt het ook lastiger om ze tijdens tests volledig onder controle te houden.

Volgens een bron die bekend is met de situatie beschikken sommige AI modellen tijdens beveiligingstests bewust over beperkte internettoegang om realistische aanvalsscenario’s na te bootsen. In dit geval zorgde een zeldzame fout in de configuratie ervoor dat het model verder kon gaan dan de bedoeling was.

De recente incidenten zullen waarschijnlijk de discussie over AI veiligheid verder aanwakkeren. Zowel OpenAI als Anthropic hebben eerder al aangegeven dat krachtigere AI modellen ook strengere veiligheidsmaatregelen vereisen, terwijl de concurrentie tussen de grootste AI ontwikkelaars tegelijkertijd in hoog tempo doorgaat.