Meta-medewerkers vrezen groot datalek door nieuwe AI-agent Muse

Meta’s nieuwe AI-agent Muse maakte vorige maand nog indruk op beleggers, maar achter de schermen leven grote zorgen. Volgens ingewijden vrezen meerdere senior engineers dat het systeem uiteindelijk kan leiden tot een groot datalek. Dat ligt extra gevoelig omdat Muse toegang kan krijgen tot zeer persoonlijke informatie, waaronder e-mails en zelfs bankrekeningen.

Kwetsbaarheid vlak voor lancering ontdekt

Muse is ontworpen als een persoonlijke AI-assistent die zelfstandig taken kan uitvoeren. Denk aan het boeken van een vlucht, het bestellen van boodschappen of het combineren van informatie uit verschillende apps.

Om dat te kunnen doen, krijgt de AI-agent behoorlijk wat toegang tot de digitale omgeving van een gebruiker. Precies daar zit volgens medewerkers ook het risico.

Kort voor de lancering ontdekten engineers een kwetsbaarheid waarmee gebruikers mogelijk uit de afgeschermde digitale omgeving van Muse konden ontsnappen. In het ergste geval zou iemand daardoor toegang kunnen krijgen tot interne systemen van Meta of gegevens van andere gebruikers.

De problemen waren volgens interne communicatie zo ernstig dat verschillende beveiligingsteams vlak voor de lancering dag en nacht aan een oplossing werkten. Ook CEO Mark Zuckerberg zou bij de kwestie betrokken zijn geweest. Een bron binnen Meta omschreef de situatie scherp:

“Veel senior engineers denken dat het onvermijdelijk is dat we hierdoor een enorm datalek krijgen.”

Succes van Muse krijgt plots een keerzijde

De beveiligingszorgen komen op een opvallend moment. Muse kende juist een vliegende start en zorgde zelfs voor nieuw optimisme rond AI-aandelen. Eerder schreven we al hoe de nieuwe AI-agent van Meta een wereldwijde rally onder chipaandelen aanwakkerde.

Meta heeft de bekende kwetsbaarheid inmiddels verholpen, maar intern zijn de zorgen daarmee niet verdwenen. Het bedrijf biedt zelfs een beloning van 300.000 dollar aan beveiligingsonderzoekers die een vergelijkbare kwetsbaarheid weten te vinden.

Dat hoge bedrag onderstreept hoe groot de mogelijke gevolgen kunnen zijn. Een AI-agent als Muse kijkt immers niet alleen mee, maar kan ook namens de gebruiker handelen.

Daardoor speelt veiligheid een grotere rol dan bij een gewone chatbot. Hoe meer toegang AI-agents krijgen tot bankgegevens, berichten en persoonlijke accounts, hoe groter de mogelijke schade als iemand erin slaagt de beveiliging te omzeilen.