Onbevoegde gebruikers krijgen toegang tot Anthropic’s Mythos-model

Een kleine groep onbevoegde gebruikers heeft toegang gekregen tot Mythos, het nieuwste en krachtigste AI-model van Anthropic. Volgens het bedrijf is het model zo geavanceerd dat het kwetsbaarheden kan opsporen én misbruiken in vrijwel elk groot besturingssysteem en elke belangrijke webbrowser.

Juist daarom houdt Anthropic Mythos normaal gesproken strikt afgeschermd. Toch ging het al mis op de dag dat het bedrijf aankondigde het model beperkt beschikbaar te maken voor tests. Binnen korte tijd wist een handvol gebruikers zich ongeautoriseerd toegang te verschaffen.

Hoe ze binnenkwamen

De groep, actief op een besloten Discordkanaal waar informatie over niet-uitgebrachte AI-modellen wordt gedeeld, gebruikte een combinatie van toegang en speurwerk. Eén van de leden werkte als contractmedewerker bij een externe partner van Anthropic en had daardoor al beperkte toegang tot interne systemen.

Vanuit die positie probeerden ze te achterhalen waar Mythos online stond. Daarbij maakten ze gebruik van patronen die Anthropic eerder hanteerde bij andere modellen.

Extra informatie kwam uit een recent datalek bij Mercor, een AI-trainingsstartup die met meerdere grote ontwikkelaars samenwerkt. Vervolgens zette de groep bekende onderzoekstechnieken in. Met bots doorzochten ze het internet, onder meer op platforms als GitHub, waar per ongeluk informatie van Anthropic openbaar was geworden.

Niet kwaadaardig, maar wel zorgwekkend

Volgens de groep wordt Mythos niet ingezet voor cyberaanvallen. Ze gebruiken het model vooral om eenvoudige websites te bouwen en de mogelijkheden te verkennen, zonder op te vallen. Een betrokkene zegt dat het draait om nieuwsgierigheid, niet om kwade bedoelingen.

Toch roept het incident serieuze vragen op. Als een kleine groep hobbyisten al op de dag van de aankondiging toegang weet te krijgen, is het de vraag wie er nog meer binnen zijn gekomen en met welk doel. De groep stelt bovendien dat ze toegang hebben tot meerdere andere niet-uitgebrachte modellen van Anthropic.

Anthropic onderzoekt lek

Anthropic laat weten dat het een melding onderzoekt over ongeautoriseerde toegang tot Mythos via de omgeving van een externe partner. Volgens het bedrijf is er vooralsnog geen bewijs dat de toegang verder reikte dan die leveranciersomgeving of dat de eigen systemen zijn gecompromitteerd.

Het model wordt momenteel alleen gedeeld met een beperkte groep bedrijven via Project Glasswing. In dit programma mogen softwarebedrijven hun systemen testen op kwetsbaarheden. Onder meer Apple, Amazon en Cisco nemen deel. Daarnaast stelt Amazon Mythos beschikbaar via zijn Bedrock-platform, maar alleen voor een selecte groep goedgekeurde partijen.

Groeiende interesse van overheden en banken

De timing maakt het incident extra gevoelig. De afgelopen dagen hebben steeds meer financiële instellingen en overheidsinstanties aan beide kanten van de Atlantische Oceaan verzocht om toegang tot Mythos. Zij willen hun eigen systemen beschermen tegen kwaadwillende gebruikers die hetzelfde model mogelijk in handen krijgen.