Een kleine groep onbevoegde gebruikers heeft toegang gekregen tot Mythos, het nieuwste en krachtigste AI-model van Anthropic. Volgens het bedrijf is het model zo geavanceerd dat het kwetsbaarheden kan opsporen én misbruiken in vrijwel elk groot besturingssysteem en elke belangrijke webbrowser.
Juist daarom houdt Anthropic Mythos normaal gesproken strikt afgeschermd. Toch ging het al mis op de dag dat het bedrijf aankondigde het model beperkt beschikbaar te maken voor tests. Binnen korte tijd wist een handvol gebruikers zich ongeautoriseerd toegang te verschaffen.
De groep, actief op een besloten Discordkanaal waar informatie over niet-uitgebrachte AI-modellen wordt gedeeld, gebruikte een combinatie van toegang en speurwerk. Eén van de leden werkte als contractmedewerker bij een externe partner van Anthropic en had daardoor al beperkte toegang tot interne systemen.
Vanuit die positie probeerden ze te achterhalen waar Mythos online stond. Daarbij maakten ze gebruik van patronen die Anthropic eerder hanteerde bij andere modellen.
Extra informatie kwam uit een recent datalek bij Mercor, een AI-trainingsstartup die met meerdere grote ontwikkelaars samenwerkt. Vervolgens zette de groep bekende onderzoekstechnieken in. Met bots doorzochten ze het internet, onder meer op platforms als GitHub, waar per ongeluk informatie van Anthropic openbaar was geworden.
Volgens de groep wordt Mythos niet ingezet voor cyberaanvallen. Ze gebruiken het model vooral om eenvoudige websites te bouwen en de mogelijkheden te verkennen, zonder op te vallen. Een betrokkene zegt dat het draait om nieuwsgierigheid, niet om kwade bedoelingen.
Toch roept het incident serieuze vragen op. Als een kleine groep hobbyisten al op de dag van de aankondiging toegang weet te krijgen, is het de vraag wie er nog meer binnen zijn gekomen en met welk doel. De groep stelt bovendien dat ze toegang hebben tot meerdere andere niet-uitgebrachte modellen van Anthropic.
Anthropic laat weten dat het een melding onderzoekt over ongeautoriseerde toegang tot Mythos via de omgeving van een externe partner. Volgens het bedrijf is er vooralsnog geen bewijs dat de toegang verder reikte dan die leveranciersomgeving of dat de eigen systemen zijn gecompromitteerd.
Het model wordt momenteel alleen gedeeld met een beperkte groep bedrijven via Project Glasswing. In dit programma mogen softwarebedrijven hun systemen testen op kwetsbaarheden. Onder meer Apple, Amazon en Cisco nemen deel. Daarnaast stelt Amazon Mythos beschikbaar via zijn Bedrock-platform, maar alleen voor een selecte groep goedgekeurde partijen.
De timing maakt het incident extra gevoelig. De afgelopen dagen hebben steeds meer financiële instellingen en overheidsinstanties aan beide kanten van de Atlantische Oceaan verzocht om toegang tot Mythos. Zij willen hun eigen systemen beschermen tegen kwaadwillende gebruikers die hetzelfde model mogelijk in handen krijgen.
Het bedrag is bijna zes keer hoger dan drie jaar geleden. Google trekt alles uit de kast om Microsoft en OpenAI voor te blijven.
Tijdens een forum in Delhi presenteerde BRICS concrete plannen om minder afhankelijk te worden van Westerse handelsstructuren.
Elon Musk wil de transformatie van Tesla naar een AI-bedrijf in een stroomversnelling brengen, en gaat fors meer investeren.
De mislukte vredesgesprekken met Iran drukken maandag op aandelen. Analisten verwachten een stijgende dollar en olieprijs. De schade kan meevallen als markten het als uitstel zien.
Heeft China lak aan de Amerikaanse blokkade van de Straat van Hormuz? Wat heeft dit te betekenen voor het conflict en de markten?
De scheepvaart door Hormuz is opnieuw tot stilstand gekomen nadat de VS voor het eerst een Iraans schip in beslag namen. De olieprijs stijgt.
