Dit is waarom Fable 5 van Anthropic werd stopgezet door de Amerikaanse overheid

Een beveiligingsprobleem in een nieuw AI-model heeft geleid tot een opvallende confrontatie tussen Amazon, Anthropic en de Amerikaanse overheid. Nadat onderzoekers van Amazon een kwetsbaarheid ontdekten in het AI-model Fable 5, ontstond achter de schermen grote onrust in Washington. Uiteindelijk besloot de overheid in te grijpen, waardoor Anthropic het model moest terugtrekken.

De gebeurtenis laat zien hoe gevoelig de ontwikkeling van kunstmatige intelligentie inmiddels is geworden. Niet alleen voor technologiebedrijven, maar ook voor overheden die vrezen dat krachtige AI-systemen misbruikt kunnen worden.

Amazon ontdekt mogelijke veiligheidsrisico’s

De discussie draait om Fable 5, een nieuw AI-model van Anthropic. Volgens The Wall Street Journal ontdekten onderzoekers van Amazon een manier om de ingebouwde veiligheidsmaatregelen van het systeem te omzeilen.

Daardoor zou het model informatie kunnen genereren die kwaadwillenden kunnen gebruiken voor cyberaanvallen. Hoe groot het risico precies was, is niet duidelijk. De ontdekking was voor Amazon echter serieus genoeg om de kwestie onder de aandacht te brengen van beleidsmakers in Washington.

Daarbij zou ook Amazon-CEO Andy Jassy persoonlijk betrokken zijn geweest. Samen met andere partijen uit de technologiesector zouden zorgen over het model zijn gedeeld met Amerikaanse functionarissen.

Wat volgde was een reeks spoedoverleggen binnen de overheid over de mogelijke gevolgen als het model breed beschikbaar zou blijven.

Anthropic en Washington lijnrecht tegenover elkaar

Volgens The Wall Street Journal nam de regering van Donald Trump vervolgens contact op met Anthropic-topman Dario Amodei. De boodschap was duidelijk: haal het model tijdelijk uit de markt totdat de kwetsbaarheid is opgelost.

Amodei zou zich tegen dat verzoek hebben verzet. Daardoor liep de situatie snel verder op.

De Amerikaanse overheid besloot uiteindelijk exportbeperkingen op te leggen aan het model. Als gevolg daarvan moest Anthropic Fable 5 vrijdagavond terugtrekken.

David Sacks, medevoorzitter van de Presidentiële Adviesraad voor Wetenschap en Technologie, bevestigde later dat de maatregel direct verband hield met de beveiligingszorgen.

“De regering heeft dit besluit met tegenzin genomen”, zei Sacks. Volgens hem had Washington gehoopt dat Anthropic vrijwillig maatregelen zou nemen.

Het incident is een zeldzaam voorbeeld van een overheid die rechtstreeks ingrijpt bij de uitrol van een commercieel AI-model.

Anthropic spreekt van misverstand

Anthropic zelf bestrijdt dat er sprake was van een ernstig veiligheidsprobleem. In een reactie stelt het bedrijf dat de zorgen gebaseerd zijn op een verkeerde interpretatie van de risico’s.

Volgens Anthropic ging het om een specifieke kwetsbaarheid die alleen onder beperkte omstandigheden kon worden misbruikt. Het bedrijf benadrukt dat het inmiddels werkt aan een oplossing.

Amazon wilde ondertussen niet bevestigen of het daadwerkelijk met overheidsfunctionarissen heeft gesproken over het model. Een woordvoerder verklaarde wel dat overheden regelmatig advies vragen over digitale veiligheidskwesties.

Volgens Sacks zullen de exportbeperkingen waarschijnlijk worden opgeheven zodra Anthropic de kwetsbaarheid heeft verholpen.

De zaak onderstreept hoe groot de inzet inmiddels is geworden in de wereldwijde AI-race. Waar techbedrijven jarenlang grotendeels vrij hun modellen konden ontwikkelen, lijkt Washington steeds vaker bereid om in te grijpen wanneer nationale veiligheid in het geding komt.