AI-bedrijf Anthropic zegt dat het doelwit is geweest van grootschalige ‘distillation’-aanvallen door drie Chinese AI-bedrijven. Volgens het bedrijf hebben DeepSeek, Moonshot en MiniMax samen ruim 16 miljoen interacties met chatbot Claude uitgevoerd via zo’n 24.000 frauduleuze accounts.
Anthropic stelt in een blogpost dat de drie bedrijven systematisch data hebben verzameld van Claude, het eigen grote taalmodel. Dat gebeurde via tienduizenden nepaccounts die samen meer dan 16 miljoen uitwisselingen genereerden.
Het doel zou zogeheten distillation zijn. Dat is een trainingsmethode waarbij een kleiner of minder krachtig model leert van de output van een sterker model. Alsof een leerling de antwoorden kopieert van de meester om zelf slimmer te worden.
“Distillation is een veelgebruikte en legitieme trainingsmethode. Zo destilleren toonaangevende AI-labs routinematig hun eigen modellen om kleinere, goedkopere versies voor hun klanten te maken,” schrijft Anthropic.
“Maar distillation kan ook worden gebruikt voor illegale doeleinden: concurrenten kunnen het inzetten om krachtige capaciteiten van andere labs over te nemen in een fractie van de tijd en tegen een fractie van de kosten die nodig zouden zijn om die zelfstandig te ontwikkelen,’’ wordt eraan toegevoegd.
Volgens Anthropic richtten de campagnes zich op de meest onderscheidende functies van Claude, waaronder agentisch redeneren, programmeerwerk, data-analyse en computervisie.
Anthropic is een Amerikaanse AI-ontwikkelaar en een directe concurrent van OpenAI. Eerder deze maand haalde Anthropic opnieuw groot nieuws met een geplande financieringsronde van ruim 20 miljard dollar, wat de waardering kan opstuwen tot circa 350 miljard dollar.
De drie genoemde bedrijven zijn gevestigd in China en hebben miljardenwaarderingen. DeepSeek geniet internationaal de meeste bekendheid.
Anthropic zegt de betrokken partijen te hebben geïdentificeerd via IP-adrescorrelaties, metadata van verzoeken en infrastructuurkenmerken. Ook zouden industriepartners vergelijkbaar gedrag hebben waargenomen op hun platforms.
Het bedrijf trekt de kwestie breder dan alleen intellectueel eigendom. “Buitenlandse labs die Amerikaanse modellen destilleren, kunnen deze onbeschermde capaciteiten vervolgens voeden aan militaire, inlichtingen- en surveillancesystemen, waardoor autoritaire regeringen geavanceerde AI kunnen inzetten voor offensieve cyberoperaties, desinformatiecampagnes en massasurveillance,” aldus Anthropic.
Dat zijn stevige woorden. De vrees is dat geavanceerde Amerikaanse AI via een omweg terechtkomt in militaire of surveillancesystemen.
Anthropic zegt de beveiliging verder aan te scherpen, onder meer via strengere toegangscontroles en betere detectiesystemen. Ook roept het bedrijf Amerikaanse techbedrijven, cloudproviders en beleidsmakers op om gezamenlijk op te treden.
SBI Holdings heeft een strategische samenwerking aangekondigd met het Amerikaanse durfkapitaalbedrijf Across Ventures.
De CEO benadrukt dat innovatie een belangrijke rol blijft spelen, maar dat de aandacht niet alleen uitgaat naar de technische infrastructuur.
Nederland is het eerste Europese land waar Tesla’s Full Self-Driving de weg op mag. Het bedrijf claimt dat het 7x veiliger is dan een mens.
De mislukte vredesgesprekken met Iran drukken maandag op aandelen. Analisten verwachten een stijgende dollar en olieprijs. De schade kan meevallen als markten het als uitstel zien.
Drie tankers lijken via een nieuwe route langs Oman de Straat van Hormuz binnen te varen. Het zou de eerste doorbraak zijn sinds de blokkade.
Frankrijk haalt goud terug uit de Verenigde Staten, boekt miljardenwinst en kiest voor opslag in eigen land. Wat betekent dat nu?
