Anthropic verwijdert verborgen tracker uit Claude Code na kritiek

Anthropic heeft een verborgen volgsysteem uit zijn AI-codeerassistent Claude Code verwijderd nadat een beveiligingsonderzoeker ontdekte dat de software ongemerkt gebruikers controleerde. De functie moest misbruik van de dienst tegengaan, maar leidde tot kritiek omdat Anthropic gebruikers nooit had verteld dat deze controles plaatsvonden.

De ontdekking werd gedaan door ontwikkelaar Thereallo, die in juni onderzocht hoe Claude Code intern werkt. Daarbij stuitte hij op verborgen instructies waarmee de AI onder meer controleerde of gebruikers via een proxy of een niet-officiële toegangspoort verbinding maakten. Ook zocht de software naar aanwijzingen dat de dienst mogelijk werd gebruikt door Chinese AI-bedrijven.

Verborgen controles moesten misbruik voorkomen

Volgens Thereallo was het systeem bedoeld om misbruik van Claude Code tegen te gaan. De software controleerde onder meer op ongeautoriseerde API-resellers, alternatieve toegangspoorten en pogingen om de technologie achter Claude te kopiëren.

Daarbij keek Claude Code onder meer naar aangepaste API-instellingen en domeinnamen die in verband worden gebracht met AI-bedrijven als DeepSeek en Zhipu.

Volgens de onderzoeker is het begrijpelijk dat Anthropic zijn technologie wil beschermen, maar had het bedrijf gebruikers daar wel open over moeten informeren.

Dit is geen kwaadaardige functie, maar wel een opvallende keuze voor een ontwikkelaarstool die afhankelijk is van vertrouwen.

Volgens Thereallo werden de controles bovendien verborgen met speciale Unicode-markeringen en gecodeerde domeinlijsten. In de documentatie of release notes werd de functie nergens genoemd.

Anthropic noemt het een tijdelijk experiment

Anthropic bevestigde de aanwezigheid van de functie. Engineer Thariq Shihipar liet op X weten dat het systeem in maart werd toegevoegd als experiment om accountmisbruik door ongeautoriseerde resellers tegen te gaan en Claude Code beter te beschermen tegen pogingen om het AI-model te kopiëren.

Volgens Shihipar beschikte het bedrijf inmiddels over andere beveiligingsmaatregelen, waardoor de verborgen controles niet langer nodig waren. De functie was volgens hem al gepland om te verdwijnen en is inmiddels volledig verwijderd uit de nieuwste versie van Claude Code.

Strijd tegen AI-destillatie neemt toe

De kwestie laat zien hoe gevoelig AI-destillatie inmiddels ligt binnen de sector. Bij deze techniek worden de antwoorden van een bestaand AI-model gebruikt om een nieuw model te trainen. Hoewel dat binnen onderzoek veel voorkomt, vrezen AI-bedrijven dat concurrenten de methode gebruiken om commerciële modellen sneller en goedkoper na te bouwen.

Anthropic beschuldigde eerder dit jaar DeepSeek, Moonshot AI en MiniMax ervan miljoenen antwoorden van Claude te hebben verzameld via frauduleuze accounts. Ook andere bedrijven nemen maatregelen. Zo verbood Alibaba eerder deze maand het gebruik van Claude Code binnen het bedrijf vanwege zorgen over de veiligheid.

Daarnaast zei Elon Musk in april dat xAI bij de ontwikkeling van chatbot Grok gedeeltelijk gebruik heeft gemaakt van modellen van OpenAI. Volgens veel kenners is AI-destillatie inmiddels een veelgebruikte techniek binnen de AI-sector.