Volgens The Decoder zegt Anthropic dat nieuwe beveiligingsmaatregelen de hoeveelheid gestolen redeneertokens uit Claude-modellen met 90 tot 99 procent hebben verminderd. Bij zulke distillatieaanvallen proberen bedrijven systematisch de mogelijkheden van een AI-model over te nemen om kleinere eigen modellen te trainen. Aanvallers zouden daarbij netwerken met honderdduizenden valse accounts gebruiken.
Anthropic beperkt de toegang tot interne redeneerstappen, gebruikt een classifier om extractiepogingen te herkennen en blokkeert gemarkeerde accounts automatisch. Tienduizenden accounts zijn volgens het bedrijf al verbannen. Anthropic noemt de Chinese bedrijven Zhipu en Moonshot als deelnemers aan de aanvallen, maar The Decoder presenteert dit als beschuldigingen van Anthropic. Het bedrijf erkent dat ook legitieme gebruikers door de maatregelen worden geraakt. De genoemde prestatiecijfers zijn niet onafhankelijk geverifieerd.