L’annonce d’Anthropic met en lumière un problème qui prend de l’ampleur pour les fournisseurs de modèles de pointe : les campagnes de distillation à grande échelle visant à extraire les traces de raisonnement privées d’un modèle pour les intégrer à des systèmes concurrents. Dans ce contexte, la distillation consiste moins à réduire la taille d’un modèle qu’à collecter les tokens de raisonnement étape par étape qu’il produit lorsqu’il enchaîne ses réflexions. Anthropic affirme que les nouvelles protections réduisent d’environ 90 à 99 % le nombre de tokens de raisonnement collectés lors des tests surveillés. Pour les opérateurs et les acheteurs, l’enjeu est important : les traces de raisonnement concentrent des capacités émergentes de grande valeur et les résultats de l’ingénierie des prompts — ainsi que la propriété intellectuelle et les risques potentiels de double usage.
Sur le plan technique, la distillation utilisée comme tactique concurrentielle repose sur des requêtes systématiques qui incitent les modèles à révéler leur raisonnement intermédiaire, leur chaîne de pensée ou leurs éléments saillants, qu’un pipeline d’entraînement en aval peut ensuite exploiter. Les attaquants peuvent automatiser des millions de prompts, les faire transiter par des réseaux de serveurs mandataires ou des fermes de comptes, puis assembler les réponses dans des jeux de données afin de reproduire des capacités sans accéder aux données d’entraînement ni aux poids du modèle. Le point de vue d’Anthropic explique pourquoi les grands laboratoires considèrent désormais l’extraction massive de raisonnements à la fois comme un vecteur de vol de propriété intellectuelle et comme un enjeu de sécurité nationale : ces résultats peuvent permettre à des modèles concurrents de reproduire des comportements de haut niveau sans investissement proportionnel en R&D.
Anthropic détaille plusieurs mesures déployées : restreindre l’accès aux raisonnements protégés, détecter par algorithme les schémas de requêtes provenant de serveurs mandataires ou coordonnées, limiter automatiquement le débit et bloquer les comportements d’extraction, et suspendre les comptes associés aux campagnes de distillation. L’entreprise affirme également que le taux de faux positifs de son système est inférieur à 0,1 %. Ensemble, ces mesures combinent analyse comportementale, règles d’utilisation et application des politiques de la plateforme. Pour les clients professionnels des API et les architectes de plateformes, la question centrale concerne les compromis à faire : comment limiter l’extraction abusive tout en préservant la recherche légitime, les tests des développeurs et les processus de réglage fin ?
Anthropic a accusé Z.ai d’avoir tenté de distiller les capacités de Claude pendant le développement de GLM-5.3, une allégation qui soulève de véritables questions concurrentielles et juridiques. Le fait de désigner publiquement un acteur accentue la dynamique de course aux armements : les laboratoires renforceront ouvertement leurs défenses et déploieront en privé des mécanismes de détection plus élaborés, tandis que leurs adversaires multiplieront les serveurs mandataires, les extractions discrètes et l’obfuscation synthétique des prompts. Ce différend met également à l’épreuve les normes du secteur en matière de recherche responsable : quelles expériences sont légitimes, lesquelles relèvent de l’abus, et dans quels cas un audit indépendant ou des règles communes devraient-ils s’appliquer ?
Pour les professionnels qui développent des modèles ou en achètent, il y a deux enseignements pratiques à retenir. Premièrement, les plateformes doivent intégrer dès leur conception des mécanismes de télémétrie anti-extraction et des conditions d’utilisation des API qui définissent clairement les pratiques de recherche acceptables et les seuils de détection des abus automatisés. Deuxièmement, les équipes produit et sécurité doivent anticiper les faux positifs et les conflits avec la recherche légitime : des procédures de correction, des mécanismes d’appel et différents niveaux d’accès pour les chercheurs seront nécessaires pour éviter de freiner l’innovation tout en protégeant la propriété intellectuelle et la sécurité en aval.