Quand on utilise Claude au quotidien pour coder, on pense rarement à ce qui se passe en amont : comment l'entreprise décide qu'un modèle est assez sûr pour sortir. Chez Anthropic, ce cadre a un nom : la Responsible Scaling Policy, ou RSP. Le 24 février, sa troisième version a été publiée.
Ce texte est intéressant pour une raison rare : il commence par un bilan honnête. Ce qui a fonctionné, ce qui n'a pas fonctionné, et ce qu'Anthropic change en conséquence.
La RSP est un cadre volontaire qu'Anthropic s'impose pour limiter les risques catastrophiques liés à l'IA. La première version date de septembre 2023. À l'époque, les grands modèles de langage étaient essentiellement des interfaces de discussion. Aujourd'hui, ils naviguent sur le web, écrivent et exécutent du code, utilisent des ordinateurs et enchaînent des actions autonomes. Chaque nouvelle capacité a apporté son lot de nouveaux risques.
Le principe de départ tient en une logique « si… alors » : si un modèle dépasse un certain niveau de capacité, alors des protections plus strictes deviennent obligatoires. Chaque palier de protections correspond à un niveau de sécurité de l'IA, ou ASL (AI Safety Level) :
- ASL-2 et ASL-3 ont été définis en détail ;
- les niveaux suivants, ASL-4 et au-delà, avaient été volontairement laissés en grande partie ouverts, faute de savoir à quoi ressembleraient des modèles encore lointains.
Anthropic identifie plusieurs réussites.
Un moteur interne. La RSP a obligé l'entreprise à traiter certaines protections comme des conditions de lancement. Pour respecter le standard ASL-3, centré sur les risques d'armes chimiques et biologiques, Anthropic a développé des classifieurs qui filtrent les entrées et les sorties du modèle. Les protections ASL-3 ont été activées pour les modèles concernés en mai 2025, et l'entreprise estime que leur mise en œuvre s'est révélée faisable.
Une course vers le haut. Quelques mois après la publication de la première RSP, OpenAI et Google DeepMind ont adopté des cadres globalement similaires. Certaines entreprises ont aussi mis en place des classifieurs liés aux armes biologiques.
Une influence sur la loi. Des textes ont commencé à exiger des développeurs de modèles de pointe qu'ils publient leurs cadres de gestion des risques : la loi SB 53 en Californie, le RAISE Act à New York, et les codes de bonnes pratiques de l'AI Act européen.
C'est la partie la plus instructive.
Des seuils plus flous que prévu. L'idée était que franchir un seuil de capacité créerait un consensus dans l'industrie. En pratique, il est souvent difficile de dire si un modèle a vraiment franchi un seuil. La science de l'évaluation des modèles n'est pas assez mûre pour trancher. Anthropic a appliqué les protections par précaution, mais cette incertitude affaiblit l'argument auprès des autres acteurs.
L'exemple donné est celui des risques biologiques. Les modèles réussissent désormais la plupart des tests rapides de connaissances biologiques : impossible d'affirmer que le risque est faible. Mais ces tests ne suffisent pas non plus à prouver qu'il est élevé. Même des études plus poussées, comme un essai en laboratoire, donnent des résultats ambigus, d'autant que de nouveaux modèles sortent avant la fin des études.
Des pouvoirs publics plus lents que la technologie. Anthropic constate que l'environnement politique a évolué vers la priorité à la compétitivité et à la croissance, et que les discussions sur la sécurité peinent à avancer au niveau fédéral américain.
Des niveaux supérieurs hors de portée d'une seule entreprise. Les protections imaginées pour les niveaux les plus élevés pourraient être impossibles à mettre en place seul. Anthropic cite un rapport de la RAND selon lequel le plus haut standard de sécurité des poids d'un modèle, face aux attaquants les plus avancés, n'est pas atteignable aujourd'hui, et nécessitera probablement l'aide des services de sécurité nationale.
Face à ça, Anthropic écrit avoir refusé une solution de facilité : définir ASL-4 et ASL-5 de manière à pouvoir les respecter sans effort. L'entreprise préfère restructurer la politique avant d'atteindre ces niveaux.
La RSP distingue désormais deux ensembles de mesures :
- celles qu'Anthropic s'engage à mettre en place quoi que fassent les autres ;
- une correspondance ambitieuse entre capacités et protections, qui permettrait selon Anthropic de gérer correctement les risques si elle était appliquée par toute l'industrie.
Anthropic doit désormais publier une feuille de route de sécurité couvrant quatre domaines : la sécurité informatique, l'alignement, les protections et la politique publique. Ce ne sont pas des engagements contraignants, mais des objectifs publics dont l'entreprise évaluera ouvertement la progression.
Quelques exemples d'objectifs cités :
- lancer des projets de recherche très ambitieux pour atteindre des niveaux inédits de sécurité de l'information ;
- développer une méthode de red-teaming, probablement très automatisée, qui dépasse les contributions de centaines de participants à son programme de bug bounty ;
- tenir des registres centralisés de toutes les activités critiques de développement, et les analyser avec l'IA pour détecter des comportements préoccupants, y compris internes ;
- publier des propositions concrètes pour une « échelle réglementaire » : des règles qui se durcissent à mesure que le risque augmente.
Anthropic publiera des Risk Reports tous les 3 à 6 mois, avec quelques passages caviardés. Ils iront au-delà de la liste des capacités : ils expliqueront comment capacités, scénarios de menace et protections s'articulent, avec une évaluation du niveau de risque global.
Dans certains cas, ces rapports seront soumis à une revue externe par des experts indépendants, sans conflit d'intérêts majeur, qui auront accès à une version pas ou peu caviardée. Anthropic précise que ses modèles actuels ne l'exigent pas encore, mais que des pilotes sont en cours.
Pour un dev, la RSP peut sembler lointaine. Elle a pourtant des effets concrets :
- elle explique pourquoi certains modèles sortent avec des filtres sur des sujets sensibles, et pourquoi certaines requêtes sont refusées ;
- elle influence la législation que les entreprises qui déploient l'IA devront respecter, en Europe comme ailleurs ;
- elle montre comment un acteur majeur pense les risques, ce qui aide à évaluer les outils qu'on intègre dans nos produits.
Le plus intéressant reste la démarche : publier ce qui n'a pas fonctionné. C'est rare dans l'industrie, et c'est précisément ce qui rend le document utile à lire.
- La RSP 3.0 a été publiée le 24 février 2026, deux ans et demi après la première version.
- Elle reconnaît que les seuils de capacité sont plus ambigus que prévu et que les protections des niveaux les plus élevés pourraient être impossibles à mettre en place seul.
- Trois changements : séparer les engagements d'Anthropic des recommandations pour l'industrie, publier une feuille de route de sécurité, et produire des rapports de risque réguliers avec revue externe.
