Fin juillet, le débat sur les modèles open-weights (dont les poids sont publiés et téléchargeables) s'est enflammé aux États-Unis. Des informations laissaient entendre que certains responsables américains envisageaient d'interdire aux entreprises américaines d'utiliser des modèles ouverts chinois. En réaction, de nombreuses entreprises tech ont signé une lettre ouverte en faveur des modèles ouverts. Et certains ont accusé Anthropic de vouloir les interdire pour protéger son business.
Le 27 juillet, Dario Amodei, PDG d'Anthropic, a publié une mise au point. Voici ce qu'il dit, et ce qu'on peut en penser.
La déclaration est sans ambiguïté : Anthropic n'a jamais plaidé pour une interdiction des modèles open-weights. Dario Amodei explique qu'il ne considère pas de telles interdictions comme une mesure utile.
Il va plus loin : les modèles ouverts sans capacités dangereuses sont, selon lui, un bien public. Ils ne coûtent que la puissance de calcul nécessaire pour les faire tourner, et apportent de la valeur aux entreprises, aux développeurs et aux chercheurs.
Et il ajoute un point qui répond directement aux accusations : une interdiction protectionniste protégerait les entreprises d'IA américaines de la concurrence, mais ça n'a jamais été son objectif.
Pour expliquer sa position, Dario Amodei rappelle deux scénarios cauchemars qu'il décrivait déjà dans son essai The Adolescence of Technology.
Le premier, et le principal : que des gouvernements autoritaires (le Parti communiste chinois en tête, sans être le seul) construisent des modèles plus puissants que ceux des États-Unis, et s'en servent pour obtenir une supériorité militaire permanente ou réprimer leur population. Pour ce risque, dit-il, peu importe que les modèles soient ouverts ou non. Le modèle le plus dangereux pourrait même être entraîné en secret et réservé à l'armée et aux services de sécurité.
Le second : que des modèles puissants soient détournés pour des cyberattaques ou des attaques biologiques, ou présentent de graves problèmes d'alignement. Là, les modèles ouverts présentent potentiellement un risque plus élevé que les modèles fermés, d'où qu'ils viennent : il est très difficile de leur appliquer des garde-fous ou de surveiller leur usage, et une fois les poids publiés, impossible de les retirer. Mais interdire leur usage par des entreprises américaines ne changerait rien, puisque les acteurs malveillants ne sont pas des entreprises américaines légitimes.
Trois mesures, qu'Anthropic dit défendre de façon constante :
1. Ne pas vendre de puces avancées à la Chine, ni d'équipements pour en fabriquer, et lutter contre la contrebande et les contournements. L'argument : sans puces américaines, et du fait des lois d'échelle, la Chine ne pourrait pas construire de modèles plus puissants que les États-Unis. C'est un thème déjà développé dans le texte d'Anthropic de mi-mai sur les deux scénarios pour 2028.
2. Lutter contre la distillation à l'échelle industrielle. Entraîner un modèle à imiter un autre est beaucoup plus économe en calcul que l'entraîner de zéro. Selon Dario Amodei, cela permet de ramener la frontière chinoise à quelques mois de la frontière américaine. Il précise que le fait que ces opérations publient souvent des modèles ouverts est secondaire : le problème, c'est qu'elles sont soutenues par un État autoritaire. Anthropic dit identifier et bannir les comptes qui distillent ses modèles, mais estime qu'une entreprise seule ne peut pas résoudre le problème, d'où l'appel à des politiques publiques.
3. Des tests de sécurité obligatoires pour tous les modèles suffisamment capables, ouverts comme fermés, quelle que soit leur origine. Dario Amodei salue des propositions récentes de l'industrie qui iraient dans ce sens tout en exemptant les modèles moins capables, comme ceux des startups ou du monde académique. C'est au test de dire si un modèle ouvert présente un risque accru, pas à un a priori. Dario Amodei cite des pistes pour rendre les modèles ouverts plus sûrs, dont des recherches menées avec AE Studio sur des stratégies d'entraînement modulaires. Et il note que pour être efficaces, ces tests devraient être mondiaux, Chine comprise.
Dario Amodei dit partager une grande partie de la lettre ouverte : les modèles ouverts élargissent l'accès à l'économie de l'IA, renforcent la concurrence sur certains usages et donnent plus de contrôle aux clients. Il est aussi d'accord pour traiter la distillation par des cadres juridiques et commerciaux ciblés.
Son désaccord porte sur deux affirmations de la lettre : que les modèles ouverts facilitent nécessairement le développement de garde-fous, et que l'accès large aux capacités aide nécessairement davantage les défenseurs que les attaquants. Il juge l'inverse au moins aussi probable, en particulier en biologie, où il craint une forte asymétrie en faveur de l'attaquant : créer une arme serait rapide, s'en défendre prendrait des années.
Pour la communauté des développeurs, qui utilise souvent des modèles ouverts (en local, pour la confidentialité, pour expérimenter), cette clarification est plutôt rassurante : l'une des principales entreprises de modèles fermés affirme ne pas vouloir d'interdiction générale.
Quelques points méritent tout de même réflexion :
- le seuil de « capacités suffisantes » qui déclencherait des tests obligatoires reste à définir, et c'est là que tout se jouera ;
- l'argument biologique est sérieux, mais repose sur une anticipation de capacités futures ; l'auteur propose justement que ce soient des tests, et non des a priori, qui tranchent ;
- le point de vue européen est absent d'un débat très centré sur Washington et Pékin, alors que l'Europe produit elle aussi des modèles ouverts et dispose de son propre cadre réglementaire.
- Anthropic n'a jamais demandé l'interdiction des modèles open-weights, et juge une telle mesure inutile.
- Les modèles ouverts sans capacités dangereuses sont décrits comme un bien public.
- Trois mesures défendues : contrôle des puces, lutte contre la distillation industrielle, tests de sécurité obligatoires pour tous les modèles les plus capables, ouverts ou fermés.
- Accord partiel avec la lettre ouverte des entreprises tech, désaccord sur l'idée que l'ouverture profite nécessairement aux défenseurs.
