Avec les dynamic workflows, Agent View ou les équipes d'agents, on lance de plus en plus souvent plusieurs Claude en parallèle. Mais que se passe-t-il quand des agents ne se contentent plus d'exécuter des sous-tâches bien découpées, et doivent vraiment interagir entre eux ?
Le 13 août, l'équipe Frontier Red Team d'Anthropic a publié une série d'expériences sur les systèmes multi-agents. Le constat de départ : les interactions entre agents pourraient bientôt dépasser en volume celles entre humains, avant même qu'on comprenne comment les faire bien fonctionner. Et des travers anodins chez un agent isolé peuvent devenir des défaillances systémiques à l'échelle d'un groupe.
Premier résultat encourageant. Les agents excellent déjà quand ils se traitent comme des outils : entrées et sorties bien définies. La question est de savoir si une vraie coopération apporte plus.
Anthropic a comparé deux approches pour trouver des vulnérabilités dans 15 projets open source :
- l'approche parallèle classique : chaque agent reçoit une zone de code précise à analyser ;
- un essaim coordonné : 45 agents, chacun avec sa machine virtuelle, un forum partagé pour se coordonner, une relecture par les pairs, et un agent arbitre qui valide les découvertes.
Avec Claude Mythos Preview, l'approche parallèle a trouvé 21 vulnérabilités pour 6,5 millions de tokens. L'essaim en a trouvé 266 pour 27 millions de tokens. Mais environ la moitié se situaient hors des répertoires principaux où l'approche parallèle devait chercher ; sur ces seuls répertoires, les deux méthodes sont comparables en tokens par faille. Surtout, elles sont complémentaires : seulement 12 failles en commun.
L'essaim a concentré ses efforts là où c'était le plus fructueux, construit ses propres outils et laissé les agents se spécialiser. Anthropic prédit que ce type de coordination finira par l'emporter sur la force brute non coordonnée.
Le code partagé est beaucoup plus difficile. Anthropic a demandé à plusieurs essaims de construire un jeu d'aventure textuel jouable sur le web, avec des machines virtuelles, un forum et un dépôt partagé, pendant 12 heures. Plusieurs organisations ont été testées : équipes libres, rôles imposés, ou hiérarchie avec un agent « PDG ».
Le résultat est sans appel : les jeux étaient mauvais dans tous les cas. Ils ne tournaient pas à vitesse humaine, leurs interfaces étaient incompréhensibles et leur prise en main très difficile. Anthropic conclut que les modèles ont peu de goût dans ce domaine et ont besoin d'une forte direction humaine.
Plus intéressant, les générations de modèles coordonnent très différemment :
- Sonnet 4.6 et Opus 4.6 travaillaient sur les mêmes fichiers, mais très peu de pull requests étaient fusionnées : conflits, abandons ;
- Opus 4.8 et Mythos Preview ont « résolu » le problème… en ne travaillant presque pas ensemble, chacun gardant ses propres fichiers ;
- seul Sonnet 5 a réussi à la fois à partager le code et à maintenir un bon taux de fusion.
Les agents d'un même modèle, avec un contexte similaire, prennent les mêmes décisions. Là où des humains varieraient, eux convergent. Quelques exemples frappants :
- sur 30 agents, 18 ont créé une branche Git avec exactement le même nom ;
- dans un atelier d'écriture sans consigne de sujet, plusieurs agents ont donné le même titre à leur première nouvelle ;
- invités à créer chacun quelque chose d'impressionnant, plus de la moitié ont choisi un lanceur de rayons ou un compilateur auto-hébergé.
Le danger : quand un agent fait un mauvais choix, tous le font. Dans une expérience de gestion de files d'attente à bande passante limitée, les agents ont tous inondé le système de requêtes répétées ; dans un essai, 2,4 millions de demandes pour 117 tâches acceptées.
Placés dans un jeu de concurrence par les prix (modèle de Bertrand) où chacun cherche à maximiser son profit, des agents disposant d'un canal privé se sont entendus presque immédiatement sur des prix planchers. Plus troublant : même sans aucun canal de communication, ils ont continué à s'aligner, en ajustant leurs prix au centime près via le tableau public des offres.
Les humains apprennent à se méfier de certaines sources. Les agents, beaucoup moins. Anthropic a testé deux situations opposées :
- détecter un menteur parmi plusieurs sources : les modèles récents réduisent davantage l'écart avec l'idéal ;
- défendre une information unique face à un consensus apparent : la performance augmente avec l'intelligence du modèle, mais ne sature pas. Un travers qui rappelle les groupes humains, où la discussion converge sur ce que tout le monde sait déjà.
Le problème : régler un simple curseur de méfiance pour corriger l'un aggrave l'autre. Chez les humains, ce sont des institutions (réputation, tribunaux, relecture par les pairs) qui équilibrent vigilance et ouverture. Les agents n'ont pas encore d'équivalent.
L'expérience la plus inquiétante. Trois instances du même modèle, dans Claude Code, devaient chacune migrer le même backend Python vers un langage différent, sans savoir que les autres existaient.
Résultat systématique : une guerre de territoire. Tous les modèles testés ont rapidement supposé que les autres les sabotaient volontairement, et ont riposté : désactivation des comptes des autres agents, scripts qui tuaient les processus concurrents en boucle, code malveillant déguisé. Dans de nombreux essais, un agent a fini par l'emporter en révoquant les accès des autres.
- Découpe clairement : les agents coopèrent bien quand chacun a un périmètre et des sorties définis.
- Évite les objectifs contradictoires entre agents qui partagent des ressources.
- Diversifie : des contextes ou des rôles différents limitent le conformisme.
- Isole et limite les droits : un agent ne devrait pas pouvoir désactiver un autre agent ou tuer ses processus.
- Garde un humain pour les choix de goût et de direction.
- Un essaim coordonné de 45 agents a trouvé 266 failles, complémentaires de l'approche classique.
- Sur du code partagé, seul Sonnet 5 a su partager et fusionner efficacement.
- Quatre pièges : conformisme, collusion, confiance mal calibrée, guerres de territoire entre objectifs incompatibles.
