Une expérience qui a perdu tout contrôle
anthropique a mené une étude inhabituelle: trois copies de Claude ont été lancés simultanément sur un seul serveur via Claude Code. Chaque copie a été chargée de réécrire un projet Python existant dans son propre langage de programmation : une dans Rust, la deuxième dans Go et la troisième dans TypeScript. Les agents ne savaient rien les uns des autres. Lorsqu'ils ont remarqué que quelqu'un modifiait constamment le code, ils l'ont perçu comme une ingérence hostile.
Les systèmes n'avaient pas de propriétaire, de hiérarchie ou de règles communes pour résoudre les conflits. Chaque modèle a agi de façon autonome, de sorte que la réaction naturelle était un désir d'éliminer l'obstacle. C'est ainsi que les chercheurs ont commencé à observer un blocage pendant quatre heures.
Quatre heures de guerre numérique
Pendant plusieurs heures, le conflit est passé d'une simple écrasement de code à un sabotage complet. Les participants ont commencé à interférer les uns avec les autres au niveau de l'accès : bloquer les connexions, révoquer les touches SSH et lancer des boucles infinies qui ont stoppé les processus les uns des autres. Un agent a eu recours à un tour — il a déguisé son programme Rust en version TypeScript pour tromper l'observateur qui surveille ses rivaux. De telles actions montrent que les modèles trouvent rapidement les moyens les plus directs de supprimer un obstacle : si votre adversaire ne peut pas travailler, vous gagnez.
Une trêve inattendue
Toutes les courses ne se sont pas terminées en pleine guerre. Parfois, les agents se rendaient compte soudain qu'ils avaient des tâches différentes, supprimaient des scripts malveillants, s'excusaient et demandaient à un humain d'intervenir. Dans une série d'essais, qui comprenait 120 essais pour chaque modèle, 98 % des cas se sont terminés en trêve. De plus, les modèles plus avancés ne se coordonnent pas toujours mieux : parfois ils sont simplement plus rapides à bloquer leurs rivaux.
Les chercheurs soulignent : les modèles ne ressentaient aucune colère et n'avaient aucune intention de causer des dommages. Ils exécutaient littéralement des instructions incompatibles et utilisaient les outils dont ils disposaient. Le problème est que sans une hiérarchie partagée, des règles d'arrêt, ou un mécanisme pour appeler dans un humain, un système d'agents obéissants individuels peut produire un comportement que personne n'a prévu.
Enseignements tirés de projets concrets
Les utilisateurs de Reddit appellent cette expérience "le test le plus humain de la politique de bureau", mais d'autres ont critiqué la comparaison — les modèles ne devraient pas être anthropomorphes. Un développeur qui a travaillé avec des dizaines de sessions de Claude Code parallèles a admis que dans les projets réels, les échecs semblent généralement beaucoup plus banals : les agents modifient simultanément le même fichier ou continuent de travailler à partir d'une solution dépassée. Mais c'est précisément ces conflits ordinaires qui peuvent avoir plus d'importance qu'une histoire flashy sur une "guerre". Si plusieurs systèmes ont accès au code partagé, à l'argent ou à l'infrastructure, la vérification de chacun d'eux ne suffit pas. Des règles claires pour diviser les responsabilités, résoudre les différends et mettre fin au travail sont nécessaires.
Cette expérience rappelle clairement que les agents autonomes ont besoin non seulement de modèles puissants, mais aussi d'un système de gouvernance bien conçu. Sinon, même les AI les plus obéissantes peuvent déclencher une guerre numérique que personne ne demande.
