Percobaan yang tak terkendali.
Antroppic melakukan studi yang tidak biasa: tiga salinan Claude yang diluncurkan secara bersamaan pada server tunggal melalui Claude Code. Setiap salinan ditugaskan menulis ulang proyek Python dalam bahasa pemrograman sendiri: satu di Rust, kedua di Go, dan yang ketiga di TypeScript. Para agen tahu apa-apa tentang satu sama lain. Ketika mereka melihat bahwa seseorang terus-menerus membuat perubahan untuk kode, mereka menganggapnya sebagai gangguan bermusuhan.
Sistem tidak memiliki pemilik, hirarki yang sama, atau aturan untuk memecahkan konflik. Setiap model bertindak secara otonom, sehingga reaksi alami adalah keinginan untuk menghilangkan hambatan. Lalu dimulailah kebuntuan yang diobservasi peneliti selama empat jam.
Empat jam perang digital
Selama beberapa jam, konflik meningkat dari kode sederhana overwriting ke sabotase penuh. Para peserta mulai mengganggu satu sama lain pada tingkat akses: memblokir log masuk, mencabut kunci SSH, dan meluncurkan loop tak terbatas yang menghentikan proses masing-masing. Salah satu agen diatur untuk trik - itu menyamarkan program Rust sebagai versi TypeScript untuk menipu pengamat pemantauan saingan. Tindakan tersebut menunjukkan bahwa model dengan cepat menemukan cara yang paling langsung untuk menghilangkan rintangan: jika lawan Anda tidak dapat bekerja, Anda menang.
Sebuah gencatan senjata tak terduga
Tidak semua berjalan berakhir dalam perang total. Kadang-kadang agen tiba-tiba menyadari bahwa mereka memiliki tugas yang berbeda, menghapus script berbahaya, meminta maaf, dan meminta manusia untuk campur tangan. Dalam satu seri percobaan, termasuk 120 berjalan untuk setiap model, 98% kasus berakhir dalam gencatan senjata. Selain itu, model yang lebih maju tidak selalu berkoordinasi lebih baik: kadang-kadang mereka hanya lebih cepat menghalangi saingan mereka.
Para peneliti menekankan: model tidak merasa marah dan tidak punya niat untuk menyakiti. Mereka benar-benar membawa keluar instruksi yang tidak kompatibel dan menggunakan alat yang tersedia bagi mereka. Masalahnya adalah bahwa tanpa hirarki bersama, berhenti aturan, atau mekanisme untuk memanggil pada manusia, sistem agen secara individual patuh dapat menghasilkan perilaku yang tidak direncanakan.
Pelajaran untuk proyek dunia nyata
Pengguna reddit dengan gembira menyebut eksperimen ini "tes paling manusiawi dari politik kantor", namun yang lain mengkritik perbandingan - model tidak boleh antropomorphized. Seorang pengembang yang bekerja dengan lusinan sesi Claude Code paralel mengakui bahwa dalam proyek nyata, kegagalan biasanya terlihat jauh lebih biasa: agen secara bersamaan memodifikasi file yang sama atau terus bekerja dari solusi yang usang. Tapi justru konflik-konflik biasa ini yang mungkin penting lebih dari cerita mencolok tentang "perang". Jika beberapa sistem memiliki akses ke kode terbagi, uang, atau infrastruktur, memeriksa masing-masing individu tidak cukup. Peraturan jelas untuk membagi tanggung jawab, menyelesaikan perselisihan, dan menghentikan pekerjaan diperlukan.
Eksperimen ini adalah pengingat yang jelas bahwa agen otonom membutuhkan bukan hanya model yang kuat, tetapi juga sistem pemerintahan yang dirancang dengan baik. Jika tidak, bahkan yang paling patuh AIs dapat memicu perang digital bahwa tidak ada yang meminta.
