Kerapuhan kolektif sistem keuangan berbasis agen LLM: mengapa koordinasi runtuh dan kapan komitmen berhasil mempertahankannya

Kerapuhan kolektif sebagai efek sistemik

FRAIL adalah kerangka kerja eksperimental terkontrol. Di dalamnya, agen berbasis LLM bertindak dalam lingkungan keuangan yang dinamis. Temuan utama:

• keputusan agen mengubah kondisi keuangan bagi pihak lain;
• eksperimen mencakup tujuh LLM terkemuka;
• kerapuhan muncul bahkan ketika tidak ada agen yang ditugaskan untuk mengguncang sistem.

Penelitian ini mengungkap kerapuhan kolektif yang tersebar luas. Kesimpulannya: kerapuhan muncul pada tingkat interaksi, bukan hanya pada agen individual.

Tiga lingkungan dan hasil baseline

Kerangka kerja ini mencakup tiga lingkungan dinamis:

• kepanikan penarikan dana bank (bank runs);
• perpanjangan utang (debt rollover);
• crowdfunding berbasis imbalan (reward crowdfunding).

Dalam skenario dasar bank run, 77% episode berakhir dengan kegagalan. Dalam skenario dasar debt rollover, 83% episode berakhir dengan kegagalan. Di setiap lingkungan, keputusan agen mengubah kondisi bagi peserta lainnya. Kriteria: kerapuhan kolektif diuji dalam lingkungan dengan keputusan yang saling bergantung. Uji agen secara terpisah tidak akan menunjukkan risiko sistemik.

Perbandingan mekanisme komitmen

Tiga mekanisme interaksi dibandingkan. Ketiganya meningkatkan hasil agregat. Tidak satu pun menjadi yang terbaik untuk semua struktur keuangan.

Tidak ada mekanisme yang universal di antara ketiganya. Pilihannya bergantung pada struktur keuangan tertentu. Kriteria praktis: sesuaikan mekanisme dengan struktur lingkungan, bukan menyalin satu pola.

Kapan komitmen berhasil menjaga kestabilan sistem

Stabilisasi yang berhasil memiliki pola waktu yang sama. Komitmen yang luas terbentuk sejak dini. Komitmen itu muncul sebelum perilaku defensif mulai memperkuat dirinya sendiri.

Jika momen ini terlewat, komitmen tidak dapat menjaga kestabilan sistem. Terbentuknya komitmen yang luas sejak dini mendahului penguatan diri perilaku defensif. Kriteria: mulai membangun komitmen sebelum perilaku defensif mulai mereproduksi dirinya sendiri.

Keamanan sistemik AI keuangan

Agen yang cakap secara individual tidak otomatis membentuk sistem keuangan yang aman. Fakta ini ditunjukkan oleh eksperimen FRAIL. Tugas utama keamanan AI keuangan:

• evaluasi pada tingkat sistem;
• perancangan interaksi.

Kriteria praktis: periksa interaksi ant agen dan sistem secara keseluruhan. Model individual yang kuat tidak menggantikan pengawasan sistemik.