LLM智能体金融系统的集体脆弱性：协调为何崩溃，以及承诺何时能维系协调ેણ

集体脆弱性是一种系统效应

FRAIL 是一个受控实验框架。在其中，基于 LLM 的智能体会在动态金融环境中行动。主要观察结果：

• 智能体的决策会改变其他智能体面临的金融条件；
• 实验涵盖了七种领先的 LLM；
• 即使没有任何智能体被要求扰乱系统，脆弱性仍会出现。

研究发现，集体脆弱性广泛存在。结论是：脆弱性体现在交互层面，而不仅仅存在于单个智能体中。

三种环境与基线结果

该框架涵盖三种动态环境：

• 银行挤兑；
• 债务展期；
• 奖励型众筹。

在银行挤兑基线场景中，77% 的回合以失败告终。在债务展期基线场景中，83% 的回合以失败告终。在每种环境中，智能体的决策都会改变其他参与者面临的条件。评估标准：应在决策相互依赖的环境中检验集体脆弱性。孤立地测试智能体无法揭示系统性风险。

承诺机制：比较

研究比较了三种交互机制。三种机制都改善了总体结果，但没有一种在所有金融结构中都表现最佳。

这些机制中没有一种是通用方案。选择取决于具体的金融结构。实践标准：应根据环境结构选择机制，而不是照搬单一方案。

承诺何时能及时稳定系统

成功稳定系统的案例呈现出共同的时间模式。广泛的承诺早早形成，在防御行为开始自我强化之前就已出现。

如果错过这一时机，承诺就无法稳定系统。广泛承诺的早期形成，先于防御行为的自我强化。评估标准：应在防御行为开始自我复制之前启动承诺。

金融 AI 的系统安全

个体能力强大的智能体并不会自动构成安全的金融系统。这一点已由 FRAIL 实验所证实。金融 AI 安全的核心任务包括：

• 系统级评估；
• 交互设计。

实践标准：应检验智能体之间的交互和整个系统。单个强大的模型无法替代系统层面的控制。