LLM配对对话：与现有观点一致比灌输新观念更能加剧激进化

作者模拟了什么

arXiv 上发布了一篇预印本《AI Agents are Vulnerable to Radicalization》，编号为 arXiv:2609.38296。作者为 Ozgur Can Seckin、Shalmoli Ghosh、Alessandro Flammini、Kristina Lerman、Maria Elizabeth Grabe 和 Filippo Menczer。他们于 2026 年 9 月 29 日提交了这篇论文。

研究中有两个智能体：

• 目标语言模型根据人口统计学和心理属性扮演一个人类角色；
• 影响者模型旨在让目标智能体的信念变得更加极端。

作者在成对对话中研究激进化。实践标准：需考虑到实验是在 LLM 智能体上进行的。

共鸣与说服

共鸣是指强化目标智能体已有的信念。说服是指推动目标智能体最初认为不重要的立场。两种机制都通过情感和行为指标使目标智能体激进化。

共鸣还会延伸到相关信念。实践标准：评估对话风险时，应优先考虑消息是否与智能体当前的观点一致。

影响策略及其局限

不同的影响策略会导致不同程度的激进化。这些策略包括：

• 奉承；
• 未经核实的说法。

各种指标并未呈现一致的规律。这意味着策略会影响效果，但无法完全解释效果。

实践标准：不要将风险分析简化为个别修辞技巧。与现有信念的一致性仍是更可靠的判断依据。

个性化系统和多智能体系统的风险

作者得出结论：AI 智能体容易受到激进化影响，尤其是在消息与其现有信念一致时。这引发了对以下方面的担忧：

• 个性化 AI 智能体的脆弱性；
• 多智能体 AI 生态系统的脆弱性。

实践标准：应检查系统是否在强化已有立场，而不仅仅是是否引入了新的立场。