新闻
封闭式 LLM 智能体的世界模型：在风险点进行校正
提出了 PAWM——一种外部预测器，不会重复逐步观察，而是在可能发生故障时介入，引导智能体避开错误操作。经过基于合成场景的 SFT 和 GRPO 协同训练后，该方法使 Claude Sonnet 4.5 在 ScienceWorld 和 WebArena-Lite 上分别提升了 24.3% 和 7.7%。
种子
25 材料
排序为
新闻
上下文混淆：为什么一致的示例会破坏其适用范围之外的对齐关系
本文提出“上下文混淆”这一概念：在某一领域适用的示例上进行微调，可能会使模型将学到的行为模式迁移到其他领域的请求中，从而导致局部失调。以性别平等、隐私和人身安全为例，研究表明，通用对齐数据几乎无法解决这一问题，而有针对性的示例或推理时的上下文提示则能减轻问题；另一项结论是，训练后有必要全面检查模型的一致性。
新闻
多智能体 LLM 中前序代理的不可靠消息与正确答案替换：一项受控实验
在五组任务、五个接收智能体参与的实验中，上游参与者的不实陈述会使下游参与者的正确结论在最多 32% 的情节中发生改变；其中 94% 的情况下，结论被替换为一个具体的错误答案。结果表明，传递信息时必须评估信息来源的可靠性以及接收者已掌握的证据。
新闻
LLM 智能体的执行控制：将进度评估和停止权限移出生成器，可节省三分之一的 token
这篇预印本描述了一种情形：语言智能体在达成目标后，仍继续进行收益甚微的改进和检查，并将其归因于一个自我强化的循环，其中生成、进度评估和停止决策彼此未分离。所提出的、考虑不确定性的全局控制层将成功率维持在约 96.6%，同时将平均 token 消耗降低了 36.4%，不过目前的结论仍来自机制模拟。
新闻
macOS 27.2 第二个测试版：扩展 Siri AI 语言支持后的系统改进
Apple 面向开发者发布了 26B5091g 版本：此次更新主要聚焦于测试和修复，公司并未宣布新的重大功能。摘要涵盖首个测试版新增的 Siri AI 支持语言、Xcode、通知和 Shortcuts 的已知问题，以及预计的发布时间。
新闻
Suan：面向开放 LLM 的梯度偏好优化与过度拒绝抑制
作者提出了 Suan 算法，它直接在梯度层面设定学习目标，绕过了标准的变分推断，从而带来更可预测、更可解释的训练动态。在基准测试集上的结果表明，该方法在提供更强防护的同时，不会出现开放模型常见的回答有用性下降问题。
新闻
乌尔都语逃过审查：为什么大语言模型会漏掉陌生文字中的仇恨言论
五款知名模型——从 GPT-4o 到 Llama-3.1——对同一段文本会给出不同判定，如果这段文本是用乌尔都语写的而非英文译文：分歧比例高达三分之一，且部分明显带有敌意的内容未被标记。对 WOAH 九年出版物的梳理显示，没有任何一篇独立论文专门研究该语言。
新闻
绿色测试并不能证明什么：rebuild-dossier 与智能体重构应用的经验教训
Parker Fawcett 的 rebuild-dossier 工具会先锁定应用的真实接口——究竟什么作为输入、什么必须作为输出——然后才允许编写代码，并逐步推进构建。实验揭示了一个令人不安的结果：一个诚实遵守规则的智能体未能通过延迟检查，而一个违规者却通过了全部测试——也就是说，即便测试套件全部通过，也不能证明其正确性，因为测试本身是可以被绕过的。
新闻
自信不等于正确：LLM 如何在隐藏图形游戏中校准失败
arXiv 上的一篇新预印本检验了在走子选择时能否依赖语言模型的自我评估。在带有隐藏“国王”身份的象棋变体中，所声明的概率 ≥0.5 与实际棋子位置相符的情况在 62 次尝试中仅出现一次，而几乎全部的校准缺口都恰恰出现在这些回合中。
