交互式 XR 开发中的编码智能体评测:GenXR-Bench 结果
GenXR-Bench 已发布,这是一个包含 112 项专家级任务的基准测试套件,用于端到端评估 coding agent 在交互式 XR 开发中的表现:从功能完善和缺陷修复,到创建可在消费级设备上进行行为验证的应用。在受测的十个模型中,最佳 Pass@1 成绩为 50.9%;反复出现的失败包括处理传感器异步事件、将对象锚定到真实空间,以及理解物理情境中的交互。

GenXR-Bench具体测量什么
GenXR-Bench评估编码智能体开发XR程序的能力。测试贯穿整个流程:从理解任务到应用运行时的行为。作者指出了这一领域的关键特点。XR应用运行在动态的物理3D环境中。运行时的可靠性同时取决于三个因素:
- 用户持续移动;
- 空间输入;
- 对周围环境的感知。
这些因素会共同作用。因此,仅静态检查代码是不够的。实际评估标准是:评估XR智能体时,应看可运行的应用,而不是代码差异。
基准测试的组成:112项专家设计的任务
基准测试任务由专家设计。任务集涵盖三类工作。
| 任务类型 | 任务数量 |
|---|---|
| 功能实现(feature implementations) | 24 |
| 错误修复(bug repairs) | 21 |
| 应用生成(application generation) | 67 |
GenXR-Bench总共包含112项任务。应用生成占据了任务集的大部分。功能实现和错误修复则用于检验对现有代码进行的局部修改。实际评估标准是:该任务集适合评估智能体处理不同规模工作的能力,而不只是从零开始创建应用。
留出测试:脚本化和自适应交互
留出测试结合了脚本化和自适应交互。测试使用程序化和视觉断言,评估基本功能和运行时行为。测试关注的不是编写了什么代码,而是交互过程中实际发生了什么。

作者还单独验证了测试集的质量。与对124个候选应用进行的盲测专家评估相比,该测试集的准确率达到96.5%。这些应用在消费级XR设备上运行。实际评估标准是:留出测试能够提供可复现的信号,而在头显中进行人工检查难以规模化。
结果:10个模型,最高达到50.9%
作者评估了10个模型。表现最强的配置overall Pass@1也仅达到50.9%。该指标统计首次尝试就解决的任务。最佳结果与完全通过整个任务集之间仍存在明显差距。
配置对比基于同一指标和相同任务。实际评估标准是:50.9%的overall Pass@1为该任务集上的预期表现设定了上限。这一结果不能自动外推到其他领域。
常见错误:传感器、锚定、交互
错误分析发现了反复出现的问题:
- 对传感器异步生命周期的理解;
- 对象的物理锚定;
- 具身交互的语义。
这些错误涉及运行时行为,而不是语法。传感器的异步生命周期决定应用何时接收数据。物理锚定将虚拟对象与现实空间关联起来。具身交互语义规定了应用如何响应用户操作。
实际评估标准是:验收XR代码时,重点检查这三个方面。能通过简单任务的智能体,仍可能在传感器事件和空间锚定方面出错。
如何将基准测试用于智能体选择
使用基准测试结果时,可按以下步骤进行:
- 在相同任务集上比较各配置的overall Pass@1;
- 关注与实际项目相近的任务类型;
- 检查留出测试能否在可用的XR设备上复现;
- 留意论文版本:v1于2026年10月21日提交,v2于2026年10月22日提交。
代码可通过论文页面上的链接获取。该基准测试针对XR程序开发,不能替代对其他领域的检查。实际评估标准是:智能体在GenXR-Bench上的成绩可作为初筛依据,最终决策则应基于应用在目标设备上的运行情况。
常问问题
相关材料
所有材料
从标量奖励到帕累托前沿:基于多目标强化学习的 LLM RTL 综合
提出了一种训练语言模型的方法,使其生成一组 RTL 候选方案,在面积、延迟和功耗之间实现不同的权衡;奖励根据各方案对帕累托前沿超体积的贡献构建。在 RTLLM v2 上,相对超体积较未进行 PPA 优化的基线版本提高了 13.3 个百分点,较单目标强化学习提高了 14.4 个百分点。
5 十一月 2026
医疗 LLM 能获知指南更新,却常常仍按旧规则回答
ChronoEvo 对 1709 项临床指南变更的研究显示:在基础模型中,90.8% 的回答记录了新变化,但只有 58.5% 完整应用了这些变化;这一差距达 32.3 个百分点,并且在 14 个模型中均存在。即使提高更新内容的显著性,也未能显著提升将新规则完整纳入临床指南的比例。
4 十一月 2026
封闭式 LLM 智能体的世界模型:在风险点进行校正
提出了 PAWM——一种外部预测器,不会重复逐步观察,而是在可能发生故障时介入,引导智能体避开错误操作。经过基于合成场景的 SFT 和 GRPO 协同训练后,该方法使 Claude Sonnet 4.5 在 ScienceWorld 和 WebArena-Lite 上分别提升了 24.3% 和 7.7%。
4 十一月 2026