AI的认知局限性:阻止模型真正思考的原因
基因和代理系统已经可以写入代码,进行对话,并解决狭义的任务. 但是,当你试图在长期项目或不寻常的情况下使用它们时,它很快就变得明显:在表面流畅的背后,常常是缺乏持续的推理,记忆,以及自我控制. 最近公布在arXiv(2608.02553)上的一项调查试图将这些问题系统化,并勾画一条从“聪明执行者”到真正具有认知能力的系统的道路。
该作品的作者——塔耶·阿金雷勒,辛杜哈·彭查拉,诺尔巴赫什·阿米里·戈利拉尔兹,苏迪普·米塔尔,以及沙赫拉姆·拉希米——收集和分类了对当前AI能力与认知行为所需条件之间的差距的研究. 他们不仅列举不足之处,还提出了涵盖五个关键层面的分类。 这不仅仅是一个理论框架:它让开发者看到哪些能力仍然支离破碎,应当集中努力。
认知差距的五个层面
第一个维度是 持续状态建模它涉及一个系统长期维持和更新世界内部模型的能力。 对于大多数当前模型来说,上下文仅限于一个关注窗口,因此它们“忘记”早期的相互作用,或无法将当前事件与过去的事件正确联系起来。 这对需要规划和顺序决定的任务至关重要。
第二个维度是 目标定向自治. 一个模型也许能够制定目标,但在整个复杂情景中坚持目标是一个不同的问题。 代理人往往在第一次意外结果时偏离预定计划,因为如果没有外部干预,它无法调整其战略。
第三维是 自我监测和控制。这包括评估自己行为、注意错误、回答疑问和校准信心的能力。 现代基因模型往往表现出错误的过度自信,内部核查机制要么不存在,要么只是作为额外的处理后步骤运作。
第四个是 环境互动. 要在现实世界中运行,一个代理人不仅要得到反馈,还要积极进行实验,探索状态空间,从失败中吸取教训. 目前,大多数系统都接受了关于静态数据集的培训,无法实时真正“探测”环境。
第五维是 学习和适应。这是基于新经验改变行为的能力,而不只是进一步训练被标记的例子。 终身学习、跨任务技能的转让、对不断变化的条件的稳健性,仍然是尚未解决的问题。
ACIA的结构和以认知为中心的评价
为了将所有五个方向结合起来,作者提出了概念结构,即 适应性认知智能架构它不是一个现成的产品,而是一个框架:它描述了如何将持续状态、目标设定、自我监测、环境互动和学习模块与单一系统联系起来。 作者认为,这种建筑应作为未来实验和工程工作的基础.
调查中特别注意: 以认知为中心的评价传统的基准检验单个任务的准确性,但并不衡量一个系统是否能够维持远距离推理、适应新事物或控制自己的行动。 新的方法认为,测试应围绕这些认知功能进行;否则,将错误地评价实地的进展。
接下来呢?
调查中的分类学是为了给分散的研究带来秩序. 开发者不收集一些孤立的技巧,如改进内存或新的关注机制,而是获得常见的问题地图. 这在通往 认知AI 最终 人工一般情报。 。 。
目前,基因模型和代理模型仍然是强有力的,但有限的工具。 当不需要坚持状态、内部批评或长期目标时,他们能很好地完成任务。 但是,真正的思维——具有自我调节、从经验中学习和在不可预测的环境中适应的能力——仍然超出其范围。 将这些限制系统化,是将这一承诺从营销主张变为工程现实的第一步。
