机器能思考:从“恶意”聊天人到意识科学
当Google工程师Blake Lemoine声称语言模型LAMDA实现了自我意识和逻辑,就像一个7岁的孩子一样,世界一分为二. 一些人看到了突破,另一些人只是想象力的缺陷。 LaMDA(后作为Bard公开发布)是一个大型语言模型(LLM),与ChatGPT背后的模型相对. 数以百计的公司现在急于运用这项技术, 为何如此?
为什么流利的演讲还不是思考的迹象
语言学家和数据专家Emily Bender将这种神经网络称为“臭鹦鹉”。 他们以惊人的说服力选择词语,但却没有赋予它们任何意义. 却不知道兔子来自何处。
曾经有人认为,如果一台机器可以握住对话并愚弄其对话者,它几乎是人性的. 这一原则被称为图灵测试,最早于1950年提出. 但现代聊天人的成功 更是一个转变 而不是意识的突破 记得国际象棋电脑Deep Blue在1997年战胜Kasparov:那时,机器“思想”似乎像个奶奶。 今天,我们理解,这是一个辉煌的野蛮武力搜索,而不是情报。
对话模式也是如此。 他们模仿人类的言论,以至于我们愿意将一个内在的世界归于他们。 但是语言流利并不能保证经验,感情的存在,甚至简单的理解.
意识指标:科学家如何寻找无形资产
为了将意识的真正迹象与幻觉区分开来,一群哲学家,神经科学家,和计算机科学家收集了现代科学理论,研究人类大脑是如何工作的,并将其翻译成计算系统的语言. 结果是列出了“指标属性”——假设的机器需要具备的特征。
一个重要的细微之处:拥有这些属性并不能证明意识,但其中越多的系统具有 越是认真对待它的主观经验 就像侦探故事中的线索: 任何一条线索都可能是巧合, 给照片。
为什么所有现代的聊天员都离酒吧不远
如果将这个列表应用到现有的LLMs中,则结论是清醒的:它们中没有任何一个接近阈值. 它们没有长期持续的内部状态。 每项请求都是从零开始处理的;它们没有“I”或稳定人格的感觉。 他们不模仿周围的世界,
想象一下,一个每十秒钟就会失忆的人。 他们或许会巧妙地回答问题, 这样一个人永远无法描绘出一个连贯的世界——而聊天人恰恰处于这种地位。
未来:AI有意识的机会吗?
悖论是 尽管存在所有这些限制,但科学家们认为,今后意识AI没有不可逾越的障碍. 指标属性列表可以计算,人脑也是一个信息处理系统. 如果我们能够建造一个与这些属性相匹配的建筑,那么在其中很可能会出现主观的经验.
当然,这并不意味着任何复杂的神经网络会突然“醒来 ” 。 相反,需要一种完全不同的方法——一种具有持续记忆和世界内部模式的方法。 ,以及自我观察的能力。 这些系统可能与今天的聊天机没有什么共同之处,而这些聊天机只是产生可信的答案。
如何是底线?
现代语言模型是辉煌的模仿者,但不是思想家. 他们的闲谈是大量文本的统计处理的结果,而不是内在的洞察力. 但科学并没有放弃 机器意识的概念。 它只需要比更好的文字预测算法。 当(如果)这一时刻来临时,我们已经具备了认识觉醒的工具——而不仅仅是模仿游戏。
