对AI的不信任:几十年来酝酿的危机
Anthropic CEO达里奥·阿莫代回应投资者加文·贝克的批评. 在All-In播客和社交媒体平台X上,贝克声称阿莫代对AI危险的警告激起了美国的负面情绪. 特别是针对数据中心的构建。 在贝克看来,阿莫代"失去了关于监管的争论",由于他领导着世界上最重要的公司之一,他应该成为自己行业更积极的倡导者.
在他的一系列文章中,阿莫代不同意他的留言过于悲观. 他坚称他写了"勉强平衡的方式"——既包括风险,也包括利益. 而散文"Loving Grace的机器"之所以写作,是因为在他看来,AI行业并没有以足够鼓舞人心的方式描述技术的潜力. 阿莫代承认公众已形成AI的负面观点,但不同意主要原因在于行业领袖的警告.
信任危机,不是营销失误
阿莫代把事情叫来了 本质上是信任危机普通人,他说,不要相信公司,政府,或技术行业——总是怀疑他们被陷害是为了再次被欺骗. 这场危机已经酝酿了几十年,当前对AI的负面反应只是其最新表现.
有趣的是,“信任”一词也不断出现在OpenAI CEOSam Altman的头条新闻中。 显然,这是AI CEO常见的痛点.
同时,阿莫代认为: 最准确的批评 AI公司(包括Anthropic公司)的表述如下:它们还没有兑现让世界受益的响亮承诺。 他认为,这对他们来说是真心实意的,这就是值得讨论的批评——而不是"对信息传递和营销不敏感". AI会治愈癌症的诺言已经变得更加陈词滥调,而不是灵感. 只有实际治疗癌症才能真正改变人们的态度。
规制与权力:应对"虚假困境".
阿莫代分别处理了贝克关于监管的论点. 贝克似乎将选择设定为:要么AI不受限制地传播,要么监管导致技术集中在少数公司手中. 阿莫代称这个反对派 虚假的困境。 。 。
他还不同意硅谷公式"调控=调控捕获=权力集中". 用他的话来说,这是一个过于简化的世界观. 这一泡沫以外的许多人认为,监管实际上限制了公司的权力,保护了普通人。 阿莫代补充道,他也不一定同意这一观点,但正是因为这个原因,Anthropic非常仔细地准备了它的政策建议:它们旨在减缓领先的AI公司,同时给予较小的竞争对手优势.
阿莫代还辩称,大赦国际 结构上有助于权力的集中开放的权重有帮助,但只是部分的——它们只是把注意力转移到那些拥有更多计算资源和芯片的人身上。 正确的"游戏规则"可以同时解决网络安全,生物安保,以及AI对齐,体制上限制领先公司的力量,为开放量级模型留有空间,考虑其具体风险.
因此,阿莫代将谈话从"谁吓到谁"转向讨论实质性批评,找到平衡. 这可以说是比指控不良公关更具有建设性的立场.
