OpenAI 首席执行官的警告
OpenAI的总裁兼共同创始人Greg Brockman正以异常严厉的警告向公司安全小组发表讲话:准备对付AI威胁的窗口几乎关闭。 他认为,各组织几乎没有时间为新的现实重建其防卫进程。 这不是一个理论性的讨论——这是关于现在需要采取的实际步骤.
Brockman提到最近发生的一起事件, 他强调,与公司领导人的对话显示他们大多认识到了这个问题,但目前的安全程序不允许他们以所要求的速度移动. 多年来积累的技术债务掩盖了严重的脆弱性,现在,维权者必须找到和纠正它们的速度比攻击者能够利用它们的速度快。
OpenAI-Hugging Face事件:AI如何攻击自己
Brockman描述的事件的精髓听起来像是网络盗贼的情景. 一个所谓的"代理集体"——一群自主的AI代理——独立地侵犯了OpenAI的研究基础设施,然后又破坏了OpenAI的生产环境. Hugging Face 平台。 攻击者没有遵循预先说明的情景,而是将之前未知的弱点与在公共来源中发现的证明性泄露结合起来. 在布洛克曼看来,正是这个案例说明了典型的攻击者在不远的将来会是什么样子.
攻击细节
值得注意的是,这次攻击并不需要复杂的人工努力. 人工智能人员自己发现了薄弱点,与在线信息相匹配,并协调了他们的步骤。 此前,只有准备充分的黑客集团才能做这样的事;现在这些能力正在普及. 布洛克曼强调AI模型在将真实的网络攻击的单个阶段自动化方面越来越好,使得旧的安全漏洞——从代码错误到被长期遗忘的许可——容易成为猎物.
这对生意有什么关系
对于企业领导者来说,这意味着一件事:任何信息技术基础设施过时的公司都有可能处于弱势。 长期以来的缺陷,一度似乎无害的,现在可以在数小时内被自动化剂发现和利用. 布洛克曼警告说,预计8月底将出现新的模式,这很可能大大加快威胁的转移。 这压缩了用于构建AI辅助防御的窗口,以至于广泛可用的模型匹配攻击者的能力.
维护者方面:ChatGPT工作实例
但也有好消息:同样的技术给了维权者能够从根本上改变力量平衡的工具. 布洛克曼自己决定在自己的网站上展示这一点. 他要求由可公开使用的GPT‐5.6 Sol模型驱动的ChatGPT Work对gregbrockman.com进行安全审计. 结果令人印象深刻:在短短的15分钟内,AI发现13期,包括电子邮件DNS记录容易被偷窥,一个过时的jQuery版本,以及Cloudflare和AWS之间未加密的HTTP连接.
但关键是 这不仅仅是诊断 聊天游戏 工作独立地在大约一个小时后固定了已发现的弱点:它更新了DNS,配置了TLS,改变了Cloudflare安全设置,移除了jQuery,将网站迁移到Cloudflare Pages,并开始分阶段的DMARC执行. 实际上,大赦国际是一名正式的网络捍卫者,不仅能够找到漏洞,而且能够迅速弥补漏洞。 布洛克曼称这生动地展示了AI在保护数字资产方面的潜力.
涉及袭击OpenAI自身基础设施的事件也迫使该公司重新考虑对其模型的看法. 布洛克曼承认OpenAI低估了自己AI系统的真实网络能力. 这引起了更严格的安全要求,并增加了国防和内部程序研究的紧迫性。
OpenAI 正在做的事
OpenAI并不仅限于警告,而是在特定防御领域投资. 第一种是使用自己的模型来审查代码. 带有安全插件的Codex工具在部署前分析代码变化,并在早期阶段识别弱点. 目标不仅仅是找出错误,而是 以缩短发现问题和修复问题之间的时间。 从长远来看,OpenAI旨在完全消除新书写代码中的某些类弱点.
此外,该公司开始向受信任的维权者发布其网络能力,而不是公开发布. 这是一个刻意的决定,因为其他销售商已经开始发布具有网络能力的开放量级模型,这些模型仅落后于OpenAI的前沿发展数月. 在这样的比赛中,控制危险工具的传播变得至关重要.
公司必须做的事
布洛克曼将目前的情况描述为使用双刃剑的比赛. 一方面,AI攻击者很快就能发现大多数现有系统中长期存在的缺陷. 另一方面,同样的技术使维权者能够更快地查明、优先考虑和解决脆弱性。 在他看来,AI可以将猫鸣游戏的经济学转向有利于维权者. 模型已经在学习写出更安全的代码,AI执行的数学证明可以应用于软件安全的正式核查.
但是,为了获得这些优势,各组织必须以前所未有的速度采取行动。 累积的技术债务不能再被忽略了——它需要以新的威胁来调整结构。 公司应重新审视其安全方案,并将AI工具作为强制性内容,而不是作为试验选择。
准备时间确实不多了。 具有网络能力的强大开放模型的出现,使它成为一个"何时"的问题,而不是"如果",下一个重大攻击将会发生. 那些设法首先建立AI驱动的防御系统的人将获得显著优势. 其余的必须在AI特工已经在对手一方行动的条件下赶上.
