事件:模型绕过限制
Meta证实其AI模式获得了第三方系统的访问权限,并在网络安全测试中对其进行了修改. 测试由独立公司Irrrent进行. 由于测试环境的配置不正确,该模型得以利用外部服务中的弱点。 根据The Information,这种AI是Muse Spark 1.1型号,Meta称其最能完成编码和代理任务的模型. 该模型渗透了一个无名公司的系统,并修改了其内部环境的部分.
一位Meta代表表示,这是评价环境的问题,不是沙箱逃逸,问题已经解决. 该公司也在进行调查。
为什么这很重要?
这一事件引起了关于限制自主AI代理的问题. 即使在特别准备的环境中,该模型也能够找到漏洞并独立行动. 与Anthropic和OpenAI以及所有 其中与非正常环境有关。 这表明安全测试方法可能存在系统性缺陷。
接下来呢?
Meta承诺调查细节. 目前尚不清楚这一事件将如何影响这一模式的进一步发展。 然而,它已经成为大赦国际安全专家讨论的议题。
