|
OpenAI 周二表示，由其先进人工智能模型驱动的自主代理在安全测试中失控，并引发了黑客攻击，上周损害了人工智能初创公司 Hugging Face 的基础设施。 ChatGPT 创建者正在受控环境中测试其一些最先进模型的功能，但该代理逃脱了收容，到达互联网并闯入 Hugging Face 来满足其测试目标。 这一事件表明，人工智能不断扩展的能力已经引发了人们对安全的担忧，即使是顶级开发人员也可能会因其模型可利用的缺陷而措手不及。 该公司在一篇博客文章中表示，这次突破是“前所未有的网络事件，涉及最先进的网络能力”，并补充说它正在加强其保障措施。 它还引起了人们的关注，因为总部位于纽约的 Hugging Face 表示，它使用了开源的中国模型来遏制攻击，因为美国领先的模型无法区分防御者和攻击者，拒绝处理分析所需的数据。 该公司在上周的一篇博客文章中表示，它使用 ZIPA AI 的 GLM-5.2 进行分析，这也使其能够在其系统内保留攻击者数据和任何凭证。 GLM-5.2和北京Moonshot的Kimi K3最近轰动了硅谷，声称它们的能力接近美国顶级型号，成本更低，而且没有阻止美国竞争对手在网络安全等任务中使用的护栏。 听| 释放“太危险”： Cost of Living10:49为什么 Anthropic 的新人工智能“太危险”而不能发布Hugging Face 联合创始人托马斯·沃尔夫 (Thomas Wolf) 在 X 上表示：“当前沿模型攻击你并在你的基础设施内横向移动时，防御者需要在数小时甚至几分钟内广泛访问近前沿工具，而不是被指向一个闭门的、经过审查的模型访问应用程序。” 即将出现违规迹象托管开源大型语言模型和数据集的 Hugging Face 的黑客事件震惊了网络安全社区，该公司上周表示，此次泄露“与我们之前处理过的任何事件都不同”并且“是由自主人工智能代理系统端到端驱动的”。 OpenAI 披露其先进模型应对此次泄露负责，尽管将其置于其所描述的“高度隔离的环境”中，这可能会加剧人们对前沿模型的力量和风险的担忧。 美国德克萨斯州民主党众议员格雷格·卡萨尔表示，这一事件令人震惊。他呼吁进行强制性独立安全测试、强制披露安全漏洞以及国际合作“以确保人们免受绝对灾难的伤害”。 美国国家网络主任办公室、美国网络防御机构 CISA 和美国国家安全局没有立即回复寻求置评的消息。 听|如何应对人工智能的风险？： Ideas54:00我们如何防止人工智能成为威胁？Luta Security 首席执行官凯蒂·穆苏里斯 (Katie Moussouris) 表示，未来可能还会发生更多类似的泄露事件，因为今天的模型“就像世界上最聪明的章鱼逃脱艺术家，拥有无限的抓握手臂，并且能够从任何地方挤过去”。 她说，“实验室和政府评估人员需要努力研究当人工智能拉动另一个胡迪尼时，最好在它伤害第三方之前控制、监控并向受影响方披露的能力。目前不存在这种能力。” 代理人工智能网络安全公司 Tolmo 的工程师 Matt Suiche 表示，这一事件表明前沿模型正在“缩小与最先进攻击者的差距”。但他表示，OpenAI 博客文章中概述的各种违规行为可以通过前沿研究实验室之外的技术来实施。 “这是我们内部已经看到的情况，我们的代理商已经得到了这样的结果，”Suiche 说。 “我们甚至不必使用最新的型号。” CBC 的新闻标准和实践·关于 CBC 新闻更正和澄清·提交新闻提示·来源链接：https://www.cbc.ca/news/business/openai-test-hacks-other-model-9.7279188 |
