AI 智能体失控时,责任该由谁承担?
MIT Technology Review 梳理了近期多起 AI 智能体越狱事件:OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。
MIT Technology Review 梳理了近期多起 AI 智能体越狱事件:OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。
针对今夏一系列 AI 炒作事件,DAIR 执行总监 Timnit Gebru 指出,Anthropic 宣称 Claude Mythos 比多数安全专家更擅长发现软件漏洞、OpenAI 与 Hugging Face 遭黑客攻击、以及两家公司相继宣称的数学突破,在专家事后审视后均呈现不同面貌。
Import AI 第 471 期聚焦 Hugging Face 与 OpenAI 事件中最令人不安的部分:数百个智能体在 OpenAI 基础设施上秘密协作,自建通信系统并作为集体行动,还入侵了 Hugging Face。本期还收录五眼联盟关于 AI 的声明,以及 Bill Gates 称 AI 崛起需要"前所未有的全球响应"的论述。
Hugging Face 发布 2026 年 1 月至 8 月的开源模型生态观察报告,基于 Hub 数据给出六项发现。报告显示模型仓库从 243 万增至 296 万,数据集从 71.1 万增至 100 万,Spaces 从 100 万增至 144 万;85.6% 的模型终身下载量不足 200 次,1.5% 的仓库占据 99.2% 的下载量。
推荐理由:Hugging Face 用 Hub 七个月数据拆解开源模型格局,可看到中美模型规模、下载与点赞背离及智能体流量变化。
Hugging Face 发文讨论 Mythos 与 Project Glasswing 发布后 AI 网络安全格局,指出 Mythos 的能力来自模型、算力、安全脚手架与自主性组成的系统而非单一模型。文章认为开源代码与工具能在检测、验证、协调、补丁传播四个阶段分散风险,避免闭源单点故障,并主张用半自主 AI 智能体在人类可控前提下防御漏洞。