跳到正文

全部动态

今日 7 条
今天10月5日周一
  1. MIT Technology Review · AI28

    人们一边痛恨 AI,一边为何又离不开它?

    全球公众对 AI 的负面情绪快速升温,但使用量仍在飙升:ChatGPT 在 5 月达到 10 亿月活用户,Gemini 在 7 月录得 9.5 亿用户,Pew 数据显示一半美国成年人已使用聊天机器人,是 2023 年的两倍多。作者认为,人们反感的并非技术本身,而是科技公司不遗余力将 AI 推向各处的做法;与社交媒体不同,AI 仍存在监管与开源替代方案带来的选择空间。

  2. The Decoder31

    DeepMind 研究人员提出“人工共生智能”,作为奇点理论的替代方案

    DeepMind 研究人员提出“人工共生智能”概念,主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。该观点基于对 DeepSeek-R1、QwQ-32B 等推理模型的分析,发现其推理轨迹会自发出现内部辩论、转换视角和调和冲突的多视角行为,且这种行为在训练中涌现而非显式编程。

  3. TechCrunch · AI62

    Google 因 AI 提交激增暂停开源漏洞赏金计划

    Google 以自动化提交大幅增加、其中绝大多数无效为由,自 10 月 1 日起暂停其开源软件漏洞赏金计划,并承诺在 2027 年第一季度给出更新。公司称暂停源于 AI 提交的显著上升,据 Tom's Hardware 报道,Google 工程师和开源维护者被大量无效或含幻觉的报告淹没。暂停期间,参与者被建议转向 Google 的其他漏洞赏金项目。

10月4日周日
  1. TechCrunch · AI50

    特朗普宣布成立“超级智能部队”(Super Intelligence Force),由情报总监 Jay Clayton 领导

    特朗普宣布成立“超级智能部队”(Super Intelligence Force),由国家情报总监 Jay Clayton 担任主席,FTC 主席 Andrew Ferguson 等人任副主席。该工作组须在 120 天内就 AI 带来的风险与机遇提交报告,其章程称将制定应对 SI 威胁的计划,同时防止过度监管扼杀创新。此前特朗普已签署行政令,寻求将 AI 重新包装为“超级智能”。

  2. Simon Willison38

    Simon Willison:按量付费服务需要默认硬性预算上限,AWS 已推出支出限额

    Simon Willison 呼吁按量付费的 API 和服务默认设置硬性预算上限,超过 $X/月即切断并返回错误,而非仅发警告邮件。他指出 AWS 在 9 月 16 日推出月度支出限额功能,项目达到限额后当月暂停,但该新体验目前仅向有限客户开放;Google Cloud 已于 7 月推出类似的 Spend Caps。

  3. Hugging Face Blog71

    微软 ThinkingBox 基准登陆 Hugging Face:按数据库终态给 AI 智能体打分

    微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,通过隔离的 MCP 工具会话运行智能体,再根据其留下的后端终态和副作用判分,而非看它生成的文字。

    推荐理由:微软与 Hugging Face 联合发布的智能体评测基准,用后端状态而非生成文本判分,并给出 20 次重复下的稳定性与成本数据。

  4. Simon Willison10

    Simon Willison 发布九月赞助者专属通讯

    Simon Willison 已发送九月赞助者专属月度通讯,赞助者可访问,内容涵盖 Fable 级模型、价格战、3D 图形与 Blender、LLM 进军数学、意外网络攻击、Datasette 漏洞危机及本月软件发布等。订阅费用为每月 10 美元,可提前一个月阅读,八月刊已作为预览公开。

  5. The Decoder26

    Altman 反对将 AI 模型宗教化,称这是"真实的安全问题"

    OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们"赋予 AI 模型宗教力量或放弃人类判断"让他"非常不安",并称这是"真实的安全问题"。此番表态紧随《纽约时报》关于 Anthropic 接触宗教领袖的报道,以及教皇 Leo XIV 称"算法缺乏人性的火花"。Altman 曾在 2023 和 2024 年称 OpenAI 的目标是构建"天空中的魔法智能"。

  6. TechCrunch · AI44

    AWS CEO Matt Garman 回应数据中心争议,称已不再使用 NDA

    AWS CEO Matt Garman 在博客文章中表示,公司已停止在与政府机构合作建设数据中心时使用保密协议(NDA)。他同时反驳了数据中心耗水过多、推高电价、污染严重、无益社区四大说法,称直接数据中心用水仅占美国工业用水 0.5%,发电机 99.9% 时间闲置,并称亚马逊过去三年向数据中心所在社区投入超 10 亿美元。目前全美有 100 多项数据中心禁令正在审议中。

10月3日周六
  1. The Verge · AI58

    OpenAI 安全员工 David Robinson 离职并公开警告

    曾在 OpenAI 负责撰写各主要模型发布安全报告的 David Robinson 本周离职,并在 The Atlantic 发表评论文章。他表示行业文化已从根本上破裂,问题比新增几条训练模型规则或监管更深,硅谷以极度自信和持续冲刺的方式、带着不受约束的乐观构建更大更好的模型,忽视或低估潜在问题。

  2. The Verge · AI60

    Apple 将限制 Mac 全盘访问权限,称 AI 智能体大幅提升风险

    Apple 宣布将在 macOS 上为全盘访问权限增加新的限制,要求用户通过非常明确的主动操作才能授予应用这一权限。Apple 表示,部分开发者使用全盘访问的方式可能让用户面临风险,暴露文件、邮件、信息和浏览历史,而随着 AI 智能体能力与自主性增强,这类访问带来的风险会大幅上升。

  3. TechCrunch · AI62

    苹果因 AI 智能体风险收紧 macOS 全盘访问权限控制

    苹果宣布将在 macOS 上为“全盘访问”设置引入额外控制,要求用户通过非常明确的动作才能授予应用这一权限,理由是 AI 智能体让这种访问级别的风险显著上升。此前有记者称 Meta 的 Muse 应用在 Mac 上读取了其私信,Meta 对此予以否认;另有 Wired 报道称 ChatGPT 的 Mac 应用存在漏洞,可能让黑客访问敏感数据。