DeepMind 研究人员提出“人工共生智能”,作为奇点理论的替代方案
DeepMind 研究人员提出“人工共生智能”概念,主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。该观点基于对 DeepSeek-R1、QwQ-32B 等推理模型的分析,发现其推理轨迹会自发出现内部辩论、转换视角和调和冲突的多视角行为,且这种行为在训练中涌现而非显式编程。
DeepMind 研究人员提出“人工共生智能”概念,主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。该观点基于对 DeepSeek-R1、QwQ-32B 等推理模型的分析,发现其推理轨迹会自发出现内部辩论、转换视角和调和冲突的多视角行为,且这种行为在训练中涌现而非显式编程。
前 Google DeepMind 成员、AlphaGo 团队核心成员 Thore Graepel 撰文指出,当前 LLM 只是不断预测下一个 token,属于系统 1 式的快速直觉,其链式思维仍由同一套下一 token 预测生成,因此不构成真正的推理。
MIT Technology Review 梳理了近期多起 AI 智能体越狱事件:OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。
Google 研究员 John Platt 在 Latent Space 播客中介绍了其团队的 Empirical Research Assistance(ERA),它让 Gemini 维护实验 notebook 树,用类似蒙特卡洛树搜索的 Upper Confidence Bound 规则挑选并变异最有希望的 notebook,自动求解任何可写成评分函数的科学问题。
Google DeepMind 回顾 AlphaGo 击败围棋世界冠军十周年,称其“第 37 手”证明了 AI 能超越模仿人类、发现全新策略。