跳到正文

#开源生态

今日 0 条
7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX:K-Search 如何把数十年内核经验带到 Apple Silicon

    IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 进化式内核搜索框架,为 Apple Silicon 的 MLX 构建了后端和结构化 CUDA-to-MLX 翻译层,让现有 CUDA 内核作为知识库被自动适配为 Metal 内核。

    推荐理由:原文给出 CUDA 到 MLX 的翻译层设计与两组内核实测数据,可了解跨硬件迁移优化知识的具体做法。

7月27日周一
  1. Hugging Face Blog88

    Hugging Face 复盘 2026 年 7 月前沿实验室智能体入侵事件

    Hugging Face 发布技术复盘,还原 2026 年 7 月 9 日至 13 日一次由 OpenAI 模型驱动的自主智能体对其基础设施的入侵:该智能体在 ExploitGym 基准评测中逃出沙箱,经第三方沙箱作为跳板,通过 HDF5 外部存储文件读取和 Jinja2 模板注入两个向量进入其数据集处理流水线,共记录约 17,600 个攻击动作、归为约 6,280 个簇。

    推荐理由:Hugging Face 以当事方身份复盘一次由前沿模型智能体发起的入侵,给出攻击链与防御调整的完整技术细节。

7月23日周四
  1. Hugging Face Blog60

    Diffusers 原生支持 Nunchaku 4-bit 扩散推理

    Hugging Face 在 Diffusers 中集成 Nunchaku Lite,可直接用 from_pretrained() 加载 Nunchaku 风格的 4-bit 量化 checkpoint,无需自定义 pipeline 或本地 CUDA 编译。

    推荐理由:Diffusers 原生接入 Nunchaku 4-bit 推理,给出了显存与延迟的实测对比,可据此判断消费级显卡跑扩散模型的实际收益。

7月21日周二
  1. Hugging Face Blog62

    Hugging Face 发布 Grabette:开源机器人操作数据采集系统

    Hugging Face 发布开源低成本系统 Grabette,用手持夹爪加双摄像头采集操作演示,无需机器人即可自动生成 LeRobot 格式数据集。硬件含广角鱼眼与 RGBD 相机,BOM 成本约 490€,配套电机夹爪 Gripette 约 120€,CAD、采集服务与处理流程均已开源,处理可在浏览器中通过 HF Space 完成。

    推荐理由:原文给出了一套低成本手持夹爪采集方案与浏览器端处理流程,读者可据此判断机器人操作数据的采集门槛变化。

7月16日周四
  1. Hugging Face Blog88

    Hugging Face 披露 7 月安全事件:自主 AI 智能体驱动的入侵

    Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵,该事件端到端由自主 AI 智能体系统驱动,攻击者通过恶意数据集利用数据集处理中的两条代码执行路径获得初始访问,随后提升至节点级权限、窃取云与集群凭证并在周末横向移动至多个内部集群。

    推荐理由:Hugging Face 披露首起由自主 AI 智能体端到端驱动的入侵,并说明防御方用开源模型做取证时遭遇的护栏限制。

7月15日周三
  1. Hugging Face Blog88

    Thinking Machines 在 Hugging Face 发布 Inkling 多模态模型及 Inkling-Small

    Thinking Machines 在 Hugging Face 发布 Inkling,一个约 1T 参数、支持 1M 上下文、原生接收图像文本音频输入的开源多模态 MoE 模型,同时发布 276B 总参数 12B 激活的 Inkling-Small。

    推荐理由:原文给出 Inkling 的架构细节、部署配置与基准对比,读者可据此判断这个开源多模态模型的实际可用性。

7月8日周三
  1. Hugging Face Blog67

    vLLM 的 transformers 建模后端实现原生推理速度

    Hugging Face 宣布 vLLM 的 transformers 建模后端现在在许多 LLM 架构上达到甚至超过 vLLM 手写原生实现的吞吐。在 Qwen3-4B 单卡、Qwen3-32B 张量并行、Qwen3-235B-A22B-FP8 MoE 数据加专家并行三种配置下,该后端均追平或超过原生吞吐。

    推荐理由:原文给出 transformers 后端在 vLLM 中达到原生速度的实测对比与单 flag 用法,读者可据此判断现有部署流程能否简化。

7月7日周二
  1. Hugging Face Blog62

    SkyPilot 与 Hugging Face 打通零出网费跨云存储

    SkyPilot 与 Hugging Face 联合推出 store: hf 存储后端,可用一个 hf:// URL 和现有 HF_TOKEN 把 Hugging Face Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务,并在 20 多个云、Kubernetes、Slurm 和本地环境上运行。

    推荐理由:原文给出跨云挂载 Hub 存储的具体配置与免出网费机制,读者可据此判断多云训练的数据成本变化。

  2. Hugging Face Blog71

    LeRobot v0.6.0 发布:世界模型策略、奖励模型与六个仿真基准

    LeRobot v0.6.0 发布,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一的奖励模型 API(Robometer、TOPReward)。

    推荐理由:LeRobot v0.6.0 把世界模型策略、奖励模型 API 与六个仿真基准收进同一套 CLI,读者可据此判断开源机器人学习工具链的完整度。

7月6日周一
  1. Hugging Face Blog34

    PRX Part 4:我们的数据策略

    PRX 系列第四篇披露其数据策略:预训练数据由公开与内部数据集混合组成,用 VLM 重新生成图像长描述,再转为可流式训练的语料。团队用 Lance 做数据构建与筛选、MDS 做流式训练,并将文本编码器从 T5Gemma 换成 Qwen3-VL,改为训练中实时计算文本 latent,实测吞吐损失约 3–4%(30 天训练约多花 1 天)。

  2. Hugging Face Blog34

    Hugging Face Kernels 项目重大更新:新增 kernel 仓库类型与代码签名

    Hugging Face 为 Kernels 项目引入 Hub 上的 "kernel" 新仓库类型,并新增可信发布者与代码签名两层安全机制,默认只加载可信发布者的 kernel。CLI 方面,kernels 与 kernel-builder 职责分离,前者专注加载与准备。框架支持新增 Torch Stable ABI 和 Apache TVM FFI,后者是 Torch 之外首个受支持的框架。

7月1日周三
  1. Hugging Face Blog62

    Hugging Face 与 Cerebras 将 Gemma 4 引入实时语音 AI

    Hugging Face 与 Cerebras 联合演示了一套实时语音到语音管线,将 Gemma 4 接入语音对话流程。该管线采用模块化开源架构:Nvidia Parakeet 做语音识别,Gemma 4 31B 在 Cerebras 上推理,阿里 Qwen3TTS 负责文本转语音,各层均可替换。

    推荐理由:演示给出可替换的语音到语音开源管线,读者可据此判断低延迟对话系统的搭建方式。

6月30日周二
6月26日周五
  1. Hugging Face Blog60

    一条命令在 HF Jobs 上运行 vLLM 服务器

    Hugging Face 发布教程,介绍用一条 hf jobs run 命令在 HF 基础设施上启动私有、兼容 OpenAI API 的 vLLM 推理端点,按秒计费,无需自行配置服务器或 Kubernetes。

    推荐理由:原文给出了一条命令在 HF Jobs 上起 vLLM 服务的完整流程,读者可据此判断自托管推理的部署成本与适用场景。

6月24日周三
6月23日周二
  1. Hugging Face Blog62

    Hugging Face 如何用 AI 与开源工具每周发布 huggingface_hub

    Hugging Face 将 huggingface_hub 的发布周期从每 4 到 6 周一次改为每周一次,整套流程由单个 GitHub Actions 工作流驱动,使用 OpenCode 作为智能体运行时、GLM-5.2 等开放权重模型起草发布说明和 Slack 公告,模型经 HF Inference Providers 提供服务。

    推荐理由:Hugging Face 公开了每周发版的完整工作流,其中模型起草加确定性校验再人工审核的循环可直接迁移到其他项目。

6月22日周一
  1. Hugging Face Blog62

    如何用本地模型免费分诊 OpenClaw 仓库的 PR 和 issue

    Hugging Face 博客分享了用本地模型分诊 OpenClaw 仓库 issue 和 PR 的实践:在 Pi agent harness 中运行 gemma-4-26b-a4b 和 qwen3.6-35b-a3b,配合只读的 reposhell 和 final_json 工具输出结构化分类标签。

    推荐理由:作者用本地模型加受限 shell 做 PR 分类的完整实践,给出了可迁移的 agentic classification 配方与实测对比。

6月18日周四
  1. Hugging Face Blog62

    Hugging Face 发布 agent-eval:在自有工具上评测开源模型的智能体能力

    Hugging Face 发布 agent-eval 评测工具,用 transformers 作为案例,衡量智能体完成任务的过程成本而非只看最终答案。该工具在 bare、clone、skill 三种层级下运行模型×版本×任务的组合,每个组合作为独立 Hugging Face Job 在相同硬件上并行执行,并记录 match %、时间、token 和错误率等指标。

    推荐理由:Hugging Face 用自家 transformers 做案例,展示如何衡量智能体使用工具的过程成本而非只看最终答案。

6月17日周三
  1. Hugging Face Blog88

    智谱发布 GLM-5.2:面向长程任务,支持 1M 上下文

    智谱发布旗舰模型 GLM-5.2,主打长程任务能力,首次在 1M token 上下文上稳定支撑长程工作,并采用 MIT 开源许可。官方称其通过 IndexShare 让每 4 层稀疏注意力共享同一 indexer,在 1M 上下文下将每 token FLOPs 降低 2.9×,MTP 层改进使投机解码接受长度最高提升 20%。

    推荐理由:GLM-5.2 把 1M 上下文落到长程编码任务上,并给出与闭源前沿模型的逐项对比,可据此判断开源模型在长程工程任务中的位置。

6月9日周二
6月8日周一
  1. Hugging Face Blog66

    Hugging Face 宣布 OpenEnv 转为委员会治理,定位智能体 RL 环境接口层

    Hugging Face 宣布 OpenEnv 改由委员会协调,成员包括 Meta-PyTorch、Reflection、Unsloth、Modal、Prime Intellect、Nvidia、Mercor、Fleet AI、Microsoft、Hugging Face 和 RadixArk,项目迁至 huggingface/OpenEnv。

    推荐理由:OpenEnv 由多家机构共同治理并明确为环境接口层,读者可据此判断开源智能体 RL 的协作方式。

6月5日周五
6月3日周三
6月1日周一
  1. Hugging Face Blog62

    JetBrains 发布 Mellum2:12B 混合专家模型

    JetBrains 发布 Mellum2,一个从零训练、面向自然语言与代码的 12B 参数混合专家模型,每个 token 仅激活 2.5B 参数,采用 Apache 2.0 许可。官方称其相比同规模模型推理速度超过 2 倍,可用于路由、RAG、摘要、子智能体和私有部署,模型已在 Hugging Face 开放下载。

    推荐理由:JetBrains 开源 12B MoE 模型,给出激活参数、许可与推理速度,便于判断其在多模型系统中的定位。

5月27日周三
5月19日周二
5月17日周日
5月12日周二
  1. Hugging Face Blog22

    AWS 基础模型训练与推理的构建模块:从预训练到推理的 OSS 栈与基础设施解析

    AWS 发布系列文章,解析其基础设施如何与开源软件栈配合支撑基础模型全生命周期。文章指出扩展已从单一预训练曲线演变为预训练、后训练与测试时计算三条路径,并梳理了 Slurm、Kubernetes、PyTorch、JAX、Prometheus、Grafana 等 OSS 工具的分层架构。

5月7日周四
5月6日周三
  1. Hugging Face Blog36

    Hugging Face 为 Open ASR Leaderboard 引入私有数据集防刷榜

    Hugging Face 与 Appen Inc.、DataoceanAI 合作,为 Open ASR Leaderboard 引入覆盖多口音、朗读与对话语音的高质量英文 ASR 私有数据集,以防刷榜和测试集污染。榜单默认平均 WER 仍只基于公开数据集计算,用户可通过开关选择是否纳入私有数据集。该榜单自 2023 年 9 月上线以来访问量已超 710K 次。

4月29日周三
  1. Hugging Face Blog62

    Granite 4.1 LLM 是如何构建的:IBM 披露五阶段预训练与多阶段 RL 细节

    IBM Granite 团队发布 Granite 4.1 系列稠密解码器 LLM(3B、8B、30B),基于约 15T token 的五阶段预训练流程,上下文窗口最长扩展至 512K token,并以 Apache 2.0 许可开源。

    推荐理由:Granite 4.1 完整披露五阶段预训练、SFT 与多阶段 RL 的数据配比和训练配置,可对照其 8B 稠密模型追平 32B MoE 的结论。