Hugging Face Blog·· 2026-05-27精选AI 评分66
Hugging Face 在 TRL 中实现增量权重同步，单步传输从 1.2 GB 降到 20-35 MB
Shipping a Trillion Parameters With a Hub Bucket: Delta Weight Sync in TRL
AI 导读
Hugging Face 在 TRL 中落地增量权重同步（Delta Weight Sync）：只把 RL 优化器步之间真正变化的 bf16 权重编码成稀疏 safetensors 文件，上传到 Hugging Face Bucket，再由 vLLM 拉取应用。
推荐理由
TRL 把稀疏增量权重同步做成了可 pip 安装的开源实现，读者可据此判断跨机房异步 RL 训练的成本门槛。
来源：Hugging Face Blog · huggingface.co