跳到正文

#部署/工程

今日 0 条
9月16日周三
7月29日周三
5月8日周五
4月22日周三
  1. Google DeepMind22

    Google DeepMind 推出 Decoupled DiLoCo:面向分布式 AI 训练的弹性新架构

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构,将训练任务拆分为异步通信的"计算孤岛",在硬件故障下仍能持续训练并自动恢复。该架构用 Gemma 4 模型验证,ML 性能与传统方法持平,并在美国四个区域以 2-5 Gbps 网络训练了 120 亿参数模型,速度比传统同步方法快 20 倍以上,还支持 TPU v6e 与 TPU v5p 混合训练。

4月20日周一
  1. Berkeley AI Research24

    GRASP:面向世界模型长时程规划的梯度规划器

    Berkeley AI Research 提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号,从而让基于学习动力学(世界模型)的长时程规划变得实用。该方法针对长时程 rollout 中梯度爆炸/消失、非贪心结构导致的局部极小值以及高维视觉模型"状态输入"梯度脆弱等问题。