Ai2 用 GPU 时间预算改造集群调度器

Ai2 的 AI 基础设施团队用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器，把算力分配从逐案运维变成透明的预算流程。 据 Ai2 称，在 30 天测试期内，团队实际获得的 GPU 时间达到应得量的 98%，集群占用率维持在 98%，调试类工作负载的 p90 排队时间从 2 小时降到 30 秒，需要人工介入的维修减少 74%。 按该系统的规则，用户可将最低运行时间设为零，表示相应 GPU 时间不分配；不计入任何预算的工作负载始终可被抢占；采用时间切片时，受保护的运行时间上限为 8 小时，超出分配后会话即可被抢占。Ai2 还表示正在本地存储旁投资一个仅 CPU 集群，用于数据准备类开发会话。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。