Ai2 用 GPU 时间预算改造集群调度

Ai2 称其已用 GPU 时间预算、分层公平份额分配和时间切片合约替换原有的优先级调度器，把各研究项目该分多少 GPU 时间的争论从逐案运维转为透明的预算流程。该集群管理数千块 NVIDIA H100、B200 和 B300，规模 88 至 1024 块 GPU，服务约 150 名内部研究员，待处理请求常达可用算力的 2-3 倍。 按 Ai2 的说法，用户可将最短运行时间设为零，表示该 GPU 时间不分配，这类负载始终可被抢占，也不计入任何预算；负载在受保护运行时段内不被抢占，时间切片下受保护运行上限为 8 小时，超时且超出配额后会话可被抢占。Ai2 还称正在本地存储旁投资一个纯 CPU 集群，用于数据准备类开发会话。

AI 根据报道生成 · 56 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。