NVIDIA 公开了用于向多个团队的人工智能任务分配 GPU 的整个平台代码。构建共享基础设施的开发团队可以审查和修改从任务调度到组织资源分配的代码,也可仅将所需功能接入现有环境。
1. 从调度器扩展到整个平台的开源
NVIDIA 于 2026年10月13日宣布将 Run:ai 整个平台开源。在此前公开的任务调度引擎之外,此次还提供了更多平台代码及四个可独立引入的组件。本次开源是 NVIDIA DSX AI Factory Platform 的一部分。
统一仓库包含中央管理层、集群服务、安装工具和开发环境。仓库代码遵循 Apache 2.0,但部分子目录中的第三方代码和资产适用单独的许可证。
2. 调度、分割、组织与任务定义各司其职
KAI Scheduler 决定将任务放在哪个 GPU 上。对于需要多个执行单元协同的任务,它先在内存中验证调度可行性,确保要么全部调度,要么全部不调度。它在团队间公平分配资源,考虑设备间的连接拓扑,并可与现有调度器共同运行。
GPU Fractioning Operator 管理节点组件,让多个任务共享一张 GPU。原有的自研实现已由 CUDA 13.4 的原生分割功能替代。驱动程序强制执行每个任务的 GPU 显存上限,超限时相应容器会因内存不足而终止。
KAI Resource Management 决定各部门和项目由谁使用多少资源。它按组织层级分配、保障和共享 GPU 容量,并将不同硬件整合,为任务指定合适的资源。
Workload Map 是以通用方式描述不同任务类型的结构、角色和状态的规范。它更像是一份共用的任务说明书,而非让每种工具各自编写解析器。它是无需在集群中额外安装即可使用的 Go 库,不直接调度任务,也不管理队列或自动扩缩容。
3. 集成安装与本地评估路径
整个平台可直接引入,也可通过生态合作伙伴的产品使用。NVIDIA NGC 还提供包含集成安装用 Helm chart 的社区产品。与源代码的开源许可证不同,下载该产品需同意 NVIDIA 软件许可协议及人工智能产品专项条款。
统一仓库中的以下示例用于本地评估。它从源代码构建服务,并部署到本地 Kubernetes 集群。容器运行工具等前置工具和资源须提前准备,只有部分集群工具会自动安装。
./local-dev.sh # full build + cluster + deploy
./local-dev.sh --skip-build --skip-cluster # re-deploy only
./local-dev.sh --teardown # tear the environment down4. GPU 分割须先确认软件组合
分割 Operator 的文档推荐使用 NVIDIA GPU Operator v26.7.1。其默认包含所需的容器工具和设备插件,但须另外将 GPU 节点驱动指定为 r615 或更高版本。容器运行环境等其他前置条件也须在仓库中确认。
若 GPU 配置工具以自身的节点集成插件模式运行,且分割 Operator 安装在其他命名空间,管理员须扩展该工具的命名空间允许列表。这里的命名空间是划分集群内工作空间的单位。
关闭版本验证并不能带来兼容性。不受支持的 GPU 软件组合也可能显示为已就绪,即使未强制执行显存上限,也可能不报告问题。
5. 选择的收益与运维的成本
可以选择整个平台或单项功能,对希望保留现有环境的团队有利。但自行运维也意味着要承担管理软件组合和节点组件的负担。社区产品无需付费订阅或支持权益即可使用,但不包含企业级支持,如需支持,应另行审查商业提供渠道的条件。
仓库说明,如果一个团队只是用专属 GPU 运行任务,基本的 Kubernetes 调度可能已足够。是否需要多团队资源共享和配额控制,是确定引入范围的标准。
此次开源的价值在于可以按需选用共享 GPU 运维所需的功能,而引入范围应根据组织对资源管控的需求和自行运维的能力来确定。
