← 返回文字专业判断

看 AI 算力,从看卡到看整个系统

任务跑得慢,未必是 GPU 不够。先看数据、网络、存储、调度和软件怎样配合,再决定优化或扩容。

尉利伟成稿

视频号作品的网站阅读版,依据本人确认的本地定版口播整理。视频号助手显示 2026 年 10 月 26 日 22:48 已发表;本站未逐项核对实际上传成片与本地定版,因此不嵌入本地视频。

到视频号看发布版 ↓

AI 任务跑得慢,多加几张 GPU 就一定能快吗?如果数据还没准备好,原来的卡在等,新加的卡也可能一起等。卡的数量增加了,任务完成的速度未必跟着变。

2026 年 10 月 22 日,NVIDIA 发布了 Minerva 运维平台。按它的介绍,这个平台把 GPU、网络、存储、调度和 AI 任务的信息关联起来,帮助运维人员追查任务运行中的问题。这是厂商对产品能力的说明,不能当作独立实测结果。

先看任务怎样经过整套系统

多张卡一起训练模型,需要交换数据;数据读取或程序处理跟不上,也会让 GPU 等待。任务被分配到哪些机器、网络如何通信、存储怎样供数,都可能影响结果。某处慢了,不代表那一处设备坏了。

把监控页面并排摆着还不够。要对应到同一个任务,核对它何时等数据、何时通信、当时设备是什么状态,再进一步查原因。几个指标同时变化只是线索,不能直接认定根因。

建设和扩容,顺序要反过来

先说明准备跑什么任务、希望多久完成、结果要达到什么要求,再反推 GPU、网络、存储和软件需要怎样配合。系统运行起来后,如果任务主要在等数据,继续加卡未必带来相应提速;如果主要耗在卡间通信,就进一步检查通信和任务分配。不同任务的限制环节可能不同。

问完卡型和数量,还要问这套系统能把什么任务做好,眼下限制它的是哪一环。

Minerva 能否把问题查得更准、处理得更快,还要看真实运行数据。这里谈的是从任务和结果出发的判断顺序,不是对某个产品的效果承诺,也不是对任何具体项目的扩容建议。