1
NVIDIA的nvidia-smi文档区分实际功耗读数与功率上限:上限不是每一秒实际耗电,更不是整台服务器的用电。报价前可在代表性任务下记录GPU、整机插座或PDU读数,另算CPU、内存、风扇、网络和制冷。让托管商说明按实测电量、预留功率还是固定套餐收费,避免重复计入同一项。先试跑实际模型并记录吞吐与失败率,再估每个完成任务的能耗。不要自行改电气设施;供电与制冷设计需要合格人员确认。测清真实负载,比用峰值算出漂亮利润更重要。
核验日期:2026年10月28日。
来源:
https://docs.nvidia.com/deploy/nvidia-smi/index.html