如何用GPU价格计算器快速估算训练成本

"租个4090跑三天要多少钱？"——这个问题几乎每个准备训练模型的人都问过。答案取决于参数量、数据量、GPU型号和利用率。拍脑袋估成本的结局往往是：训练跑到一半发现预算只够60%。本文教你写一个属于自己的GPU价格计算器，训练前3分钟算清账。

一、训练成本的三要素

训练成本不是一个数，是一个乘法：GPU单价 × 小时数 × 卡数。难点在"小时数"怎么估，它由三个变量决定：

1. 参数量决定显存占用

全参训练（Adam优化器）显存需求 ≈ 参数量 × 16字节（参数+梯度+优化器状态混合精度）。7B模型约需 112GB，单卡放不下，必须多卡或改用LoRA。

2. 数据量决定迭代步数

训练步数 ≈ (样本数 / batch_size) × epoch数。吞吐量（tokens/秒）乘以步数得出总时长。实际吞吐受利用率影响，理论值打6折才是现实。

3. GPU单价决定每小时的账

以下是2026年10月国内主流云GPU租赁市场价参考（按时计费，随行情浮动）：

单价低的卡不一定总成本低——H100速度快3倍但单价高5倍，小任务反而更贵。这就是为什么需要计算器而不是感觉。

二、Python版GPU价格计算器

把上面的逻辑固化成代码，训练前跑一遍：

class GPUCostCalculator:
    # 显存需求（GB）：全参训练 = 参数量(B) x 16
    # LoRA训练 = 参数量 x 2 + 适配器开销
    def vram_needed(self, params_b: float, mode: str = "full") -> float:
        if mode == "lora":
            return params_b * 2 + 2
        return params_b * 16

    # 训练时长（小时）
    def hours(self, samples: int, epochs: int, batch: int,
              seq_len: int, params_b: float, gpu: str) -> float:
        THROUGHPUT = {  # tokens/秒，混合精度实测中位数
            "T4": 120, "4090": 900, "V100": 500,
            "A100": 1800, "H100": 4500,
        }
        UTILIZATION = 0.6  # 利用率折算
        total_tokens = samples * epochs * seq_len
        eff = THROUGHPUT[gpu] * UTILIZATION
        return total_tokens / eff / 3600

    # 总成本（元）
    def cost(self, params_b, samples, epochs, batch, seq_len,
             gpu, price_per_hour, mode="full"):
        vram = self.vram_needed(params_b, mode)
        h = self.hours(samples, epochs, batch, seq_len, params_b, gpu)
        return {"显存需求GB": round(vram, 1), "预计时长h": round(h, 1),
                "预计成本": round(h * price_per_hour, 2)}

calc = GPUCostCalculator()
# 案例：7B模型LoRA微调，5万样本，2轮，4090（2.2元/时）
print(calc.cost(7, 50000, 2, 8, 2048, "4090", 2.2, mode="lora"))
# 输出示例: {'显存需求GB': 16.0, '预计时长h': 12.7, '预计成本': 27.9}

三、实战案例：三种方案的账本对比

以"7B模型、5万样本、2048 tokens、2 epoch"为基准，算三种方案：

四、让估算变成习惯：三步工作流

计算器写好只是第一步，关键是把"先算账再训练"固化成流程：

1. 开跑前：填入参数量、样本数、目标GPU，得出预算区间，乘3倍试错系数作为预算上限；
2. 开跑后10分钟：用 nvidia-smi 看实际利用率，用训练日志里的 it/s 实测吞吐回填计算器，修正真实成本；
3. 结算后：对比预估与账单，把偏差率记录下来作为下次估算的校准系数——跑得多了，你的计算器会比任何公开工具都准。

五、常见问题 FAQ