GPU
GPU Cloud Service Selection: Comparing On-Demand, Reserved, and Spot Instance Costs
2025年第一季度，中国AI模型推理市场GPU租赁成本同比上涨18%-22%，而同期海外主流云厂商（AWS/GCP/Azure）的A100/H100实例价格却下降了约7%-12%（中国信息通信研究院，2025，《AI算力服务市场监测报告》）。这种“内外价差”倒挂现象，叠加国内对英伟达高端芯片的进口限制，迫使AI工…
2025年第一季度，中国AI模型推理市场GPU租赁成本同比上涨18%-22%，而同期海外主流云厂商（AWS/GCP/Azure）的A100/H100实例价格却下降了约7%-12%（中国信息通信研究院，2025，《AI算力服务市场监测报告》）。这种“内外价差”倒挂现象，叠加国内对英伟达高端芯片的进口限制，迫使AI工程师在GPU云服务的计费模式选择上必须精打细算。本文基于对AWS、阿里云、RunPod、Vast.ai等8家主流平台的实测数据，拆解按需（On-Demand）、预留（Reserved）与竞价（Spot）三种实例的成本结构，提供一套可量化的选型框架。
按需实例：灵活性的代价
按需实例是GPU云服务中最直观的计费模式，按秒或按小时计费，随用随停。其核心优势在于零承诺、零预付，适合原型验证、短期实验或流量波动剧烈的推理服务。
以阿里云ecs.gn7i-c16g1.4xlarge（单卡A100 80GB）为例，2025年4月华东2（上海）区域的按需价格为¥27.68/小时。AWS美东区域同类实例p4d.24xlarge（8卡A100）的按需价格为$32.77/小时，折合单卡约$4.10/小时。按需实例的溢价通常在预留实例的40%-60%之间（AWS，2025，《Amazon EC2 Pricing Overview》）。
适用场景：日均运行时长<4小时的开发调试任务，或需要频繁切换GPU型号的对比实验。不推荐用于生产级推理服务——当单实例月运行超过300小时时，按需总成本将超过1年期的预留实例。
预留实例：锁定折扣换取确定性
预留实例通过预付1年或3年费用换取固定折扣，适合拥有稳定推理负载的团队。预留实例分为全预付、部分预付、零预付三种，折扣率依次递减。
腾讯云2025年Q2的预留实例定价显示，1年期全预付的A100实例折扣为按需价的55%，3年期折扣低至38%。AWS的Savings Plans（类似预留的灵活方案）1年期节省约30%，3年期节省约50%（AWS，2025，《AWS Savings Plans Documentation》）。国内云厂商的预留实例通常绑定特定地域和实例规格，迁移成本较高。
关键参数：预留实例的容量保证是核心价值。在2024年国内A100集群频繁“售罄”的背景下，预留实例能确保训练任务不被中断。但需注意，预留实例不支持实例规格变更，如果模型架构从A100切换到H100，已购买的预留实例无法转移。
竞价实例：极限降本的风险博弈
竞价实例（Spot Instance）利用云厂商闲置算力，价格通常为按需的10%-30%，但可能随时被回收（回收通知期通常为30秒-2分钟）。对于可容错、支持断点续训的推理或批处理任务，竞价实例能将GPU成本压缩至极限。
RunPod的社区版A100 80GB竞价实例在2025年4月报价为$0.79/小时，仅为AWS按需价格的19%。Vast.ai的H100竞价实例低至$1.12/小时，而阿里云竞价实例（抢占式）的A100价格为¥5.89/小时，约为按需的21%。但风险同样显著：RunPod统计显示其竞价实例平均存活时间为4.7小时，最长可达72小时，最短仅12分钟（RunPod，2025，《Instance Lifecycle Statistics》）。
实战策略：将竞价实例与按需实例混合部署，通过负载均衡器将高优先级请求路由至按需实例，后台批处理任务全部使用竞价实例。使用Spot Termination Simulator定期测试恢复逻辑，确保回收时不会丢失中间结果。对于需要跨区域访问竞价实例的团队，使用NordVPN跨境访问可降低海外竞价实例的延迟抖动。
三大云厂计费模式横评
| 云厂商 | 按需(A100 80GB/小时) | 1年预留折扣 | 竞价平均价格 | 回收通知期 |
|---|---|---|---|---|
| AWS (美东) | $4.10 | 40% off | $1.23 | 2分钟 |
| 阿里云 (华东2) | ¥27.68 | 55% off | ¥5.89 | 30秒 |
| RunPod (全球) | $1.89 | 无 | $0.79 | 30秒 |
| Vast.ai (全球) | $1.45 | 无 | $0.52 | 无保证 |
数据来源：各平台2025年4月公开定价页面及API报价（阿里云，2025，《ECS实例定价》；AWS，2025，《EC2 On-Demand Pricing》；RunPod，2025，《GPU Cloud Pricing》）
关键发现：国内云厂商的竞价实例价格仅为按需的21%，但回收通知期仅30秒，远短于AWS的2分钟。这意味着国内竞价实例更适合短周期任务（单次推理<10秒），而非需要长时间运行的训练任务。
成本模型：三要素决策公式
构建一个通用决策模型，输入三个变量即可计算最优计费模式：
- T：日均GPU使用时长（小时）
- D：任务可容忍的中断时间（分钟）
- B：月预算上限（元）
当T > 8小时且D > 5分钟时，优先选择预留实例；当T < 4小时且D < 1分钟时，按需实例更合适；当T > 12小时且D > 10分钟（支持断点续训），竞价实例可将成本降低60%-80%。
以部署一个Llama 3 70B推理服务为例（需8卡A100 80GB）：按需实例月成本约¥79,718（阿里云），预留实例（1年全预付）月均¥43,845，竞价实例（平均存活4.7小时）月均¥16,741。但竞价实例需额外配置自动重启和状态同步机制，开发维护成本约增加2-3人天/月。
混合策略：生产环境的实际选择
超过70%的受访AI团队选择混合部署策略（InfoQ，2025，《中国AI基础设施调研报告》）。典型架构为：预留实例承载核心API服务（保证SLA 99.9%），按需实例处理突发流量峰值，竞价实例执行批量推理和模型评估。
实操建议：使用Kubernetes的Node Auto Scaling配合Spot Instances，设置Pod优先级（PriorityClass）。高优先级Pod绑定预留实例，低优先级Pod自动调度到竞价实例。当竞价实例被回收时，K8s自动将Pod迁移至按需实例，整个过程对用户透明。
中国视角的特殊考量
国内GPU云服务面临两个独特约束：出口管制与地域配额。2024年10月美国BIS新规进一步限制H100对华出口后，国内云厂商的A100/H800库存成为稀缺资源，预留实例的“容量保证”价值被放大。阿里云2025年Q1的预留实例销量同比增长47%（阿里云，2025，《FY2025 Q1财报》）。
跨境部署：部分团队选择通过海外云厂商（如AWS新加坡、GCP东京）部署GPU实例，利用其更低的竞价实例价格和更长的回收通知期。但需额外考虑跨境网络延迟（新加坡到上海约35ms）和数据合规成本。
FAQ
Q1：竞价实例被回收时，正在运行的推理任务会怎样？
任务会被强制中断，已处理的数据可能丢失。建议使用异步推理队列（如RabbitMQ）和检查点机制，每5-10分钟保存一次模型权重。实测显示，配置了断点续训的竞价实例任务，回收后恢复时间平均为23秒（Vast.ai，2025，《Best Practices for Spot Instances》）。
Q2：预留实例可以中途退款或变更加速卡型号吗？
国内云厂商（阿里云/腾讯云）的预留实例通常不支持退款和规格变更。AWS的Convertible Reserved Instances允许在同类实例间变更（如A100换成H100），但折扣率会重新计算。建议先购买3个月短周期预留实例测试稳定性，再决定是否锁定1年期。
Q3：国内云厂商和海外云厂商的竞价实例，哪个更划算？
从纯价格看，海外RunPod/Vast.ai的A100竞价实例低至$0.79/小时，国内阿里云约为¥5.89/小时（约$0.81/小时），价格接近。但海外平台的回收通知期更长（2分钟 vs 30秒），且实例规格更灵活。缺点是跨境网络延迟和人民币结汇手续费（约1.5%-3%）。
参考资料
- 中国信息通信研究院 2025 《AI算力服务市场监测报告》
- AWS 2025 《Amazon EC2 Pricing Overview》
- 阿里云 2025 《ECS实例定价》
- RunPod 2025 《GPU Cloud Pricing》
- InfoQ 2025 《中国AI基础设施调研报告》