目录
一、租 GPU 还是买 GPU？
大模型热潮下，「算力」成了刚需。但 GPU 价格高、迭代快（40系还没捂热50系就来了），先算一笔账再决定租还是买：
| 维度 | 租用 GPU 云 | 自购整机 |
|---|---|---|
| 前期投入 | 几乎为零，按小时计费 | 1.5万-20万+（单卡到多卡） |
| 利用率低时 | 用完释放，零浪费 | 闲置=亏折旧 |
| 弹性 | 随时换最新卡（H100/B200） | 锁死硬件，升级=重新买 |
| 电费/噪音/散热 | 不用管 | 民用电+风扇噪音是现实问题 |
| 数据隐私 | 依赖平台信任度 | 完全自控 |
| 适合人群 | 学生、算法岗、创业团队、弹性推理 | 重度个人研究者、7x24稳定负载 |
经验法则：GPU 利用率低于 30% 或任务周期少于 6 个月 → 租；全年跑满的长期负载 → 买。更多通用云服务选型可参考2026 云服务器选购全攻略。
二、主流 GPU 型号与显存对照
选卡先看显存：模型能不能装下，比跑多快更优先。常用估算——FP16 下每 1B 参数约需 2GB 显存（含梯度则约 4-6 倍，量化后可压到 0.5-1 倍）。
| 型号 | 显存 | 定位 | 租用参考价（单卡/时） |
|---|---|---|---|
| RTX 4090 | 24GB | 消费级王者，微调/绘图/小模型推理 | ¥1.5-2.8 / $0.35-0.7 |
| RTX 5090 | 32GB | 新一代消费旗舰，逐步上架 | ¥2.5-4（平台渐多） |
| A10 / A10G | 24GB | 云厂商主力推理卡，稳定 | ¥3-6 / $0.4-1.0 |
| L40S / A6000 | 48GB | 中模型训练/渲染 | ¥6-10 / $1.2-2.0 |
| A100 80G | 80GB | 大模型训练标配 | ¥15-30 / $2.5-4.0 |
| H100 / H800 | 80GB | 当前旗舰，训练吞吐最高 | ¥30-50 / $3.5-6.0 |
| 8×A100 / 8×H100 集群 | 640GB | 70B+ 全参训练 | 按卡价×8，多数平台有包周折扣 |
注：价格为 2026 年公开页面的常见区间，抢占式实例（竞价）可再低 40-70%，具体以各平台实时报价为准。
三、国内 GPU 云平台对比
国内平台的优势是人民币直付、延迟低、中文工单；劣势是热门卡（4090/H系列）供给紧张，高峰期经常「一卡难求」。
| 平台 | 特点 | 适合 |
|---|---|---|
| AutoDL | 学生党友好、镜像丰富、按秒计费，社区教程多 | 个人微调、毕设、实验 |
| 趋动云 VirtAI Cloud | 新人有免费算力券，异构算力池化技术强 | 中小团队训练 |
| 阿里云 PAI / 百炼 | 生态全（从数据标注到部署），企业级稳定 | 企业生产、国产化合规 |
| 华为云 ModelArts | 昇腾生态（910B），国产算力首选 | 信创要求场景 |
| 腾讯云 TI / 智算 | 与大模型生态整合好，HCC 高性能集群 | 企业训练 |
| 智星云 / 恒源云 等 | 垂直算力平台，价格灵活 | 预算敏感型任务 |
这些平台的用户真实口碑与评分，可以在云评网厂商排行榜按「AI云」分类查看，也可以在厂商列表里搜索具体平台名看评价细节。
四、海外 GPU 云平台对比
| 平台 | 特点 | 适合 |
|---|---|---|
| Vast.ai | P2P 模式，竞价极低（4090 可低至 $0.3/h），卡况参差 | 预算优先、能自己把关机器 |
| RunPod | 社区镜像好、Pod 体验顺、按秒计费 | 推理部署、微调 |
| Lambda Cloud | AI 基建专业户，H100 供给稳 | 严肃训练 |
| Paperspace (Gradient) | notebook 体验好，被 DigitalOcean 收购后整合加深 | 研究原型 |
| Modal / Replicate | Serverless GPU，按调用计费，免运维 | 推理 API、AIGC 应用 |
| 三大云 (AWS/GCP/Azure) | 最稳但最贵，企业合规友好 | 预算充足的生产环境 |
海外平台注意：需外币卡支付、国内访问控制台需自备网络条件、发票报销流程繁琐——学生党与科研经费报销场景建议优先国内平台。
五、价格参考与省钱技巧
- 抢占式/竞价实例：均价低 40-70%，代价是可能被回收——训练脚本务必做好 checkpoint 断点续训。
- 包周/包月：长任务直接谈包月，通常再省 20-40%。
- 闲时折扣：部分国内平台深夜时段半价，适合不赶时间的批量任务。
- 新人券叠加：AutoDL、趋动云等注册常送算力券，多个平台薅一轮够跑不少实验。
- 存储计费陷阱：实例释放后数据盘还继续计费，任务结束记得删盘或转存对象存储。
- 单位换算：比价时统一折算成「元/卡·时」，警惕按 vGPU 1/4 卡切片计价的宣传。
六、训练 / 推理 / 绘图怎么选
1. 大模型微调（LoRA/QLoRA）
7B 级 QLoRA：单张 4090（24G）足够；14B：48G 或双 4090；70B 级 LoRA 建议多卡 80G。学习率敏感任务优先选 A100/H100（显存带宽大）。
2. 推理服务
并发不高的应用：单卡 4090 + vLLM/ollama 即可；要弹性伸缩就用 Serverless GPU（Modal/Replicate），按 token 计费更省心。
3. AI 绘图 / 视频生成
SDXL/Flux 出图：4090 性价比最高；视频生成（Wan/Sora 类）显存需求暴涨，优先租 48G+ 的卡。
4. 传统深度学习 / 科研
CV、语音、结构化数据任务对显存要求低，A10 甚至 T4 都可能够用，别为用不上 H100 交智商税。
七、避坑清单
- 共享显卡冒充独占：低价「4090」可能是多租户切片，跑分波动大。下单前用
nvidia-smi看是不是整卡。 - 数据盘绑架：数据传上去容易，下载按流量收费。大文件传输优先走平台内网中转或对象存储直传。
- checkpoint 丢失：竞价实例被回收不打招呼，训练代码必须 5-10 分钟自动存档。
- 平台跑路风险：小算力平台现金流脆弱，预充值别一次充太多，跑路维权成本极高。可以先用少量金额测试提现/退款流程。
- 伪 H100：注意 H800/H20 与 H100 算力差异很大，宣传页写「H系列」的要看清具体型号。
- 带宽限制：免费或低价套餐常限速 5-10Mbps，拉数据集能把人逼疯，下单前看带宽条款。
遇到服务质量问题，欢迎到云评网评价区写下你的真实经历——真实好评帮后来人选对平台，真实差评帮大家避开坑。
八、常见问题 FAQ
Q1: 租 GPU 和自己买 GPU 哪个划算？
利用率低于 30% 或任务周期短：租；全年满载：买。4090 整机约 1.5-2 万元，对比 2 元/小时的租价，大约每天跑 8 小时、8-10 个月回本（不含电费散热噪音成本）。
Q2: 国内租 4090 一小时多少钱？
约 1.5-2.8 元/小时（抢占式更低），海外 $0.35-0.7。价格随供需波动明显，显卡新品发布前后老卡常降价。
Q3: 大模型微调用什么 GPU？
7B LoRA：4090；14B：48G 卡；70B 全参：多卡 A100/H100 集群。QLoRA 量化可把门槛再降一半。
Q4: 学生有优惠吗？
多数平台有学生认证优惠或新人免费额度；AutoDL 等对学生党尤其友好。GitHub Student Pack 里也常含 GPU 云的代金券。
💡 本文为通用选型参考，各平台价格与库存随时变动。下单前建议在 里直接问「XX平台怎么样」，看看真实用户的评价再做决定。