什么是云实例与云 GPU：它们能用来做什么

当项目需要更多算力、连续运行程序，或者和队友共享统一环境时，可以临时租用一台远程计算机。这台按需创建、通过网络访问的计算机，就是云实例。

本文介绍云实例的概念、用途和适用场景。实际租赁、SSH 连接和训练流程请继续阅读《云实例使用指南：用 SSH、脚本和 Agent 完成远程任务》。

什么是云实例

云实例可以理解为放在远程机房中的电脑。云平台将服务器的 CPU、内存、磁盘、网络和 GPU 等资源分配给用户，用户通过网页控制台或 SSH 使用它。

它与自己的电脑有几个明显区别：

可以按小时、按天或按月租用，用完后关机或释放；
可以根据任务选择不同的 CPU、内存、GPU 和磁盘配置；
通常以网络远程操作代替直接连接显示器和键盘；
数据可能保存在临时盘、数据盘或对象存储中，不同存储的生命周期不同；
实例计费通常覆盖完整开机时段，空闲时间也包含在内。

普通云实例主要依靠 CPU，适合网站、后端服务、编译、爬虫、自动化脚本和轻量计算。带有 GPU 的实例通常称为云 GPU 实例，适合深度学习、科学计算、渲染和视频处理。

云 GPU 是什么

GPU 原本用于图形计算，但它拥有大量适合并行运算的计算单元。深度学习中的矩阵乘法可以被拆分成许多并行任务，因此 GPU 往往比 CPU 更适合训练神经网络。

云 GPU 指按时间租用远程服务器中的 GPU。平台通常还会提供已安装驱动、CUDA、Python 和深度学习框架的镜像，用户可以直接从可用环境开始配置项目。

选择 GPU 时，首先应关注显存容量。模型参数、输入数据、梯度和训练过程中的中间结果都要占用显存。程序出现 CUDA out of memory 时，需要降低显存占用或改用更大显存的 GPU。

除了显存，还应关注：

GPU 的计算性能和框架兼容性；
GPU 是独占、切分还是共享；
CPU 和内存能否及时准备数据；
磁盘容量与读取速度是否足够；
多卡任务是否需要高速互联；
网络是否能承受数据集上传和结果下载。

云实例能做什么

训练和微调模型

这是云 GPU 最常见的用途。图像分类、目标检测、语音识别、自然语言处理和强化学习任务都可以在云端训练。

对于个人和学生项目，在预训练模型上做迁移学习或微调通常更合适。大语言模型还可以使用 LoRA、QLoRA 等参数高效微调方法，减少显存和训练成本。从零训练大型模型需要大量数据和算力，更适合拥有充足计算资源的团队。

运行模型推理

模型超出本地设备容量时，可以把模型放到云 GPU 上进行推理。例如：

批量识别图片或视频；
运行大语言模型、文生图模型和语音模型；
为演示项目提供一个临时 API；
为团队提供统一的模型服务。

服务长期在线且请求量较低时，自动关机、弹性部署或按请求计费的推理服务通常更经济。

运行长期任务

数据处理、爬取、编译、仿真和模型训练可能需要数小时甚至数天。把任务放到云实例上后，即使自己的电脑关机，远程任务仍可继续运行。

但 SSH 窗口关闭可能导致前台程序退出，因此通常要使用 tmux、作业调度器或平台提供的任务功能管理长期进程。

获得统一的开发环境

团队成员的操作系统、显卡和依赖版本可能不同。共享镜像、容器或安装脚本可以让所有人使用相同环境，减少“在我的电脑上能运行”的问题。

云实例也可以作为临时开发机。通过 VS Code Remote SSH 或命令行 Agent，编辑器和 Agent 在远程项目中读写文件、运行测试，本地电脑只负责显示界面和发送指令。

竞赛和短期项目

比赛前临时增加算力、并行运行实验或处理大批量数据，是云 GPU 很有价值的场景。按量租赁省去了提前购买硬件的投入，用完即可停止计算资源。

哪些任务适合 GPU

程序支持 CUDA 或其他 GPU 计算框架，并且任务适合并行计算时，GPU 的优势最明显。

普通网站、数据库、小型脚本、文件整理和大量依赖单核性能的程序，通常使用 CPU 实例更合适。数据读取、CPU 解码或网络传输成为瓶颈时，应优先优化对应环节，升级 GPU 带来的提升通常有限。

判断是否需要 GPU，可以先问三个问题：

使用的软件是否明确支持 GPU？
当前瓶颈位于计算、数据、磁盘还是网络？
节省的运行时间是否值得额外费用？

云实例的资源如何理解

CPU 和内存

CPU 负责系统运行、数据预处理、编译和串行工作。内存用于存放程序、数据和缓存。图像解码或数据增强较重时，较高的 CPU 配置可以缩短 GPU 等待数据的时间。

系统盘、数据盘和临时盘

系统盘保存操作系统和软件环境，数据盘适合保存数据集、代码和模型结果。临时盘通常速度快，但可能随实例释放而删除。

“关机”“释放”和“删除”对应不同的资源状态。重要结果应同步到本地、对象存储或明确具有持久性的存储中，并保留至少一份实例外备份。

镜像

镜像是创建实例时使用的系统模板。深度学习镜像通常已经配置好显卡驱动、CUDA 和框架。自定义镜像可以保存自己的环境，方便以后恢复，但镜像存储也可能单独计费。

公网 IP 和端口

公网 IP 让本地电脑能够访问实例。端口相当于服务入口，例如 SSH 通常使用 22 端口。开放端口会增加攻击面，因此应按需开放端口，并将访问来源限制为可信地址。

什么时候适合租用

云实例适合以下情况：

偶尔需要远高于本地电脑的算力；
实验周期短，按量租赁更经济；
需要快速切换不同 GPU 配置；
任务需要连续运行，同时希望自己的电脑正常关机；
团队需要统一且可复现的运行环境。

如果每天都要长时间使用同一配置，可以比较长期租赁和购买硬件的总成本。如果数据敏感、网络上传困难或需要频繁使用硬件接口，本地设备可能更合适。

使用云实例需要精通 Linux 吗

掌握少量基础操作即可开始：连接服务器、进入目录、发送文件、运行脚本、查看日志和下载结果。这些步骤可以写成固定脚本，也可以由 Agent 根据项目情况生成和解释。

用户负责安全和费用决策。执行命令前应确认它会操作哪些文件、安装哪些软件、开放哪些网络端口，以及实例的计费状态。掌握少量基本概念，再借助 Agent 完成重复操作，是更实际的入门方式。

下一篇使用指南将从创建实例开始，演示如何通过 SSH 发送脚本、启动任务，并让 Agent 协助完成环境检查和故障排查。

准备选择具体配置时，可以继续阅读《云 GPU 选型指南：显存、算力与价格怎么看》。