实用工具帖——如何选用云服务器进行训练

如何选用云服务器进行训练

一般情况下,大家都是在自己电脑上进行训练模型,

作为一名学生党,但是怎么找到一些靠谱,实惠,还得方便的云服务器呢

这几天我找了好久,对比了好多家,今天给大家介绍一下

1.矩池云

首先给出官网矩池云 - 专注于人工智能领域的云服务商 (matpool.com)

当然第一步就是注册和登录,登录后会引导你去绑定微信,还送五块钱优惠卷,可以试一试

登录完成直接来到购买界面

image-20240814141444278

1.1购买配置

说实话感觉这个价格也还能接受,我刚买的是一块钱一个小时的A16

点击租用的话,会有下面内容

image-20240814141606441

1.2镜像选择

对于这个平台我感觉好的地方就是,这个系统镜像比较多

而且我发现,还可以保存自己的环境,就是右边的我的环境

因为我一开始找云服务,确实有更便宜的,但是貌似他们的环境,好像不太对劲,虽然有cuda,装完gpu库但是不能用

image-20240814141901270

1.3使用

使用的话还是很简单的,都有一些复制,结合ssh软件,就是操控linux

image-20240814142022334

1.4保存环境

这个就是我刚才说的,基本镜像的话,肯定没有你独特安装的

这个按照小时收费,你不用的时候保存环境 保存环境功能说明 | 矩池云支持中心 (matpool.com)

下一次,可以点击取消保存,取消保存后机器会自动恢复运行。也可以从我的环境进行选购其他服务器

2.阿里云

其实阿里云也不错,阿里云给新学生用户,提供了300优惠券

我之前做比赛,搭建软件管理系统,部署网页都是用的这个,真心不错

但是我看了下阿里云的算力这块确实蛮好,但是我感觉有点小贵

这里给大家提供链接阿里云 - 弹性计算 (aliyun.com)

2.1购买

一般本着便宜的目标,这个抢占式实例还是很划算的

下面的配置就是很很常规的,根据自己的使用选择

image-20240814142716283

2.2 镜像选择

阿里云也有很多镜像,但是我捣鼓了三四个小时,发现我选择的镜像

安装了GPU库但是貌似cuda不能用,查询cuda也会有问题

当然,其实完全可以选择一个干净的镜像,自己配置自己需要的cuda和gpu版本的库

image-20240814142837866

2.3 使用

对于使用这个我就不说了,因为我最终没用

我还是比较喜欢省事哈哈,我感觉时间应该花在调参上面,而不是配置环境哈哈

3.魔搭社区

这个魔搭社区也是阿里的,所以其实阿里还是蛮好的

3.1使用

这里面有好多项目,也有阿里的大模型,有好多内容可以给大家玩

image-20240814143618100

3.2训练

当你注册之后,阿里会赠送两种

第一种CPU环境长期免费还是很好的

第二种GPU24G显存也够用,而且给了36个小时

image-20240814143757667

这个GPU版本还给了大家各种配置,也是蛮方便的

image-20240814143853620

4.谷歌NoteBook

谷歌有个在线notebook也挺好,这里把链接分享给大家 谷歌Notebook)

4.1.使用

这个的使用就和jupter一样

点击更改运行时类型

image-20240814145311621

发现还是有GPU免费使用的,不错

image-20240814145332215

但是好像没有保存下载模型的地方,

所以我有个大胆的想法,用这个把结果写到excel,看然后emmmm换别的地方训练哈哈哈

好像是个办法

5.Hugging Face

这个网站里面有很多与大模型相关的,给大家链接Hugging Face – The AI community building the future.

5.1.购买

给大家附上网站:Hugging Face – Pricing

这个里面大家可以看到还有A100

image-20240814145642707

5.2.使用

毕竟是国外网站,我一看dollar,那估计国内不太好使用,有兴趣的大家可以研究下

6.Vast.ai

6.1购买

看这个这个价格其实也还可以,配置都很不错

image-20240814150129232

点击后,后面有很多模板,torch啥的都有

image-20240814150255120

6.2使用

既然是个国外网站,怎么充钱也是个问题,所以也不用了,有兴趣的大家可以看看