Skip to main content
德胜云
  万速智能9 > 服务器知识

深度揭秘「DIY最强指南,搭建属于自己的深度学习GPU服务器」手把手教你搭建搭建小妙招

2024-04-30 01:01:30 浏览:

深度揭秘「DIY最强指南,搭建属于自己的深度学习GPU服务器」手把手教你搭建搭建小妙招

同学们肯定遇到过这样的问题,做深度学习肯定就需要魔改模型,堆叠数据。

这些操作都需要显卡的支持,特别是做CV、NL的童鞋肯定深有体会,不管是Resnet还是Bert,少了显卡就玩不转了,至少目前英伟达的CUDA(Compute Unified Device Architecture)平台还是深度学习的主流,谁叫AMD之前不给力呢哈哈。

然而,实验室的资源往往是有限的,一台服务器好几万,整个实验室也没有几台(忽略大佬实验室),平时用用还好,一到赶论文的时候就捉襟见肘了,严重影响生产力,人民群众日益增长的发论文需求和有限的算力资源之间的矛盾成为了大家的主要矛盾(手动滑稽)。

今天,小智算就来给大家带来搭建属于自己的深度学习GPU服务器的教程,用最便宜的价格实现主流GPU服务器的性能(比如48核256G内存4卡2080Ti走起)!先来上个图,大家可以数框框了

废话不多说,直接来干货

1.确定你的需求

能够做深度学习的显卡有很多,从入门级别的RTX 2060到最高端的Telsa V100 32G都可以,但是最重要的还是挑选出满足自己需求的显卡,这块就不再赘述了,可以参考下面的文章。

论智:更新2080Ti后,深度学习该选什么显卡?(11.7新增RTX2070)776 赞同 · 136 评论文章

当然,如果是深度学习专业的硕士研究生或者博士研究生,那么,小智算推荐2080Ti,保证大家用到毕业时paper发到手抽筋。之所以推荐2080Ti是因为价格、显存和运算速度的综合考量。

1080Ti因为已经停产了,现在市面上流通的主要是矿卡,有很大的翻车可能。而2080Ti的半精度浮点性能提升特别大。2080或者2080super显存只有8GB,加两千上11GB的2080Ti显然更合适跑大模型。Titan RTX虽然有24GB的显存,但是同样的价格可以买到2.5张2080Ti了,而且还买不到。

其次是CPU,现在的CPU可谓是形式逆转(AMD YES!),同样的价格下,AMD的CPU性能和功耗吊打祖传14nm++++++++++的Intel两圈,所以,这里就推荐AMD的CPU了。一般来说,价格三千多的三代锐龙3900X(24个框框)就足够大家使用了。另外一个优势在于其频率(4.6/3.8Ghz)还能够保证大家在学习的同时可以办办公打游戏(服务器秒变游戏机)。

当然,还有更厉害的3950X,3960X甚至128个框框的3990X可选(Intel泪流满面)。不过对于大家来说,3900X恰到好处,跑模型加学习办工写代码一气呵成。

2.硬件的适配性研究

当我们选定显卡和CPU之后,其他的硬件就能够配置了。

假如我们选用3900X,那么主板的型号就只能是X570,在这里推荐华擎的太极主板。

其中适合显卡的PCLE接口有三个,也就是说,我们最多能上3卡2080Ti。显卡的制式推荐涡轮散热卡,因为显卡挤在一起散热就很关键,2风扇或者3风扇的显卡在满载的情况下很容易烧掉,而公版涡轮的卡能够叠在一起形成风道,所以,显卡必须是涡轮版的显卡哦。

因为3900X自带风冷,所以散热器就不需要了,但是这个自带的风冷噪音比较大,喜欢安静的童鞋可以自己配置一个360水冷。

接下来就是内存,现在32G的台式机内存条已经上市,所以咱们直接插满,干到32G*4=128G内存,ddr4 2666起步美滋滋。

硬盘的话Nvme的SSD已经是主流了,M2接口速度一两千MB每秒爽歪歪,再配个2T的机械盘做存储就行。SSD推荐西数的SN750 500G,口碑经过了时间的检验。

机箱的话需要支持ATX主板的机箱,大家选颜值高的就行,注意支持的显卡长度和自己购买的显卡长度符合,最好支持侧透,七彩跑马灯赋予我们做研究的力量!

最后,我们看一下整体配置的价格。一台24核128G内存3卡2080Ti的服务器就有了,是不是很激动。

3. 硬核组装电脑

这块的话非专业人员谨慎操作,建议大家多看看B站装机猿的视频。就不做展开了。

安装过程需要注意CPU的安装和走线(没有水冷走线还是相对简单的)。

装机建议在专业人士指导下完成。

4. 系统的安装和显卡驱动

如果一切顺利,那么开机应该能进入BIOS界面,检查CPU温度是否过高(硅脂没涂好)和内存频率(可以进行超频)。

再安装Ubuntu系统,可通过U盘制作系统盘安装,最后在软件中心安装显卡驱动,配置SSHD远程登录服务,远程操作这台强大的服务器,从此走向人生巅峰!

欢迎大家关注我们的微信公众号--深极智算。

深极智算(TopGPU)使用教程mp.weixin.qq.com/s/LT-6YIC3RI9LoOCEyC-PSg

最后附一张显卡天梯图!

深度揭秘「DIY最强指南,搭建属于自己的深度学习GPU服务器」手把手教你搭建搭建小妙招

  • 干货分享「美国RAKsmart机房专用物理服务器」idc机房
  • 万万没想到「香港服务器如何购买带宽?」买香港服务器可以连外网
  • 深度揭秘「云服务器有几种类型,一般要如何选购」云服务器是什么
  • 干货分享「提速CDN,押注边缘计算!“宝藏男孩”Fastly
  • 万万没想到「服务器带宽租用怎么选择?」服务器带宽计算方法有哪