Skip to main content
德胜云
  万速智能9 > 服务器知识

万万没想到「家庭服务器 篇三十二:搭建一台自己的AI服务器曾被千万人表白“我等你长大”,如今她27岁长成这样,网友:告辞了」如何做家庭服务器建立家庭服务器

2024-03-27 12:32:01 浏览:

万万没想到「家庭服务器 篇三十二:搭建一台自己的AI服务器曾被千万人表白“我等你长大”,如今她27岁长成这样,网友:告辞了」如何做家庭服务器建立家庭服务器

作者:略懂的大龙猫

未来是AI的时代,不过此刻我们就已经感受到了AI的强大,目前在:画图、语音识别、人声模仿、图像修复、知识整理这些领域,AI已经展现出惊人实力(未来在自动驾驶、思维等还有无限可能)。一些开源AI服务还可以进行本地部署,这是我为什么想搭建一台自己的AI服务器的原因。

AI对于CPU没有那么挑剔,性能越强线程越多自然越好。出于稳定性和兼容性考虑,普通用户可以优先选Intel。显卡方面,NVIDIA的CUDA生态在AI领域一家独大,所以玩AI目前N卡对新手更友好。

如果你仅仅是想本地化部署一些AI应用,其实对于硬件的要求并不算太高,我举几个例子:

如果你的目的仅仅是让AI跑起来,其实对于硬件的要求比你想象的更低。比如StableDiffusion这样的热门AI项目,网上已经有足够多的可用模型,你要做的只是拿这些现成的模型在自己的电脑上跑起来就行。一台4代i5+矿卡P106的搭配,应该400多元就能搞定,这个配置跑StableDiffusion-WebUI玩AI出图完全没问题,而且几十秒一张图的出图效率速度还不算低(当然受制于6G显存跑不了分辨率较大的图)。

广告
胆小者勿入!五四三二一...恐怖的躲猫猫游戏现在开始!
×

Upscayl图像放大对于硬件的要求更低,如果你的CPU够强(推荐12400级别),光用CPU跑也没问题。当然借助显卡可以在计算速度上更上一层楼。

不过so-vits-svc人声模仿对于显卡的要求就高了不少,生成新的人声方案其实就是一个训练过程,对于显存的要求依然比较高。要想获得理想的效果RTX2060 12G估计都不太够用。

广告
×

Topaz video enhance视频修复也同样对于硬件要求较高(纯粹是计算量的需求),其主要原因是因为视频修复计算量非常大,所以不仅对于GPU要求高,对于CPU也有较高的要求,所以需要硬件综合性能都比较强大的配置才能达到实用级别。当然你也可以用更长的运行时间去弥补硬件上的不足。

总的来说如果你是想搭建一台跑AI的设备,可以朝这个方向去装机:CPU性能不弱、内存要大、显卡越强越好(优先N卡),此外玩AI对于硬盘空间大小和读写速度都有较高要求(AI模型一般都很大,既占存储空间又要求读取速度快),最好准备个1T以上固态硬盘。系统上很多AI应用都可以在linux上跑,热门的AI应用可以在windows上跑。

当然如果你想省钱可以考虑E3、E5这样的洋垃圾搭配P104矿卡,硬件成本会低一点。

顺便说一下我自己的案例,由于预算有限我的两台设备:一台是R5-5600G+P106,一台是R5-5600+RTX2060S。哪怕咬咬牙凑预算也只够钱换个RTX3060(而且RTX3060性价比还很低),所以就这么将就着用了。

AI目前的核心竞争力和核心硬件依然是显卡。高端玩家青睐的是A100、H100、RTX4090这样的顶级卡。中低端玩家有魔改卡RTX2080ti 22G、旧服务器计算卡P40 24G、P40 24G矿卡P104等这些玩法。但对于普通玩家而言选一张普通8G显存显卡即可,偏爱大显存可以选中端大显存卡(性价比相对低)。

但是如果你的目的不是玩AI,而是自己来“炼丹”玩深度学习训练模型,那么硬件需求翻倍也不一定够得上入门门槛。对于ChatGPT大模型而言顶级显卡A100、H100这些只是一个计量单位而已(所以ChatGPT还是用在线的强)。

之所以会对一些本地部署的AI服务感兴趣,是因为一些AI服务已经达到实用级别,比如UVR5的人声分离相当出色,一些AI应用的图片修复功能也非常强大。也正是因为AI,估计普通的游戏玩家很难在获得一张性价比很高的中端显卡。因为就新卡而言,游戏和AI综合性价比最高一张卡竟然是RTX4090,这就是无奈的现实。

查看文章精彩评论,请前往什么值得买进行阅读互动

万万没想到「家庭服务器 篇三十二:搭建一台自己的AI服务器曾被千万人表白“我等你长大”,如今她27岁长成这样,网友:告辞了」如何做家庭服务器建立家庭服务器

  • 万万没想到「阿里云域名申请免费https+服务器nginx配
  • 居然可以这样「什么是域名解析的https证书,如何解析」什么
  • 越早知道越好「网络服务之DNS域名解析」dns域名解析地址d
  • 万万没想到「什么是域名云解析 DNS」dns域名解析服务器的
  • 原创「推荐免费的网站客服在线系统,免费客服系统源码」在线客服