想配一台 gpu 主机

This topic created in 651 days ago, the information mentioned may be changed or developed.

想去跑 flux 、llama70b 这些比较热门的项目

显存是最大的一个支出，廉价版 2080ti 魔改 22g 一张 2600 左右

但是这些好像都是矿卡改过来的，也不知道这种显卡能用多久

不用 2080ti 的话用 3090 24g 好像看着是最划算的二手 5500-7000

打算先上 2 张，后面有钱了再扩到 4 张

显卡有普通的版本和涡轮的版本，如果放在家里的话涡轮声音会不会非常大

主机不知道怎么配比较好有自己配 gpu 主机的大佬分享下配置吗？

GPU

显卡

预算

8 replies • 2024-08-28 01:23:18 +08:00

TimCoke

Aug 24, 2024

买前生产力，买后爱奇艺。有需要直接租最划算

laminux29

Aug 24, 2024

首先，就连 GPT 4 、Google Bard 等商业 AI ，都各有各的缺点，更别提自部署的开源 AI 了。除非贵司真有隐私问题，才需要用自部署 AI 。

个人用，也就新鲜一阵子，质量根本不如商业 AI 。新鲜感没了后，这类显卡玩游戏性能又不行，想当鸡肋了。

如果真的想要，建议先租一段时间，如果能连续 1-2 个月用它，再考虑购买。

libook

Aug 24, 2024 via Android

你看看直接买 api token 包，或者租云 gpu 的成本，比你自己攒硬件花电费的成本，在可靠性和成本上

py88pQ2hZ7PJw0v4

Aug 24, 2024

买了 3070 然后吃灰了

esee

Aug 25, 2024 via Android

你自己能稳定先租用两个月再考虑是不是自建服务器了。可能过个一个星期你就没兴趣做这个了。另外弱弱问一句，你以前读书的时候放假回家，会不会塞了很多学习资料回家想着大干一场结果回家书包都没打开。

lengyuqu

Aug 25, 2024

问就是 4090

TabGre

Aug 25, 2024 via iPhone

autodl 已经玩起来了很划算

ryd994

Aug 28, 2024 via Android

起步可以先捡洋垃圾服务器显卡。比如 MI25 或者 Tesla M40 之类的。显存够大，反正能跑，速度就别指望了。这种垃圾也没人去修，不值。

主机部份就更适合捡垃圾了。价格便宜不说，pcie 通道多。桌面平台插不了几张显卡，主板通常也就 2 条 pcie 槽（ 20 lane ）是直连 CPU 不走南桥的。服务器平台，即使是 x99/c612 这样的老古董也是 40 lane ，3 条槽直通 CPU 。双路系统插 4-5 张卡也不在话下。反正能跑