turing518
1.29D
V2EX  ›  Local LLM

老哥们,预算 3w 左右想弄一套小型化本地大模型硬件,求推荐

  •  
  •   turing518 · 18h 48m ago · 618 views

    如题,预算 3w 左右,想弄一套小型化本地大模型硬件来跑本地大模型,处理一些不能传到外网的文档的 RAG ,保证 tps 的情况下,能省电更好,目前看了华硕的 GX10 ,求问是否还有其他的推荐?

    1 replies    2026-08-18 20:13:39 +08:00
    niubee1
        1
    niubee1  
       13h 2m ago
    微星的一样的配置更便宜一点。或者你可以 AMD 7900XTX 组台机器,能耗高点,但是整体硬件更便宜
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5390 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 01:16 · PVG 09:16 · LAX 18:16 · JFK 21:16
    ♥ Do have faith in what you're doing.