frankyzf
V2EX  ›  Local LLM

有支持 6000 Ada 使用 deepseek v4 flash 推理 的框架吗

  •  
  •   frankyzf · 7h 3m ago · 637 views

    显存是够的(多卡),但架构有限制( SM_89 )

    4 replies    2026-06-19 14:19:30 +08:00
    wwhc
        1
    wwhc  
       5h 45m ago
    等 llama.cpp 合并 Deepseek v4 的补丁到主线吧
    ETiV
        2
    ETiV  
       5h 38m ago via iPhone
    BaiLinfeng
        3
    BaiLinfeng  
       4h 46m ago
    还是那句话 Deepseek 被神话了,我感觉也就那样
    gpt5
        4
    gpt5  
       3h 35m ago
    公司有几张这卡,显存是可以,但架不住慢啊。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2531 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 09:54 · PVG 17:54 · LAX 02:54 · JFK 05:54
    ♥ Do have faith in what you're doing.