jedeft

大神们推荐个,适合垃圾佬跑大模型的机器配置

  •  
  •   jedeft · May 11, 2024 · 2228 views
    This topic created in 757 days ago, the information mentioned may be changed or developed.

    场景: 1 、跑开源的大模型,做自己的知识库 2 、偶尔自己做一点微调

    希望价格不要太高,几千块能搞定的那种,求推荐

    6 replies    2024-05-14 21:20:02 +08:00
    Brunuh2Ville2
        1
    Brunuh2Ville2  
       May 11, 2024 via Android
    吃显存,16g 起步,最好 24g
    codehz
        2
    codehz  
       May 11, 2024
    你这还不如直接租在线的,几千块够用好久了
    ShadowPower
        3
    ShadowPower  
       May 11, 2024
    P40 改散热 x2
    lllabmaster
        4
    lllabmaster  
       May 13, 2024 via iPhone
    阿里云 PAI 能免费用 3 个月
    jedeft
        5
    jedeft  
    OP
       May 13, 2024
    @lllabmaster 求链接
    wencan
        6
    wencan  
       May 14, 2024
    llama.cpp 加 量化,不要 gpu 也可以跑大模型
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2859 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 34ms · UTC 07:32 · PVG 15:32 · LAX 00:32 · JFK 03:32
    ♥ Do have faith in what you're doing.