这是一个专门讨论 idea 的地方。

每个人的时间,资源是有限的,有的时候你或许能够想到很多 idea,但是由于现实的限制,却并不是所有的 idea 都能够成为现实。

那这个时候,不妨可以把那些 idea 分享出来,启发别人。
crocoBaby

云 llm 越卷越便宜, mac 统一内存本地部署 32b 已经没意义了

  •  
  •   crocoBaby · 4h 41m ago via iPhone · 898 views
    硬件成本对比云 llm 已经没法比了,但是看了一眼二手市场 mac mini 依然高居不下
    9 replies    2026-08-02 19:15:20 +08:00
    qazwsxkevin
        1
    qazwsxkevin  
       4h 3m ago
    其实你应该反边界思考,云 LLM 做不到的需求,还是很大的。
    crocoBaby
        2
    crocoBaby  
    OP
       3h 39m ago via iPhone   ❤️ 1
    @qazwsxkevin 除了 nsfw 没想到别的了
    xjoker
        3
    xjoker  
       3h 18m ago via iPhone
    隐私部署还是要的

    比如人事部 财务部
    资料不能外泄
    crocoBaby
        4
    crocoBaby  
    OP
       3h 16m ago via iPhone
    @xjoker 一般都签保密协议采购云 llm 吧
    xjoker
        5
    xjoker  
       2h 11m ago via iPhone
    @crocoBaby 没必要呀 真泄露了你没办法证明是不是它泄露,君子协定
    EdwardKot
        6
    EdwardKot  
       1h 28m ago via iPhone
    最近也确实有此疑问,但是我还是部署了 asr 、ocr 、35B-A3B ,有些小钱能省(但是主要是手头现有的内存还算大,如果是新买专门用于本地部署的肯定不会)
    xing7673
        7
    xing7673  
       1h 26m ago
    mac mini 价格高早就不是本地 llm 需求驱动了,2-3 月还是,但是 4 月后就绝对不是了。
    crocoBaby
        8
    crocoBaby  
    OP
       1h 5m ago via iPhone
    @xing7673 是什么
    crocoBaby
        9
    crocoBaby  
    OP
       1h 3m ago via iPhone
    @EdwardKot 别说为了 ai 特意买大内存的想法没有了,连为了 coding 买的大内存的想法也没了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2779 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 12:19 · PVG 20:19 · LAX 05:19 · JFK 08:19
    ♥ Do have faith in what you're doing.