48G 内存小主机, 通过外接显卡埠一个 5070TI 的 16G 显存,经过 claude 的优化分配. 家里内网的一些应用直接局域网接入, 外部通过一个公网域名发布, 给一些广域网上跑的应用接入了 AI, 很好用, 模型是 qwen3.6-35, 基本应用内的一些对话和调用已经足够使用.
期待显卡大降价, 这样我就可以自己开算力中心,小型的可以给朋友用的那种.
期待显卡大降价, 这样我就可以自己开算力中心,小型的可以给朋友用的那种.
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
Supplement 1 · 4h 39m ago
用来检索一些大型的单证, 和客户分析,只要不并发太多, 足够了
Supplement 2 · 4h 35m ago
我也做了个统计面板, 这是 token 数量.
 |
1
soleils 4h 58m ago
速度如何
|
 |
3
YanSeven 4h 46m ago
比较好奇这个档次的本地智力是属于在原有的应用能力上“聊胜于无，锦上添花”还是发挥了核心的作用。
|
 |
6
ostrichb 4h 38m ago
企業還不如直接買一個 DGX Spark 跑，不缺錢買這個
|
 |
7
jinsongzhaocn 1h 17m ago
最近几个月折腾硬件不划算，内存涨疯了，动不动就 1 万以上
|
 |
8
coefu Just Now
2026 年的 LLM ，就算是 qwen3.5 9B ，也是比 v 站 99.999%的人综合实力高。它比的是顶级（若干个领域的顶级博士集合）差，不是比只有单领域本科的大众差。
自己了解下那些 LLM pk 用的 benchmark ，大部分人，估计拿 1 分的能力都没有。 |
Select Language