ldm0's recent timeline updates

ldm0

V2EX member #347120, joined on 2018-09-04 20:35:03 +08:00

ldm0

ldm0 提问技术话题好玩工作信息交易信息城市相关

2 台 DGX Spark 上运行的本地 LLM 横向对比

Local LLM • ldm0 • 2 days ago • Lastly replied by ldm0

moli: 从零做了一个给 AI Agent 的浏览器

分享创造 • ldm0 • Aug 24 • Lastly replied by gotoschool

Cardinal: 最快最准的 macOS 文件搜索工具（开源）

分享创造 • ldm0 • Jul 23 • Lastly replied by ldm0

Cardinal: macOS 的快速文件搜索（已开源）

分享创造 • ldm0 • Jan 23 • Lastly replied by ldm0

macOS Tahoe R 角千层面

macOS • ldm0 • Sep 27, 2025 • Lastly replied by tpxcer

Teahour 又活了

Podcast • ldm0 • Aug 2, 2025 • Lastly replied by kaichen

[音频分离] Spleeter 的 Rust 实现

分享创造 • ldm0 • Dec 7, 2024 • Lastly replied by badboy200600

Teahour 已经两年没有更新了

Podcast • ldm0 • Apr 23, 2022 • Lastly replied by cooper

[问] 压缩一群字符串的算法

奇思妙想 • ldm0 • Sep 24, 2021 • Lastly replied by zagfai

现在的推荐系统是不是都会使用关系网

问与答 • ldm0 • Aug 24, 2020

» More topics by ldm0

ldm0's recent replies

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@flyico 可以全都要，比如现在线上 plan 会拒绝干一些逆向的活，然后一些敏感问题也可以问，全在本地就很安心。

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@minibear2021 如果硬件正常贬值的话没什么性价比，但是现在还能小赚一点的话性价比就爆了。

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@xqk111 glm 5.3 不行，没有足够 kv cache ，deepseek 还有 qwen 可以。

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@yachen 上面有说，不同模型差别挺大的。

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@qa2080639 一台可以用 Ling Flash 之类的模型，DeepSeek V4 Flash 也有一个单 DGX Spark 可跑单量化版本。

可以去 nvidia 论坛看看，不少人都只有一台 https://forums.developer.nvidia.com/c/accelerated-computing/dgx-spark-gb10/719

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@RexKang 5w4 收的两台+连接线

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@tsja 没有用过官方 API ，但是 GLM5.3 Flash EXL3/NVFP4 的能力其实已经远远超出我的预期了，聪明是真的聪明，和其它两个有代差的感觉。

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@qazwsxkevin DeepSeek 是 fp8 满血，GLM 是 EXL3 和 nvfp4 ，Qwen 是 nvfp4 。

这几个量化都不极限，智力基本都保持的比较好，几个模型看评估数据基本都是 95%以上，我体感上没有智商问题。

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@heyjei 换一个对本地 LLM 支持更好的 harness 吧，比如 pi 。

2 days ago

Replied to a topic by ldm0 › Local LLM › 2 台 DGX Spark 上运行的本地 LLM 横向对比

@0x400 qwen 和 deepseek 的 prefill 差不多是 2500t/s 和 1800t/s ，单流 decode 二者差不多都是 70t/s ，多流的话 qwen decode 要更快一些

» More replies by ldm0