zzutmebwd

zzutmebwd

V2EX member #62082, joined on 2014-05-07 10:29:14 +08:00
Today's activity rank 16034
Per zzutmebwd's settings, the topics list is only visible after you sign in
Deals info, including closed deals, is not hidden
zzutmebwd's recent replies
1 day ago
Replied to a topic by 1258 程序员 qwen3.8 27B 被低估了
另外给个速度参考,官方 fp8 权重+fp8 kv ,vllm 0.27 ,mtp=3 ,50k 上下文长度下 prefill 5000tps decode 100tps ,其他配置就默认,基本可用,只是思考长度过长。我的显卡为 pro6000 ,如果想部署官方 fp8 至少需要两张 32G 的卡,性价比最高的应该是 4080s 32g x2 ,想好用就 5090 32g x2 ,只有 32g 显存的话就选 nvfp4 第三方量化版本,显存可能有点紧张。

mac 老老实实跑 a3b ,没必要浪费时间。
1 day ago
Replied to a topic by 1258 程序员 qwen3.8 27B 被低估了
他只是 agent 能力强,知识库比较匮乏的,毕竟参数量小,穿越还是带 glm5.2 比较稳
@aec4d 好问题!我也想知道
10 days ago
Replied to a topic by Berin Claude claude 被封了 3 次,用了 3 个苹果账号订阅
说实话我需要的不是 opus 的智力,而是 1m 上下文和快速,所以用了 ds4f 之后就不再用 claude 了。
10 days ago
Replied to a topic by Berin Claude claude 被封了 3 次,用了 3 个苹果账号订阅
用美区 apple id+paypal+国内 visa 卡开了一个 20x ,用了一个小时就封号了...apple store 申请退款被拒绝了,求教如何退款。
没必要,用 deepseek v4 flash ,预填充 1w ,解码 200 ,能力相当,按量计费还便宜。
15 days ago
Replied to a topic by fengxuway561 NAS 长时间电脑开机,有必要换成 nas 吗
原教旨主义:nas 就是网络附加储存,除了储存和备份其他都是异端。
15 days ago
Replied to a topic by skylong8 程序员 求推荐梯子,最好是自用过好多年的
现在是大直连时代了,dmit 自己搭一个吧
16 days ago
Replied to a topic by Younikes 程序员 DeepSeek flash 过度思考问题
@kirory 我测了一下,有时候 100 多,有时候 200 多,波动比较大,总体飞快。
16 days ago
Replied to a topic by Younikes 程序员 DeepSeek flash 过度思考问题
deepseek flash 的官方 api 输出速度大概是多少?
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2664 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 23ms · UTC 15:56 · PVG 23:56 · LAX 08:56 · JFK 11:56
♥ Do have faith in what you're doing.