$V2EX
Solana
Give SOL to Copy Address
使用 SOL 向 paranoiagu 打赏,数额会 100% 进入 paranoiagu 的钱包。
 paranoiagu's recent timeline updates
paranoiagu

paranoiagu

V2EX member #100352, joined on 2015-02-26 13:10:48 +08:00
Today's activity rank 13545
paranoiagu's recent replies
20h 39m ago
Replied to a topic by SSang 程序员 32G 显存 Qwen3.8-27B-GGUF 配置分享
@SSang 有没有试过 dflash2 加速?
@taofu 应该没影响吧,我删掉了,反正没啥有用的数据。
Aug 28
Replied to a topic by Livid Wunder 新增模型支持 glm-5.3-flash
才发现窗口是 5 小时,一直以为是 1 天😳
Aug 27
Replied to a topic by SSang 程序员 32G 显存 Qwen3.8-27B-GGUF 配置分享
@nosugar 我测试结果是并行*2 , 后
上下文/2 ,所以我为了长上下文,并行改为 1
Aug 27
Replied to a topic by SSang 程序员 32G 显存 Qwen3.8-27B-GGUF 配置分享
@nosugar bf16 ,v100 不支持,写程序的话,256K 还是有必要的
Aug 27
Replied to a topic by SSang 程序员 32G 显存 Qwen3.8-27B-GGUF 配置分享
@jinsongzhaocn q8_0 会 爆显存,除非降上下文
Aug 27
Replied to a topic by SSang 程序员 32G 显存 Qwen3.8-27B-GGUF 配置分享
@SSang 看了介绍好像可以 awq 量化模型,但是有人反应上下文不够长,我今天试试
Aug 26
Replied to a topic by SSang 程序员 32G 显存 Qwen3.8-27B-GGUF 配置分享
楼主,今天我看到这个,你试过吗?

1CatAI/1Cat-vLLM: V100 / SM70-focused vLLM engineering fork for modern LLM inference. https://share.google/ltDrm9bzMUKScR6xR
Aug 26
Replied to a topic by crc8 程序员 证书的价格为啥相差这么大?
我也觉得很奇怪,为撒差距这么大。
顺便做个广告,我有 Global sign 官方的渠道,价格肯定比外面便宜。需要可以联系我。
Aug 26
Replied to a topic by SSang 程序员 32G 显存 Qwen3.8-27B-GGUF 配置分享
https://huggingface.co/froggeric/Qwen-Fixed-Chat-Templates

用了这个才能在 Claude code 中调用
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3260 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 20ms · UTC 11:19 · PVG 19:19 · LAX 04:19 · JFK 07:19
♥ Do have faith in what you're doing.