sentinelKV2EX member #631792, joined on 2023-05-30 20:41:02 +08:00Today's activity rank 4311 |
| 你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, rtx pro 5000 48GB + 64GB RAM, decode 130t/s, prefill2600 t/s Local LLM • sentinelK • 10h 1m ago • Lastly replied by panghu960 | 8 |
| strata 极致优化指南(参数篇)64GB RAM + RTX pro 5000 48GB, IQ3_XXS 量化, prefill 4500t/s, decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill Local LLM • sentinelK • 2 days ago • Lastly replied by Ken1028 | 15 |
| “马鞍税”,一篇非常有意思的 harness 横比文章 程序员 • sentinelK • Sep 18 • Lastly replied by greentim | 9 |
| 很好奇小米开放的这个实时训练监控器,其中成本(cost)的组成: https://mimo.xiaomi.com/rl/#overview 程序员 • sentinelK • Sep 17 • Lastly replied by lwep | 8 |
| deepseek-flash 的第三方跑分趣闻 DeepSeek • sentinelK • Sep 11 • Lastly replied by sentinelK | 3 |
| Hermes Agent 9 月更新纪实: bot 机制补全了 hermes 的最后一块基石,产品功能设计逐渐向 GUI 倾斜。 Hermes Agent • sentinelK • 3 days ago • Lastly replied by peacekang | 1 |
| mac m5 ultra 上线中国官网。1.2T 显存带宽, 256GB 版本 8.6 万 Local LLM • sentinelK • Aug 28 • Lastly replied by sadan9 | 51 |
| RTX PRO 5000(或其他 48GB 显存)的 Qwen3.8-27B-FP8 配置交流(prefill 5000+t/s, decode 60+t/s)
1 Local LLM • sentinelK • Aug 26 • Lastly replied by tgfbeta
|
55 |
| OpenCode go 订阅开始区分模型提供额度, kimi-k3、deepseek-v4-pro 等只有 15$的额度,请各位注意用量。 程序员 • sentinelK • Jul 20 • Lastly replied by shuck | 49 |
5h 4m ago Replied to a topic by Chihiro316 › 程序员 › 我用 deepseek 逆向了小米运动的卡路里算法,绷不住了 |
23h 55m ago Replied to a topic by liuluxu1989 › 程序员 › 刚 Tibo 说 codex 支持会话的永久缓存,有懂技术的解释下这可能吗 |
1 day ago Replied to a topic by iorilu › 随想 › 我发现一个讽刺的现实, AI 爆发随手可以搞软件, 但是软件的需求却没了 |
2 days ago Replied to a topic by cjkcjkcjk › Local LLM › 本地机器能跑 DeepSeek v4.1flash 或者 Qwen3.8 得多少钱? |
2 days ago Replied to a topic by 1300296933 › 职场话题 › 感觉自己的人生好失败 |
3 days ago Replied to a topic by florentino › 程序员 › 我宣布,thinkrail 就是我心目中,最好的 AI coding agent App |
3 days ago Replied to a topic by florentino › 程序员 › 我宣布,thinkrail 就是我心目中,最好的 AI coding agent App |
3 days ago Replied to a topic by layxy › OpenAI › 国庆后 Codex 越更新问题越多,是我环境问题吗 |
3 days ago Replied to a topic by coldmonkeybit › 职场话题 › 发现大家对拖欠工资这件事接受度很高 |
5 days ago Replied to a topic by donkeylucky › 程序员 › 1w token 每秒 |