🦀，bro 。

astra 真 agi 。

鹈鹕的腿，是正关节。

sol 画成了反关节。

关键是，现在外包都是香饽饽。

@rencoo 🦀，bro 。但凡是不能把复杂问题简单化，喜欢把简单问题复杂化的，这种人要绕开，一句话都不要信，也不用跟他们沟通。

可能会让你尝到一点甜头，但要付出更大代价。

@rencoo 见人太少了。这种一眼不长久。

qwen3.8 27B 263k context Q8 kvcache no think ，大概在 128k 不到的长度，decode 就<2tok/s 。如果 kv cache Q4 能在 200k 左右，还有 3 tok/s ，但是会出现遗忘现象，比如一开始的规则后续就不再遵循。

我发现 muse glimmer 30B 在同样的 context 下，还能稳定 9tok/s 。muse glimmer 30B 的 benchmark ，其实都是在后训练得到的场景里不如 qwen3.8 27B,不过也是超过了 qwen3.6 27B 。

所以，263k context ，kvcache 必然要 Q8 。

我选 muse glimmer 30B 。但凡它要是能在后训练上再进步一点，不说超越 qwen3.8 27B , 只要能打平，就是当前最适合的。

这波 LLM ，完全没有商汤的声音，当年那么硬气的。现在彻底熄火。

我有一个超越时代的 agent 理论还在完善，并且能工程实践。二者互为支撑。

同时满足 temporal cogation & initiative 。

评论区一转话锋了，放一年前 都是劝争取 2N 的。

@zzutmebwd 🦀，bro 。

不用参考了。我自己长期处于 decode < 10 tok/s 的环境。看你这个只让我更伤心，💔，😭

@wises 喷错了，我掌嘴我自己，对不起，bro 。😂

@wises 不用再回复我了，你什么段位，什么德行，我一清二楚了，已经进入我的 block ，不再见。

@wises 那你适合花钱搞，这种免费的满足不了你的需求。

不是 searxng 不行，是你的深度需求，在 searxng 上很难免费实现。你应该在 主题，就附上自己的需求，而不是含糊不清。

“想听听各位在做 Agent / LLM 应用工程时，记忆和可控性这两个坑是怎么处理的。”

因为你们没有靠谱的理论深度，都是自己想当然的工程搞法。

@wises 我刚才说了啊，就上面的操作，关了所有 engine ，只留 bing ，baidu ，google ，duckduckgo ，每次 5 条足矣，你要是觉得不够 10 条，完全够了。

@catazshadow 这只是 idea ，我没去实践过，理论上看起来能跑通。

@wises 怎么还花钱了，用 searxng 就是因为可以不花钱啊。

你部署了之后，没有改配置？

@wises 再贵，贵的过 pro6000 ？用它五分之一的价格，跑个 10tok/s ，值不值？

@wises 我用的起飞，丝毫没感觉到，你要选 engine ，bro 。国内的只留 bing 和 baidu 。Google ，duckduckgo 。然后选 5 条足矣。

@wises 64G,4 通道，8 条插槽，每条 8G 。你硬件这块要补习啊，bro 。v100 32G 现在贵了，之前 3000 左右能搞到。