xyooyx

xyooyx

V2EX member #347966, joined on 2018-09-07 17:42:57 +08:00
Today's activity rank 168
Per xyooyx's settings, the topics list is hidden
Deals info, including closed deals, is not hidden
xyooyx's recent replies
5h 49m ago
Replied to a topic by helloboy9527 程序员 deepseek-harness 初体验,讨论下呢
@litchinn 认真的去看了下源码,梳理了下,分享给朋友们
11h 26m ago
Replied to a topic by burnbrid 程序员 哪个大佬谁爬过抖音的视频连接?
抖音的视频、音频是分别返回的
11h 29m ago
Replied to a topic by helloboy9527 程序员 deepseek-harness 初体验,讨论下呢
@wsseo 我理解这个 web 是用 sdk 做了个 demo ,实际应该是去用 sdk
11h 30m ago
Replied to a topic by PhoenixDancing Google Gemini Gemini 被送回来了?
是的,连带账号也一起送了好像,我用完 antigravity ,chrome 访问也重定向去 hk 了,美国 ISP 倒是可以
@xyooyx
列个公式其实就很清晰了

总命中率 = (System Cache Hit + History Cache Hit) / Total

= [ C × hit_rate_system + ΣΔ(k) × hit_rate_history ] / [ C + ΣΔ(k) + d ]

代入场景数据:
系统提示(含工具):1500–3000 tokens
历史对话( 10 轮):4000–8000 tokens
当前输入:20–100 tokens
则:
命中率 = (3000 + 8000) / (3000 + 8000 + 50) ≈ 99.5%

所以得出推论:
- Agent 只要跑起来,轮次必然长,高缓存命中是“必然结果”
- 这不是某个特定任务的福利,而是 Agent 场景的“通用属性”

那问题就变成了:
既然所有 Agent 都必须面对“长文本 + 高重复”这个通用问题,
那一个模型如果能做到:
- 长上下文不崩( 128K 甚至 1M 依然能 recall )
- Cache 策略高效(不重复计算)
- 长文本推理速度不线性下降

我们就认为这个模型在 Agent 这个赛道里“做得好”。因为它在解决的是这个场景下的“通用瓶颈”
13h 24m ago
Replied to a topic by v2er4241 生活 想起一件招笑的小事
@lm1368 呃....
其实 system prompt 算小头,agent 场景里的大头是 history ,每一轮相比上一轮的历史都是重复的,而且缓存命中率直接决定结算单价,最终影响的是完成一件事的成本,大家会用脚投票,所以当然会特别在意。
1 day ago
Replied to a topic by sskycn OpenAI 我好像发现了省 tokens 的方法
人脑和外脑之间有一个楔子
1 day ago
Replied to a topic by sskycn OpenAI 我好像发现了省 tokens 的方法
@woshishui2022 codex 有 grill-me 吗。。我一直以为等价的就是 plan mode
1 day ago
Replied to a topic by kpprotector 程序员 大家常用的模型-Agent 组合是什么?
codex*2 、claude code*1 、antigravity*1 ,自己的小工具都走 deepseek-v4-flash
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2322 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 10ms · UTC 16:07 · PVG 00:07 · LAX 09:07 · JFK 12:07
♥ Do have faith in what you're doing.