• 请不要在回答技术问题时复制粘贴 AI 生成的内容
coder121
V2EX  ›  程序员

GPT sol 的上下文长度设置成多少比较合适,默认的 200k 太短了,随便几下就开始合并了, 1m 到后面又有点顾头不顾尾的

  •  
  •   coder121 · 1 day ago · 2511 views
    18 replies    2026-09-03 14:17:55 +08:00
    QS0x01
        1
    QS0x01  
       1 day ago
    我参考的官方 API 双倍价格门槛 272K 那个界限,略微留一点缓冲区,取个整 300K 让它开始压缩。
    schemesAlot
        2
    schemesAlot  
       1 day ago
    试过 tibo 说的那个 1m,用了两次就删了,坚持 272,官压除了慢没毛病
    Rickkkkkkk
        3
    Rickkkkkkk  
       1 day ago
    codex 默认的肯定就是最合适的,1m 真的好用,那默认的设置为什么不是 1m
    pony2335
        4
    pony2335  
       1 day ago
    500k
    iyaozhen
        5
    iyaozhen  
       1 day ago
    codex 默认呀,调那个干啥
    zed1018
        6
    zed1018  
       1 day ago
    别说 codex 了,CC 早就开放 1M ,且默认 1M 。但是实际上/usage 里都会提示 >150K 的应该 compact ,因为计费很贵。
    yh7gdiaYW
        7
    yh7gdiaYW  
       1 day ago
    @Rickkkkkkk 因为 openai 搞阶梯计费导致开 1m 很贵。codex 刚开始默认也不是 272k ,不会自己管控上下文的初级用户太多导致用量消耗太快,意见太大了才缩回去的
    nakun233
        8
    nakun233  
       1 day ago
    我问了他之后,他说设 600k
    longaiwp
        9
    longaiwp  
       1 day ago
    @Rickkkkkkk 因为太大消耗会很快,所以才缩回去,但是太大还有一个注意力不集中的问题
    Rammus
        10
    Rammus  
       1 day ago
    200k
    wengjin456123
        11
    wengjin456123  
       1 day ago
    272k 确实小,而且这玩意上下文涨的太快
    tagee
        12
    tagee  
       1 day ago
    我设置过 1m 的,体验很好啊,很久都不会看到他在压缩上下文。但是额度扛不住,感觉跟开了 fast 似的,额度蹭蹭往下掉。
    zuosiruan
        13
    zuosiruan  
       1 day ago via iPhone
    我用的 500KB
    maolon
        14
    maolon  
       23h 27m ago
    按 matt ( grill me 作者)的说法应该 150k 就 compact ,5.6 默认是 272k ,分段计费开始于 272 ,所以 272 之上会消耗会很大至少 sol 和 terra 不推荐开高,luna 对于长任务可以适当拉满使用
    IMengXin
        15
    IMengXin  
       18h 16m ago
    为啥我没调整过,自己变 1M 了。。
    liansishen
        16
    liansishen  
       15h 34m ago
    272 真的动不动就压缩,非常拖慢速度,我改成了 372
    tylerrrrrr
        17
    tylerrrrrr  
       15h 1m ago
    我也踩过:默认 200k 容易早 compact ,直接开 1m 额度掉得飞快。我现在按官方阶梯附近留一点缓冲(大概 272k–300k )让它压,比硬撑满窗稳。长任务与其塞进同一个超长会话,不如阶段性收束再续;我本机会把 Codex/Claude Code 会话分任务接着跑,本地工作台只帮忙看进度和 Diff ,不替换 CLI: https://github.com/yy36295238/caravel-releases
    keakon
        18
    keakon  
       12h 32m ago
    codex 有个功能是让模型自行记录笔记,并自主进行上下文切换。
    我把这个功能移植到了自己的 agent ,感觉挺好用的,模型会在完成子任务或上下文较多时就瞬间清理上下文,可以无缝连续长程工作。我有个任务已经跑了 8 小时了,推进仍然很顺利。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1055 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 46ms · UTC 18:50 · PVG 02:50 · LAX 11:50 · JFK 14:50
    ♥ Do have faith in what you're doing.