• 请不要在回答技术问题时复制粘贴 AI 生成的内容
llfworker
V2EX  ›  程序员

AI-Token 消耗,为啥跟流水一样。。。。。

  •  
  •   llfworker · 1 day ago · 2803 views

    是错觉还是有问题呢? 应该怎么处理?是上下文太长了吗?

    19 replies    2026-07-21 08:02:52 +08:00
    YAFEIML
        1
    YAFEIML  
       1 day ago
    你理解得没问题,token 就是水,就是电,就是流量。
    a0210077
        2
    a0210077  
       1 day ago
    不是错觉。关闭 AI 。有关系但不大。
    zlhsvc
        3
    zlhsvc  
       1 day ago
    不是错觉就是和流水一样,因为上下文和最大范围读取关系
    你用网页版就不会跟流水一样了。
    xidaduo
        4
    xidaduo  
       1 day ago
    你是不是一个 session 用到死,那 token 肯定跟流水一样,而且用得越久水流越大
    llfworker
        5
    llfworker  
    OP
       1 day ago
    那要不停的切换 session?
    JarvisLee
        6
    JarvisLee  
       1 day ago
    @llfworker #5 一个任务一个 session
    llfworker
        7
    llfworker  
    OP
       1 day ago
    @JarvisLee 好的
    TomatoCLI
        8
    TomatoCLI  
       1 day ago
    你就算一个 session 用到死,那命中缓存的应该很多啊,你不看看 token 里面有多少是命中缓存了?
    canyue7897
        9
    canyue7897  
       1 day ago
    @xidaduo 不都是这样用的么?一个任务跑几个小时,还能切对话的?
    yidinghe
        10
    yidinghe  
    PRO
       1 day ago via Android
    会用的跟不会用的差距就是那么大。你也没提到说自己用的什么工具什么模型,说明你没打算真的想解决问题,就是在这里吐槽发泄一下。
    jfds
        11
    jfds  
       1 day ago
    @canyue7897 及时压缩,适当用 handsoff 和 session branch
    llfworker
        12
    llfworker  
    OP
       1 day ago
    @yidinghe 不是所有模型都这样吗? 我目前用的是 fable5 和 GPT-5.5 ; 吐槽有毛用;要能解决问题
    iceriver99
        13
    iceriver99  
       1 day ago
    gpt5.6 我都是一个对话用到死。。。。。。原来要及时切换新的对话吗
    xidaduo
        14
    xidaduo  
       1 day ago
    @canyue7897 不是的,尽量把任务最小化。首先规划好文档,然后用文档记录当前状态。如果是在设计阶段,可以用一个 session 持续进行。在实施阶段,最好是一个任务一个 session 。
    caocong
        15
    caocong  
       1 day ago
    自己辨别任务难易度降低思考程度用 medium 或者 high 做日常,一个会话不要连续对话太长,和上下文无关的新开 session ,用能力强的模型就不要用任何 spec skill 了。
    shilyx
        16
    shilyx  
       1 day ago
    我感觉上周供应商多给我算了五个 token 的消耗量,周末我都没休息好

    如何维权五个 token 呢?
    yidinghe
        17
    yidinghe  
    PRO
       1 day ago via Android
    @llfworker 问 AI 怎么找原因啊,让 AI 告诉你怎么观察,怎么排查,按照程序员排查问题的思路来就行了
    zhangglnuo
        18
    zhangglnuo  
       1 day ago
    和上下文关系不大的话 切换 session 会好一点
    yinmin
        19
    yinmin  
       6h 47m ago via iPhone
    ( 1 )要用 code plan 类型的套餐,不要裸跑 api token 计费服务。code plan 有 codex 、supergork 、opencode go 、bigmodel code plan 、volcengine code plan pro ,买 2-3 个套餐就基本够用。github copilot 是按 token 计费了,已经没啥意思了。

    ( 2 )写 plan 一个 session 到底,plan 结束开始实施前,要求更新项目文档。

    ( 3 )写 prompt 信息尽量完整,能说全就别让 ai 猜。写代码完成一个任务后需要让 ai 更新项目文档,然后压缩或者换新 session 。

    ( 4 )发现 ai 处理问题的姿势不对,纠正后多说一句:请更新项目文档。

    ( 5 )同一个 session 中间不要切换 ai 模型,换模型要新建一个 session 。

    ( 6 ) cache 是有时间限制的,短的只有 5 分钟,超时所有 input token 都算全价的。

    ( 7 )删掉不用的 skill ,避免浪费 token 。

    ( 8 )简单任务,例如:写 git 递交文档、写测试用例,可以用便宜的模型,例如:gpt 5.6 luna 、glm 5.2 甚至是 deepseek v4 flash 。(不要小看 deepseek v4 flash ,很多场景不弱的)

    ( 9 )很多 code plan 里,部分模型性价比很高,部分模型性价比很低,要留意。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5753 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 94ms · UTC 06:50 · PVG 14:50 · LAX 23:50 · JFK 02:50
    ♥ Do have faith in what you're doing.