节点赞助商

tommyZZM

使用同一个本地部署的模型,在不同的上下文环境使用差别非常大,有没有办法取得一致性

  •  
  •   tommyZZM · 3 days ago · 428 views

    使用同一个本地部署的模型,Qwen3.8-27b-q4_K_M

    在 Vscode 分别使用 Github Copliot 和 Continue 插件,对同一个问题的解析和处理差别非常大

    感觉 Github Copliot 的处理方式更加“聪明”“合意”

    有没有办法尽可能取得一致性?发挥模型的最大效能

    感觉这里是一个可探索的区间

    4 replies    2026-09-20 18:54:28 +08:00
    kimhooo
        1
    kimhooo  
       3 days ago
    如果你没办法量化定义什么是更加“聪明”“合意”,那就没必要折腾这个问题,等模型能力变强就好
    tommyZZM
        2
    tommyZZM  
    OP
       3 days ago
    @kimhooo 模型能力再好,输出结果,也会受上下文的干扰。这是一个互相作用的动力系统。
    wanganjun
        3
    wanganjun  
       3 days ago
    应该是 Github Copliot 加了什么提示词,还内建了一些什么功能,所以表现好一点。

    Continue 很原始,不适合用来做快速上手的 agent ,需要定制。

    想要探索的话,我觉得可以找一个查看 agent 历史 session 文件的软件,对比一下,Copliot 和 Continue 都给 Qwen3.8 发了什么提示词
    SilencerL
        4
    SilencerL  
       3 days ago
    harness 的问题不是模型的问题,很难让所有 agent 在同一个模型下的表现接近
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3075 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 34ms · UTC 12:00 · PVG 20:00 · LAX 05:00 · JFK 08:00
    ♥ Do have faith in what you're doing.