V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
c137rick
V2EX  ›  程序员

如何让我放心地把隐私数据接入到 AI Agent 里?

  •  
  •   c137rick · 2 天前 · 1981 次点击

    最近 Hermes 好像很火,但是我似乎还是不能放心地把我的隐私数据接入到 AI Agent 里。

    作为一个从古法编程时代过来的程序员,而且又比较注重个人隐私,我对把隐私数据交给 AI 一直感到不舒服。但自从 OpenClaw 火了之后,似乎到现在也没有一个能让我感到满意的方案。

    想了想,最终选择捡起我尘封已久的博客,凭感觉写下来了我的想法,希望能和你共鸣吧。

    博客链接: https://www.addesp.com/archives/6299

    16 条回复    2026-04-15 06:26:40 +08:00
    c137rick
        1
    c137rick  
    OP
       2 天前
    Hermes 开发者好像对隐私和安全这个话题还是有一些想法的: https://github.com/NousResearch/hermes-agent/issues/410
    Vipcw95
        2
    Vipcw95  
       2 天前
    之前想过,默认走云 LLM API 即暴露 key 。那么也许需要一个本地部署的开源小模型,不需要高智能,只是充当类似于 iPhone 中的安全隔区 Secure Enclave 的概念,所有涉及 key 的操作只由小模型来操作,只对主模型暴露操作结果。
    opengo
        3
    opengo  
       2 天前
    在想参考港大的 EdgeClaw 做一个本地版本的数据脱敏服务
    superkite
        4
    superkite  
       2 天前
    之前小米的龙虾也能把 apikey 骗出来
    nevin47
        5
    nevin47  
       2 天前
    我属于你想法的另外一个极端,我的 sudo 密码,支付密码,服务器私钥目录全部配置在了 Memroy.md 里面
    tf2
        6
    tf2  
       2 天前
    呃,本地搭个 qwen3.5 gemma4 不就行了
    xing7673
        7
    xing7673  
       2 天前
    agent 都用开源的代码审核
    基座模型用离线权重模型

    能力换隐私 成本换隐私 时间换隐私

    有纠结的选项么?
    alphaply
        8
    alphaply  
       2 天前
    讲真的,你的需求就是本地化,本地部署个 ai agent 就可以放心大胆的用了。
    Tompes
        9
    Tompes  
       2 天前
    其实本地部署模型也不一定安全哦,遇到提示词投毒攻击一样危险
    ExplodingDragon
        10
    ExplodingDragon  
       2 天前   ❤️ 1
    本地部署模型避免的是上下文的直接泄露,上下文注入这类只能设计一个沙盒 + 独立的审计, 还有操作的完整回滚机制
    YsHaNg
        11
    YsHaNg  
       2 天前
    ?本地部署啊 你要不发推广去 这样只能招黑
    c137rick
        12
    c137rick  
    OP
       1 天前
    @alphaply #8 是指把 Agent 接入本地模型么?如果 Agent 没有 shell 权限确实可以放心大胆用了,有 shell 权限而且能联网的话还是有点蛋疼。
    c137rick
        13
    c137rick  
    OP
       1 天前
    @Vipcw95 #2 听起来和 sub-agent 有点像,用单独的上下文来处理敏感信息,感觉可以减少敏感信息对主模型的暴露程度。老哥有开源出来么?
    c137rick
        14
    c137rick  
    OP
       1 天前
    @ExplodingDragon #10 巧了,我也有类似的想法,老哥要不咱俩聊聊?我的邮箱:bWVAYWRkZXNwLmNvbQ= (base64 解码两遍)。
    c137rick
        15
    c137rick  
    OP
       1 天前
    @tf2 #6 呃,其实主要担心的是 Agent 现在都有 shell 权限,本地模型也可能执行一些恶意命令来把上下文打包发出去,如果没有 shell 权限我会放心不少。
    c137rick
        16
    c137rick  
    OP
       1 天前
    @ExplodingDragon #14 “bWVAYWRkZXNwLmNvbQ==”,base64 解码一遍就行了。
    (手滑打错了)
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   3501 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 63ms · UTC 10:43 · PVG 18:43 · LAX 03:43 · JFK 06:43
    ♥ Do have faith in what you're doing.