最近 Hermes 好像很火,但是我似乎还是不能放心地把我的隐私数据接入到 AI Agent 里。
作为一个从古法编程时代过来的程序员,而且又比较注重个人隐私,我对把隐私数据交给 AI 一直感到不舒服。但自从 OpenClaw 火了之后,似乎到现在也没有一个能让我感到满意的方案。
想了想,最终选择捡起我尘封已久的博客,凭感觉写下来了我的想法,希望能和你共鸣吧。
1
c137rick OP Hermes 开发者好像对隐私和安全这个话题还是有一些想法的: https://github.com/NousResearch/hermes-agent/issues/410
|
2
Vipcw95 2 天前
之前想过,默认走云 LLM API 即暴露 key 。那么也许需要一个本地部署的开源小模型,不需要高智能,只是充当类似于 iPhone 中的安全隔区 Secure Enclave 的概念,所有涉及 key 的操作只由小模型来操作,只对主模型暴露操作结果。
|
3
opengo 2 天前
在想参考港大的 EdgeClaw 做一个本地版本的数据脱敏服务
|
4
superkite 2 天前
之前小米的龙虾也能把 apikey 骗出来
|
6
tf2 2 天前
呃,本地搭个 qwen3.5 gemma4 不就行了
|
7
xing7673 2 天前
agent 都用开源的代码审核
基座模型用离线权重模型 能力换隐私 成本换隐私 时间换隐私 有纠结的选项么? |
8
alphaply 2 天前
讲真的,你的需求就是本地化,本地部署个 ai agent 就可以放心大胆的用了。
|
9
Tompes 2 天前
其实本地部署模型也不一定安全哦,遇到提示词投毒攻击一样危险
|
10
ExplodingDragon 2 天前 本地部署模型避免的是上下文的直接泄露,上下文注入这类只能设计一个沙盒 + 独立的审计, 还有操作的完整回滚机制
|
11
YsHaNg 2 天前
?本地部署啊 你要不发推广去 这样只能招黑
|
12
c137rick OP @alphaply #8 是指把 Agent 接入本地模型么?如果 Agent 没有 shell 权限确实可以放心大胆用了,有 shell 权限而且能联网的话还是有点蛋疼。
|
14
c137rick OP @ExplodingDragon #10 巧了,我也有类似的想法,老哥要不咱俩聊聊?我的邮箱:bWVAYWRkZXNwLmNvbQ= (base64 解码两遍)。
|
15
c137rick OP @tf2 #6 呃,其实主要担心的是 Agent 现在都有 shell 权限,本地模型也可能执行一些恶意命令来把上下文打包发出去,如果没有 shell 权限我会放心不少。
|
16
c137rick OP @ExplodingDragon #14 “bWVAYWRkZXNwLmNvbQ==”,base64 解码一遍就行了。
(手滑打错了) |