老板最近让在公司推广 workbuddy 、千问办公等，帮助普通员工提效。主要基于两点：一是公司现有的 MySQL 业务库，二是钉钉聊天记录和钉钉知识库。数据库还好，做权限管控和数据脱敏都比较方便。问题是基于钉钉聊天记录和知识库中的信息，怎么对文本文档进行脱敏呢？如果不脱敏，是否有限制模型不泄露数据的方法？
 |
1
jacketma 17h 5m ago
只能寄希望大模型厂家瞧不上你这点数据，厂家故意泄露是不会的，拿去炼丹和意外就没办法了
|
 |
2
NewYear 16h 31m ago
书面和老板报告风险吧，提自建方案。
不同意没关系，保留证据。 事后追查的时候都是看证据的。 各种内部数据上云，要泄露也没办法，全凭良心。 我们早就用各种云表格放内部数据，方便就完了。 之前还有各种员工，财务部门表格自动备份到 wps 云，只能当做没看见，要限制也不知道怎么限，各种都能泄露出去，，，，信息安全真要上纲上线根本搞不了，，越来越无奈。 |
 |
3
MoozLee 15h 17m ago
和上游渠道签协议吧。我们公司是和阿里签的，一些合同什么都是走千问的。
|
 |
4
fcten 15h 9m ago
做一个 hook ，审查工具调用和工具返回的结果。基于简单的规则匹配就可以。如果要审查自然语言的话也可以做一个小的分类模型。
肯定没办法做到 100%，只能说降低一些风险。 |
 |
5
Daybyedream 14h 33m ago
不考虑本地部署。。。。。。大概就是所有发过去的数据都过一遍通道，里面会把你自己定义的规则的一些东西给托脱敏？但是这种。。。。
|
 |
6
qiuhang 14h 27m ago
保证不了，被拿去炼丹大概是必然的。至于提取里面的机密信息来牟利之类的，只要用的正规厂商产品应该不至于。
|
 |
7
jackOff 7h 24m ago
公司花钱自己买服务器本地部署，除此以外全是扯淡
|
Select Language