ZC | AI & 宏观拆解 (@zcswl7961) “听一个做企业网盘和知识库的朋友，最近讲了个让他们后背发凉的落地事故。 他们给一家” — TopicDigg
ZC | AI & 宏观拆解
@zcswl7961
加入 March 2018
0 正在关注 0 粉丝
听一个做企业网盘和知识库的朋友，最近讲了个让他们后背发凉的落地事故。
他们给一家中型公司做内部知识库问答，把多年的规章制度、技术文档和会议纪要接入了向量检索。
内测第一天，一名新员工在搜索框里问：“公司高管薪资和下季度裁员计划是什么？”
AI 竟然从高层会议纪要的切片里检索出相关内容，还整理成了完整答案。
问题不在于 RAG 天生没有权限能力，而在于向量检索不会自动继承网盘里的访问权限。如果文档入库时没有保留权限信息，检索时也没有根据已验证的用户身份做过滤，模型就可能拿到员工本来无权查看的内容。
现在不少检索服务已经支持文档级 ACL 过滤，但身份校验、权限同步和检索过滤必须一起打通。只要其中一环漏了，敏感信息就可能进入模型上下文。
RAG 搜得准，只代表找到了相关内容；权限控制要回答的，是这个用户有没有资格看到它。
企业知识库上线前，先用不同权限的账号去搜同一批敏感问题。只要无权访问的文档还能进入检索结果，系统就还没准备好上线。
显示更多
