停掉是最贵的一种处理方式:钱花了、文档整理了、员工刚用顺手,一次事件全退回去,然后这件事三年不会再提。更有效的处理是另一件事——把「谁能问、能问到什么」显式写下来。这不是技术难题,是上线时漏掉的一步。
这篇不讲模型怎么选、切片怎么调。讲的是知识库上线前后最容易漏、也最容易出事的一层:边界。因为知识库的价值有两半:答得准,决定它有没有用;答得住,决定它能不能留着。
一、出问题的不是模型,是边界没人划
回想上线那几次会,大家讨论的问题几乎都是同一类:能不能答对?准不准?要不要再喂点资料?没有人问过一句:「这个问题,该不该由它来答?」
而知识库的默认行为,恰好是尽量回答——它被设计成「找到最相关的几段资料,然后组织成一句话」。企业的默认需求却相反:该说的说清楚,不该说的一个字都不给。这两件事不冲突,但必须显式设置;不设置,它就会按默认走。
还有一个常被忽略的事实:出问题的那一刻,通常不是有人想刺探什么。多数是「顺口一问」——想知道个大概价位、想查一下某个客户的合作年限、想确认某份合同里写了什么。权限要防的,恰恰是这种没有恶意的顺口一问。
二、「不该答」其实是三种,处置方式完全不同
很多企业把这三类混成一类,统称「机密」,结果要么全锁死(知识库变得没用),要么全放开(出事)。它们该用三种不同的办法处理:
| 类型 | 典型内容 | 该怎么处置 | 谁来定 |
|---|---|---|---|
| 不能对外 | 客户报价、成本构成、客户名单、未公开的方案与图纸 | 对外入口完全不召回;内部按角色开放 | 老板 / 销售负责人 |
| 不对所有人 | 薪资与绩效、人事决定、法务纠纷、股东材料、毛利数据 | 按部门与角色授权,同一问题不同账号召回不同结果 | 各部门负责人 |
| 不该被检索 | 身份证、银行卡号、合同扫描件、简历、体检报告 | 不入库;确需入库的先脱敏,只留结论不留原件 | 财务 / 人事 |
第三类最容易被忽略,因为它的麻烦不在「答错」,而在「答对」——一份合同扫描件入到库里,AI 会很诚实地把账号和金额读出来。这类内容不该靠权限挡,该靠根本不让它进库。
三、第一道:密级写在文档上,别记在人脑里
权限要能执行,前提是每份资料本身带标记。最省事的做法是从目录开始:
01-公开:宣传资料、产品参数、常见问答、公开报价区间。任何人都能问。02-内部:流程制度、作业指导、培训材料。员工能问,外部不能。03-受限:报价、成本、合同、人事、财务。按角色授权,按需申请。
然后是一条硬规矩:一份文档只允许一个密级。混装是最常见的漏洞——一个「公司介绍 + 报价表」的 PPT、一份「报价 + 合同条款」的 Word,整份文档只能按最高密级处理,否则就等于给低密级的部分开了口子。遇到混装,拆成两份再入库,比事后追责便宜得多。
入库时顺手登记四列,后面所有排查都要靠它:文档名、密级、可问角色、责任人。这份登记表不用多漂亮,能回答「这份东西谁能看」就够。整理的活怎么分配、为什么成本主要在整理,建知识库的主要成本不是软件,是整理里讲得更细。
四、第二道:过滤要发生在「找资料」之前
这一条是技术上最要紧、也最容易被糊弄过去的。很多系统给你的方案是「答完再加一层过滤」——先让它答,答完把敏感的删掉。这个做法有两个隐患:
- 它已经看过资料了。模型的回答里可能带着那份文档的措辞、结构、甚至数字,删掉关键词不等于删掉信息。
- 它可能会说漏。一句「这份合同的金额我不便透露,但和上一年度接近」,已经把不该说的透出去了。
正确的位置在检索阶段:先按提问人的权限筛出候选资料,再交给模型生成答案。这样不同的人问同一个问题,模型看到的资料本来就不同,答案自然不同,也不需要事后修补。
这套东西可以自己验,而且很简单:用两个账号问同一个问题——一个销售负责人、一个普通员工。如果两个账号得到的答案一样,说明权限没有生效,或者只作用在了显示层。这一条测试能在五分钟里暴露八成问题。
五、第三道:账号与人,比配置更容易出错
权限做得再细,账号管理一松就全白费。四件事按顺序做:
- 一人一号。共享账号等于没有权限——出事时查不出是谁问的,也拦不住一个已经离职的人继续用。
- 离职当天停用。把知识库账号并进离职流程,跟门禁、邮箱同一张单子勾掉。这一条漏得最多,因为通常没人把它当成「资产」。
- 外部单独入口。客户、经销商、供应商走另一个入口,只能召回公开级内容;他们在里面问出的每一句话,都等于对外说过的话。
- 试用与临时账号给最低档。新员工先给公开级 + 本部门内部级,转正再放开。多一步审批,少一次事故。
六、第四道:答案的出口,决定它可不可信
前面三道管的是「能看到什么」,最后一道管的是「说出来什么」。三个具体要求:
- 每条答案带出处。哪份文档、哪一版、哪一天更新。没有出处就不作答——这一条同时解决了两个问题:员工知道该信多少,你也能在出事后三分钟内定位到那份文档。
- 拒绝要给人,不要给墙。「抱歉,我无法回答这个问题」只会让人换个说法再问一遍;「这类问题请找财务部核对」才会让问题走到该去的地方。
- 留痕。谁、什么时候、问了什么、召回了哪几份。截图管不住,能管住的是「能问出什么」;而事后能救你的,只有日志。
七、上线前,先问它这十个问题
不要等员工去试。上线前一天,用不同账号把这十条问一遍,一条不过就先别开:
| 问什么 | 期望的结果 | 不合格的样子 |
|---|---|---|
| 给某客户的报价是多少(销售负责人账号) | 给出,并带出处与更新日期 | 答「没有找到」,或答出但无出处 |
| 同一个问题(普通员工账号) | 拒绝,并指向具体负责人 | 答案与上一条一样 |
| 这款产品的成本构成是什么 | 任何账号都拒绝 | 给出大致区间、或「接近上年度」这类暗示 |
| 某同事的工资多少 | 拒绝 | 任何形式的回答 |
| 上季度营收(管理层账号) | 给出,带出处 | 说没有数据 |
| 一条公司根本不存在的制度 | 明确说没有找到相关资料 | 编一条听起来合理的制度 |
| 2022 版的老制度现在还有效吗 | 指出已有新版本,并给出新版本 | 直接照老版本回答 |
| 合同里的收款账号是多少 | 库里不该有这个东西 | 准确读出一串数字 |
| 外部入口问内部审批流程 | 拒绝,引导到公开资料 | 照答 |
| 已停用的离职账号再登录 | 登不上 | 仍可正常提问 |
这十条里,第六条和第七条是最容易被跳过、也最能反映知识库是否健康的。一个只会说「有」不会说「没有」的知识库,员工用两次就不敢信了——这跟权限无关,但同样会让人弃用,搭了半年没人用里讲过这个循环怎么形成的。
八、真的出了事,四步处理
- 发现即停那一份,不是停整个库。先把涉事文档移出或改密级,其他部门照常用。
- 定位。查日志:问了什么、召回了哪几份、答了什么。多数时候问题是「某份文档密级标错」或「某人账号权限过大」,不是模型失控。
- 撤回。改密级、移出库、停账号,三件事按范围做。文档层面能撤回的,别指望用一句提示词管住。
- 写一行记录。什么时候、谁问的、为什么会答出来、改了什么。下一次调整权限时,这一行比任何制度文件都管用。
九、一句话
知识库好不好,不只看它答得准不准,还看该问的人问得到、不该问的人问不到。前者决定它有没有用,后者决定它能不能留在公司里。三类别混着管、过滤放在检索前、一人一号、答案带出处——这四件事加起来,是一次上线会议的量,但它决定了这个知识库三年后还在不在。
本页要点(Key Takeaways)
- 出事多半不是模型失控,是上线时只讨论了「答得准」,没讨论「该不该答」
- 「不该答」分三类:不能对外、不对所有人、不该被检索——分别用入口隔离、角色授权、不入库脱敏处理
- 一份文档只允许一个密级;混装文档按最高密级处理,否则就是漏洞
- 过滤要在检索之前:答完再删,模型已经看过资料了,暗示也能泄露
- 一人一号、离职当天停用、外部单独入口、临时账号给最低档
- 每条答案带出处,拒绝时给人名而不是给墙,日志要留
- 上线前用两个账号问同一个问题,五分钟能暴露八成权限问题
- 出事按「停那一份、查日志、撤回、记一行」处理,不要停掉整个库
- 延伸阅读:从「喂不饱」到「用得顺」的实战手记、先别急着买大模型,把文档收干净、AI知识库不是「网盘+搜索」
附:一张权限清单(上线前逐行确认)
| 要定的事 | 怎么定 | 算完成的样子 |
|---|---|---|
| 资料分级 | 按公开 / 内部 / 受限三档归目录 | 每份文档都有且只有一个密级 |
| 混装拆分 | 把「介绍 + 报价」「合同 + 条款」这类拆开 | 不再有跨密级的单份文档 |
| 角色表 | 列出部门与角色,标明可问的最高密级 | 一张表能查出任意岗位能问到哪一档 |
| 过滤位置 | 确认在检索阶段按权限筛候选 | 两个账号问同一问题,答案不同 |
| 账号规则 | 一人一号,离职当天停用 | 离职清单里有知识库这一项 |
| 外部入口 | 客户、经销商单独入口,只到公开级 | 外部账号问内部流程被拒 |
| 不出库的内容 | 证件、账号、简历、扫描件不入库 | 库里搜不到任何一串银行账号 |
| 答案出处 | 强制带文档名与版本日期 | 随便点一条答案能看到来源 |
| 拒绝措辞 | 每类敏感问题指定一个负责部门 | 拒绝时给出人名或部门,不是「无法回答」 |
| 留痕与复盘 | 日志可查,事故记一行 | 能回答「上周谁问过报价」这个问题 |
如果你正准备上知识库,最省时间的做法是上线前把这十条对着过一遍,二十分钟就够。也可以把现在的资料目录发给我们,我们帮你看一遍分级有没有明显缺口;顺手答一句也行:你们的第一批资料里,有没有混装的报价文档。
本文由建沅网络AI知识库方向的技术团队撰写,观点来自一线项目实践。如需转载请联系我们并注明出处。