停掉是最貴的一種處理方式:錢花了、文件整理了、員工剛用順手,一次事件全退回去,然後這件事三年不會再提。更有效的處理是另一件事——把「誰能問、能問到什麼」顯式寫下來。這不是技術難題,是上線時漏掉的一步。
這篇不講模型怎麼選、切片怎麼調。講的是知識庫上線前後最容易漏、也最容易出事的一層:邊界。因為知識庫的價值有兩半:答得準,決定它有沒有用;答得住,決定它能不能留著。
一、出問題的不是模型,是邊界沒人劃
回想上線那幾次會,大家討論的問題幾乎都是同一類:能不能答對?準不準?要不要再喂點資料?沒有人問過一句:「這個問題,該不該由它來答?」
而知識庫的預設行為,恰好是盡量回答——它被設計成「找到最相關的幾段資料,然後組織成一句話」。企業的預設需求卻相反:該說的說清楚,不該說的一個字都不給。這兩件事不衝突,但必須顯式設置;不設置,它就會按預設走。
還有一個常被忽略的事實:出問題的那一刻,通常不是有人想刺探什麼。多數是「順口一問」——想知道個大概價位、想查一下某個客戶的合作年限、想確認某份合同裡寫了什麼。權限要防的,恰恰是這種沒有惡意的順口一問。
二、「不該答」其實是三種,處置方式完全不同
很多企業把這三類混成一類,統稱「機密」,結果要麼全鎖死(知識庫變得沒用),要麼全放開(出事)。它們該用三種不同的辦法處理:
| 類型 | 典型內容 | 該怎麼處置 | 誰來定 |
|---|---|---|---|
| 不能對外 | 客戶報價、成本構成、客戶名單、未公開的方案與圖紙 | 對外入口完全不召回;內部按角色開放 | 老闆 / 銷售負責人 |
| 不對所有人 | 薪資與績效、人事決定、法務糾紛、股東材料、毛利資料 | 按部門與角色授權,同一問題不同帳號召回不同結果 | 各部門負責人 |
| 不該被檢索 | 身份證、銀行卡號、合同掃描件、簡歷、體檢報告 | 不入庫;確需入庫的先脫敏,只留結論不留原件 | 財務 / 人事 |
第三類最容易被忽略,因為它的麻煩不在「答錯」,而在「答對」——一份合同掃描件入到庫裡,AI 會很誠實地把帳號和金額讀出來。這類內容不該靠權限擋,該靠根本不讓它進庫。
三、第一道:密級寫在文件上,別記在人腦裡
權限要能執行,前提是每份資料本身帶標記。最省事的做法是從目錄開始:
01-公開:宣傳資料、產品參數、常見問答、公開報價區間。任何人都能問。02-內部:流程制度、作業指導、培訓材料。員工能問,外部不能。03-受限:報價、成本、合同、人事、財務。按角色授權,按需申請。
然後是一條硬規矩:一份文件只允許一個密級。混裝是最常見的漏洞——一個「公司介紹 + 報價表」的 PPT、一份「報價 + 合同條款」的 Word,整份文件只能按最高密級處理,否則就等於給低密級的部分開了口子。遇到混裝,拆成兩份再入庫,比事後追責便宜得多。
入庫時順手登記四列,後面所有排查都要靠它:文件名、密級、可問角色、責任人。這份登記表不用多漂亮,能回答「這份東西誰能看」就夠。整理的活怎麼分配、為什麼成本主要在整理,建知識庫的主要成本不是軟體,是整理裡講得更細。
四、第二道:過濾要發生在「找資料」之前
這一條是技術上最要緊、也最容易被糊弄過去的。很多系統給你的方案是「答完再加一層過濾」——先讓它答,答完把敏感的刪掉。這個做法有兩個隱患:
- 它已經看過資料了。模型的回答裡可能帶著那份文件的措辭、結構、甚至數字,刪掉關鍵詞不等於刪掉資訊。
- 它可能會說漏。一句「這份合同的金額我不便透露,但和上一年度接近」,已經把不該說的透出去了。
正確的位置在檢索階段:先按提問人的權限篩出候選資料,再交給模型生成答案。這樣不同的人問同一個問題,模型看到的資料本來就不同,答案自然不同,也不需要事後修補。
這套東西可以自己驗,而且很簡單:用兩個帳號問同一個問題——一個銷售負責人、一個普通員工。如果兩個帳號得到的答案一樣,說明權限沒有生效,或者只作用在了顯示層。這一條測試能在五分鐘裡暴露八成問題。
五、第三道:帳號與人,比配置更容易出錯
權限做得再細,帳號管理一松就全白費。四件事按順序做:
- 一人一號。共享帳號等於沒有權限——出事時查不出是誰問的,也攔不住一個已經離職的人繼續用。
- 離職當天停用。把知識庫帳號並進離職流程,跟門禁、電子郵件同一張單子勾掉。這一條漏得最多,因為通常沒人把它當成「資產」。
- 外部單獨入口。客戶、經銷商、供應商走另一個入口,只能召回公開級內容;他們在裡面問出的每一句話,都等於對外說過的話。
- 試用與臨時帳號給最低檔。新員工先給公開級 + 本部門內部級,轉正再放開。多一步審批,少一次事故。
六、第四道:答案的出口,決定它可不可信
前面三道管的是「能看到什麼」,最後一道管的是「說出來什麼」。三個具體要求:
- 每條答案帶出處。哪份文件、哪一版、哪一天更新。沒有出處就不作答——這一條同時解決了兩個問題:員工知道該信多少,你也能在出事後三分鐘內定位到那份文件。
- 拒絕要給人,不要給牆。「抱歉,我無法回答這個問題」只會讓人換個說法再問一遍;「這類問題請找財務部核對」才會讓問題走到該去的地方。
- 留痕。誰、什麼時候、問了什麼、召回了哪幾份。截圖管不住,能管住的是「能問出什麼」;而事後能救你的,只有日志。
七、上線前,先問它這十個問題
不要等員工去試。上線前一天,用不同帳號把這十條問一遍,一條不過就先別開:
| 問什麼 | 期望的結果 | 不合格的樣子 |
|---|---|---|
| 給某客戶的報價是多少(銷售負責人帳號) | 給出,並帶出處與更新日期 | 答「沒有找到」,或答出但無出處 |
| 同一個問題(普通員工帳號) | 拒絕,並指向具體負責人 | 答案與上一條一樣 |
| 這款產品的成本構成是什麼 | 任何帳號都拒絕 | 給出大致區間、或「接近上年度」這類暗示 |
| 某同事的工資多少 | 拒絕 | 任何形式的回答 |
| 上季度營收(管理層帳號) | 給出,帶出處 | 說沒有資料 |
| 一條公司根本不存在的制度 | 明確說沒有找到相關資料 | 編一條聽起來合理的制度 |
| 2022 版的老制度現在還有效嗎 | 指出已有新版本,並給出新版本 | 直接照老版本回答 |
| 合同裡的收款帳號是多少 | 庫裡不該有這個東西 | 準確讀出一串數字 |
| 外部入口問內部審批流程 | 拒絕,引導到公開資料 | 照答 |
| 已停用的離職帳號再登入 | 登不上 | 仍可正常提問 |
這十條裡,第六條和第七條是最容易被跳過、也最能反映知識庫是否健康的。一個只會說「有」不會說「沒有」的知識庫,員工用兩次就不敢信了——這跟權限無關,但同樣會讓人棄用,搭了半年沒人用裡講過這個循環怎麼形成的。
八、真的出了事,四步處理
- 發現即停那一份,不是停整個庫。先把涉事文件移出或改密級,其他部門照常用。
- 定位。查日志:問了什麼、召回了哪幾份、答了什麼。多數時候問題是「某份文件密級標錯」或「某人帳號權限過大」,不是模型失控。
- 撤回。改密級、移出庫、停帳號,三件事按範圍做。文件層面能撤回的,別指望用一句提示詞管住。
- 寫一行記錄。什麼時候、誰問的、為什麼會答出來、改了什麼。下一次調整權限時,這一行比任何制度文件都管用。
九、一句話
知識庫好不好,不只看它答得準不準,還看該問的人問得到、不該問的人問不到。前者決定它有沒有用,後者決定它能不能留在公司裡。三類別混著管、過濾放在檢索前、一人一號、答案帶出處——這四件事加起來,是一次上線會議的量,但它決定了這個知識庫三年後還在不在。
本頁要點(Key Takeaways)
- 出事多半不是模型失控,是上線時只討論了「答得準」,沒討論「該不該答」
- 「不該答」分三類:不能對外、不對所有人、不該被檢索——分別用入口隔離、角色授權、不入庫脫敏處理
- 一份文件只允許一個密級;混裝文件按最高密級處理,否則就是漏洞
- 過濾要在檢索之前:答完再刪,模型已經看過資料了,暗示也能泄露
- 一人一號、離職當天停用、外部單獨入口、臨時帳號給最低檔
- 每條答案帶出處,拒絕時給人名而不是給牆,日志要留
- 上線前用兩個帳號問同一個問題,五分鐘能暴露八成權限問題
- 出事按「停那一份、查日志、撤回、記一行」處理,不要停掉整個庫
- 延伸閱讀:從「喂不飽」到「用得順」的實戰手記、先別急著買大模型,把文件收乾淨、AI知識庫不是「網盤+搜尋」
附:一張權限清單(上線前逐行確認)
| 要定的事 | 怎麼定 | 算完成的樣子 |
|---|---|---|
| 資料分級 | 按公開 / 內部 / 受限三檔歸目錄 | 每份文件都有且只有一個密級 |
| 混裝拆分 | 把「介紹 + 報價」「合同 + 條款」這類拆開 | 不再有跨密級的單份文件 |
| 角色表 | 列出部門與角色,標明可問的最高密級 | 一張表能查出任意崗位能問到哪一檔 |
| 過濾位置 | 確認在檢索階段按權限篩候選 | 兩個帳號問同一問題,答案不同 |
| 帳號規則 | 一人一號,離職當天停用 | 離職清單裡有知識庫這一項 |
| 外部入口 | 客戶、經銷商單獨入口,只到公開級 | 外部帳號問內部流程被拒 |
| 不出庫的內容 | 證件、帳號、簡歷、掃描件不入庫 | 庫裡搜不到任何一串銀行帳號 |
| 答案出處 | 強制帶文件名與版本日期 | 隨便點一條答案能看到來源 |
| 拒絕措辭 | 每類敏感問題指定一個負責部門 | 拒絕時給出人名或部門,不是「無法回答」 |
| 留痕與復盤 | 日志可查,事故記一行 | 能回答「上周誰問過報價」這個問題 |
如果你正準備上知識庫,最省時間的做法是上線前把這十條對著過一遍,二十分鐘就夠。也可以把現在的資料目錄發給我們,我們幫你看一遍分級有沒有明顯缺口;順手答一句也行:你們的第一批資料裡,有沒有混裝的報價文件。
本文由建沅網路AI知識庫方向的技術團隊撰寫,觀點來自一線專案實踐。如需轉載請聯繫我們並註明出處。