上個月在寧波一家汽配廠,老闆指著螢幕問我:“這玩意不是說能自動處理訂單嗎?怎麼三天兩頭把A客戶的貨記到B客戶頭上?”我看了眼日志,智能體把“寧波華X”和“寧波華Y”當成同一家——因為知識庫裡兩家客戶的簡稱只差一個字。這不是模型笨,是我們當初沒做實體對齊。
一、別急著買大模型,先看看你的資料能不能“對上號”
很多企業一上來就問“用GPT還是文心”,我覺得這問題問反了。去年我們給一家做緊固件的工廠做智能體,目標是自動回覆客戶詢價。第一版接的是通用大模型,準確率不到六成,經常把M8螺栓的單價報成M10的。後來發現,他們ERP裡客戶名稱有簡稱、全稱、稅號三種寫法,產品庫更亂,同一個規格有五種叫法。
我們花了三周做實體對齊——把客戶、物料、價格三張表的主資料理清楚,又建了個同義詞庫。這之後智能體準確率才爬到89%。所以我的建議是:先別管模型,把你核心業務對象的“唯一標識”理出來。如果連人都分不清“華X”和“華Y”,機器更分不清。
二、權限設計比模型選型重要十倍
杭州那家連鎖藥店的專案更驚險。他們想讓智能體幫店長審報銷單,自動通過500元以下的。結果測試時,智能體把一張“團建聚餐”的發票批了——按制度這屬於需人工復核的類目。問題出在哪?我們只給了智能體“金額判斷”的權限,沒給它“類目黑名單”的約束。
後來我們改了一套規則:智能體可以發起審批,但最終“通過”動作必須由人點。它只做三件事——識別發票真偽、核對預算餘額、標記異常項。店長回饋說,雖然多點一下,但省了翻憑證的時間,每天能少加班半小時。
我的經驗是:把智能體當成一個“實習生”,它能查資料、能填單子、能提醒,但簽字蓋章的事,還得人來。權限上做減法,比在模型上做加法有用得多。
三、算力成本是個隱形殺手,先算清楚再上線
蘇州那家做設備巡檢的企業,一開始用雲端大模型做圖像識別,每張圖調用一次,一天兩千張,月底帳單出來三萬七。老闆臉都綠了。其實他們的場景很固定——就看儀表盤讀數、閥門開關狀態,根本不需要通用大模型。
我們換成小模型加規則引擎,部署在本地工控機上,一次性投入四萬,每月電費多兩百。識別速度從3秒降到0.8秒,準確率還高了兩個點。這件事讓我明白:不是所有智能體都要“大”。高頻、固定、容錯低的場景,小模型加規則反而更穩更省。
如果你現在要立項,先讓團隊算一筆帳:每天調用多少次?每次多少token?雲端和本地的三年總成本差多少?這筆帳算不清,上線就是燒錢。
四、老闆該問團隊的五個問題
結合這三個專案,我整理了一份決策清單。你在批預算前,可以把這五個問題甩給技術負責人:
- 這個智能體處理的任務,錯誤率容忍度是多少?錯了誰兜底?
- 它需要訪問哪些系統?這些系統的資料品質能打幾分?
- 權限邊界畫清楚了嗎?哪些動作必須人工確認?
- 三年總擁有成本是多少?雲端和本地方案差多少?
- 上線後怎麼衡量它“有用”?是省了人力,還是加快了周轉?
這些問題答不上來,專案大概率會變成演示時好看、用起來雞肋的擺設。
幾句實在話
AI智能體不是魔法,它是個工具。工具好不好用,取決於你給它配的“工作環境”——資料干不乾淨、權限清不清晰、成本算沒算明白。如果你現在手頭有個場景想試,我建議先別買License,找個開源框架,拿一個月的真實資料跑個小閉環。跑通了再談推廣,跑不通就換個場景。別為了“AI”而AI,能省下一個人工、少出一筆錯帳,就是好智能體。