在To B的公司里，如何在內部落地大模型應用？這篇文章分享的經(jīng)驗，希望可以幫到大家。

如何在企業(yè)的內部應用中真正用起來大模型？

在廣大的業(yè)務實踐中，大家都知道“知識庫”是落地的好場景，

但是

實際業(yè)務中廣大的“口口相傳”“老師傅才懂的”到底如何沉淀為知識庫的內容。

本系列關于如何探索企業(yè)內部的大模型如何應用，如何快速找到業(yè)務效果，以及產品的實操經(jīng)驗。

我們一起從大模型知識反觀現(xiàn)在真正有價值卻被忽略的數(shù)據(jù)資產。

01 找到合適的業(yè)務線，找到最垂直的場景，找到landing最好的業(yè)務。

現(xiàn)在非常多是在應用在AIGC行業(yè)，在這個行業(yè)和應用場景中，大多數(shù)是提供給“專業(yè)”人士，所以在企業(yè)內部的“賦能”場景中，如何讓不太了解大模型，不太了解AI的人，也一定得感受到“驚人的效果和魅力”。這樣在沒有外部的KPI驅動情況下，也能讓人有“沖動”使用的機會。

我設想了一下，在現(xiàn)在頭部的互聯(lián)網(wǎng)產業(yè)中，Agent能先行的業(yè)務大概會有這些。

1. 企業(yè)內部的AI培訓

包括：員工培訓、運營宣貫等等

過去非常廣泛的場景，出了一個新功能、新業(yè)務方案，需要從上至下的進行培訓，總部的產品經(jīng)理、運營要向各個品類業(yè)務線，各個城市的子公司進行培訓，然后再逐級傳遞；

再者還見到過大幾千的項目公司，總部拉著幾千個項目負責人進行培訓，最后出一個培訓效果試卷，大家普遍通過“傳閱”答案這件事情，讓大家都滿分學會。

但是想想這件事情的本質是什么？是一定要大家拿高分嗎。必然不是。

總部業(yè)務同學是希望全國一盤棋，讓各崗位的同學達成共識，知道遇到這種事情怎么辦，知道如何使用工具等等，不要等真的出了什么事情之后，不知道如何處理對吧。

所以如何本質不是學會，是“能解決，能處理”

所以如果有一個工具，他代替全緣上下達成一致認知，等于是上下都有一個共同的“外掛腦子”。

知道遇到什么事情如何解決，遇到任何要宣傳的，給這個“腦子”學習一下，不知道如何解決，也是找到到腦子問問。

所以腦子的本質就是知識庫+意圖理解識別，讓大家都有同樣的理解，認知也就達成一致了。

同樣，還能保持實時更新和知識記憶。

這比人工做培訓，并且每個人的理解還不一樣，導致業(yè)務動作會出現(xiàn)變形等等。

所以通過大模型重構企業(yè)內部的培訓體系，不僅僅是簡單的知識庫應用，這里是一個非常好的場景。

所以這里的用戶action和產品形態(tài)有什么呢？

1）培訓老師/運營；

– 上傳并維護知識庫，

– 提供一些case說明具體的專業(yè)術語含義

– 監(jiān)督學習并對”腦子“進行考核，達到90%的準確率

– 確定準出，全員使用

– badcase復盤，更新知識

2）其他使用員工：

-直接提問：；從原來還要聽培訓課，做培訓實體，但是出了問題還是要找人問，轉變?yōu)椋?“輸入場景描述，直接找腦子問，怎么辦”

-場景模擬，以練代學，有實時要求的場景：用“以練帶學”，讓“腦子”進行場景模擬，一線員工、進行模擬練習， 比如如何應用xx的客戶要求，如何應用xx的電話 這里也是借鑒了現(xiàn)在的AI教育的場景，如何把題目無限復制，如何精準的對知識點進行考核；

通過質檢的結果，找到員工不合規(guī)的點，對細節(jié)點進行場景模擬和考核。

2. 產品形態(tài)

知識庫、數(shù)據(jù)集、數(shù)據(jù)標注、chatbot、模擬場景

所以再想一步，在過去的職業(yè)經(jīng)驗中，很多一線的員工，包括客服、物業(yè)管家等類似的B端系統(tǒng)操作人員，總是在吐槽業(yè)務系統(tǒng)太復雜了，“我們只是想減免費用，想收個款”；結果呢，要去n個系統(tǒng)，錄入n+1遍信息，然后才能做完，

“信息化系統(tǒng)”復雜和難用已經(jīng)被真正的業(yè)務人員吐槽很多年了。

客戶還嫌棄，我們慢，我們自己也很奇怪，為什么不能簡單點呢？

所以在過去的業(yè)務場景中，to B的產品經(jīng)理大部分在做“提效”的工作，讓用戶減少點擊，做了一大堆“一鍵”的功能等等。

但是現(xiàn)在呢，通過意圖識別，是可以實現(xiàn)多節(jié)點多流程的自動化的。

02 B端業(yè)務系統(tǒng)自動流轉

所有的員工只需要理解客戶的需求即可，不需要在“復雜”的系統(tǒng)中記清楚，我要先干嘛再干嘛。

通過一些bot、Agent的的形式，我要給xx用戶減xx元的訂單，系統(tǒng)記錄每個動作的順序和判斷邏輯，最終直接給出結論。等于說是過去，所有的人員培訓要培訓如何從A點到B點，我要走過幾個路口，走過幾個大樹，然后到了。

現(xiàn)在只需要，你告訴我A，我自動把你讓“空降”在B點。

所以在這個業(yè)務過程中，就需要對工作流程，進行逐一“標準化”，簡直是大型“場景解構”現(xiàn)場這件事情是非常痛苦的。過去的歷史緣故信息非常多，歷史數(shù)據(jù)廣大，所以現(xiàn)在很多RAG平臺工具出現(xiàn)了一些數(shù)據(jù)清洗的小工具。

但是要相信，這一定是“陣痛期”。

或者我猜測，很多標準化流程模版，應該也是非常受歡迎的。

電商售后運營手冊-退貨流程1.2.3，給一個標準化的模版，但是負責調整配置的人也可以進行參數(shù)和節(jié)點的修正。

網(wǎng)約車司機客服運營手冊，司機服務流程123等等。

這些頭部的幾家基本都是大差不差的。

所以，當一家做好了，這就是非常有價值的數(shù)據(jù)資產了。

所以在這里的用戶action和產品形態(tài)

1）sop負責人（也可以是業(yè)務運營）

– 辦事流程梳理

– 配置作業(yè)畫布

2）操作人員

– 直接通過自然語言說明要做的事情

產品形態(tài)：

流程Agent配置、外掛節(jié)點封裝（包括接口、插件、知識庫等等）、chat bot

03 大模型判責

在現(xiàn)在的多方+平臺的多種商業(yè)業(yè)態(tài)中，平臺如何做好判官，如何在商家和消費者之間進行糾結處理，如何處置商家、等等，都涉及了“判責”和“違規(guī)處置”這些邏輯，過去大部分的業(yè)務都是通過強“規(guī)則”這件事情進行限制，通過且或非或者種種條件數(shù)據(jù)因子來進行判斷。

在強條件約束下，總有一些異常情況。

這就像什么呢，我們在學習開車時，要學習各種道路法規(guī)、各種形式準則等等

但是我們真實的開車過程中，什么時候會被交警判責，如何做到“適當”違規(guī)，用幾個case來說明：

我們最普通的消費者投訴外賣員沒送到指定位置，還沒打電話；這個時候，平臺需要核實一下具體的行為情況，

比如，我看下外賣員的呼叫記錄，看下行為軌跡，如果是要上樓的，是爬樓還是電梯，很多時候在垂直空間中l(wèi)bs是有些不準的，所以能否通過時間來推理出，外賣員在11:00-12:00需要上12樓需要的時間，在該時間中看下lbs的變動情況呢，

比如網(wǎng)約車司機被乘客投訴拒載，平臺要判定下司機的行為意圖，看看行為軌跡是否前往上車點，還是直接掉頭走的呢，半天不動，是在等紅綠燈呢，還是惡意就是不動呢，司機有沒有在車里吐槽訂單呢，有沒有聯(lián)系過乘客呢，以及司機過去有沒有被投訴過呢，等等。

這些都是過去通過強規(guī)則校驗中，設定好的結構化數(shù)據(jù)，人工在對司機行為進行判責

所以這里的用戶action做法和產品形態(tài)

1）技術：

– 把我們過去的條件約束作為結構化知識庫數(shù)據(jù)，投喂給到大模型作為知識庫文檔

2）運營：

– 選擇場景，給prompt進行框選和描述；

– 明確判責因子：采納人工的判責因子+結果：訂單詳情信息、行為軌跡（包含路徑、通話錄音、im）、

– 搭建workflow：通過標簽因素先分大類，再逐步分小場景進行判斷

– AI結果自檢：在AI執(zhí)行完畢workflow之后，會有一些小偏差，最后在結果確認前，采用一道限制步驟

– 人工抽檢復核：人工對結果進行定性和定量的抽檢，如何確實出現(xiàn)較大數(shù)據(jù)參數(shù)偏差，是可以對workflow進行修正的。

系統(tǒng)規(guī)則判責==大模型意圖判責

但是不得不說，這些對于強數(shù)據(jù)的場景下有一定的局限性，只是在人工意圖上有非常好的時間，比如司機的拒載，到底是真車壞了，還是真拒載呢？這種場景下，大模型結合多種證據(jù)鏈來推理的效果還是不錯的。

產品形態(tài)

數(shù)據(jù)庫訂閱、（過去的歷史規(guī)則數(shù)據(jù)結構化）場景prompt說明

典型場景庫（提供進行場景學習）

判責workflow、數(shù)據(jù)集、數(shù)據(jù)標注

最后的，對各位實踐的產品技術同學的運勢說明：

上上簽：

當企業(yè)內部要使用大模型進行 業(yè)務嘗試的時候，分兩種大場景，然后提出具體的action

首先是第一種：

從上到下進行宣貫，公司級戰(zhàn)略規(guī)劃，有核心的KPI指標push大家進行主動接觸使用。

這種就非常容易，大家有KPI之后，所有人都積極起來，這個知識的內容就是越用越好用，不斷沉淀數(shù)據(jù)資產，甚至還能舉辦一些內部的PK賽。

上簽：

第二種：

沒有形成公司級的戰(zhàn)略規(guī)劃，但是是某個部門的KPI，比如客服部門，產品可以和部門老板拉齊觀點，確定我們的業(yè)務動作和產品動作保持一致，能夠達成什么樣子的業(yè)務效果。

這樣拿到業(yè)務部門的支持，landing的場景也會是非常豐富，從小的業(yè)務場景未來是有機會撬動成為公司的重點項目。

中簽：

老板們不懂技術，偏傳統(tǒng)行業(yè)，需要產研內部在夾縫中創(chuàng)新，提供好工具給業(yè)務同學進行使用，需要產研向所有的業(yè)務同學安利自己的產品，但是這種情況也是好的，咱們畢竟有實操經(jīng)驗了不是～

個人認為能在現(xiàn)在的業(yè)務節(jié)點有機會初探并有機會在實際業(yè)務中用起來已經(jīng)不涉及下簽了。

嘿嘿，能看到這里的祝賀大家～