現(xiàn)在AI客服已經(jīng)在各行業(yè)普遍使用了，但是實(shí)際效果并不如意——用戶寧愿等人工客服，也不愿意找AI客服解決問題。如果給當(dāng)前的AI客服換成大模型，效果會(huì)不會(huì)更好一些？這篇文章，我們來看看作者的思考。

一、為什么要用大模型來實(shí)現(xiàn)（現(xiàn)在NLP客服的問題）

1. 用戶體驗(yàn)較差

為什么會(huì)出現(xiàn)這樣的問題昵？

傳統(tǒng)智能客服以NLP技術(shù)為主，核心是分詞。在處理問題上有兩個(gè)關(guān)鍵的步驟：

1. 識別出用戶輸入問題中的關(guān)鍵詞；
2. 余弦相似度等計(jì)算。通過關(guān)鍵詞在已有的QA問答庫中進(jìn)行問題的匹配計(jì)算。將相似度的問題與答案給出來。深度一點(diǎn)的，也會(huì)用到深度學(xué)習(xí)的算法。比如進(jìn)行語意模型，識別情緒，Rerank重排序等。抽取知識圖譜的三元素等進(jìn)行深度匹配。

所以他目前解決問題時(shí)，大部分依賴于用戶輸入問題的關(guān)鍵字，進(jìn)行檢索匹配。將已經(jīng)匹配好的答案給到用戶

2. 使用成本高

受限于技術(shù)，需要花費(fèi)極高的人力成本進(jìn)行配置，來達(dá)到業(yè)務(wù)訴求。

• 當(dāng)業(yè)務(wù)變化，或者新項(xiàng)目上線，需要去配置整理用戶意圖、配置各種意圖問法。準(zhǔn)備大量的FAQ，以及各種關(guān)聯(lián)問題，配置實(shí)體等。
• 整個(gè)過程通常需要專業(yè)的機(jī)器人訓(xùn)練師，來保證問題的覆蓋率、相似問題重復(fù)度、解決率、意圖識別率等。

二、大模型產(chǎn)品的優(yōu)勢

大模型是根據(jù)大量的知識訓(xùn)練出來，所以天然能夠“理解”基礎(chǔ)的問題。所以不需要去準(zhǔn)備大量的相似問題，復(fù)雜的知識圖譜，實(shí)體關(guān)系。

• 如相似問法：如退貨，不需要補(bǔ)充”我想退貨”，”退個(gè)貨“等相似問法
• 如基礎(chǔ)知識圖譜：活著->作者->余華

其次模型的cot能力，讓模型具備較強(qiáng)的推理能力，借助模型推理的能力，去理解流程做決策。不用去配置大量的流程，以及實(shí)體的抽取，傳參，整個(gè)流程讓模型解決。

所以他的使用成本門檻會(huì)低很多。

三、大模型Agent如何解決？

1. agent框架的基礎(chǔ)邏輯

Agent的核心如下：

Planning 規(guī)劃

• -子目標(biāo)和分解:AIAgent 將大型任務(wù)分解為更小的、可管理的子目標(biāo)，從而能夠有效處理復(fù)雜的任務(wù)。
• -反思和完善:Agent可以對過去的行為進(jìn)行自我批評和自我反思，從錯(cuò)誤中吸取教訓(xùn)，并針對未來的步驟進(jìn)行完善，從而提高最終結(jié)果的質(zhì)量

Memory 記憶

• 短期記憶:所有的上下文學(xué)習(xí)(參見提示工程)都是利用模型的短期記憶來學(xué)習(xí)。
• 長期記憶:這為AIAgent提供了長期保留和調(diào)用無限信息的能力，通常是通過利用外部向量存儲和快速檢索來實(shí)現(xiàn)。

Tool / Toolkit

• Agent學(xué)習(xí)調(diào)用外部 AP! 來獲取模型權(quán)重中缺失的額外信息，通常這些信息在預(yù)訓(xùn)練后很難更改，包括當(dāng)前信息、代碼執(zhí)行能力、對專有信息源的訪問等工具是代理可以調(diào)用的功能，本質(zhì)上就是一個(gè)函數(shù)。

2. 將Agent框架邏輯應(yīng)用到客服場景

應(yīng)用邏輯和過程如下：

當(dāng)用戶輸入詢問時(shí)：

1、記憶能力

• 先通過模型的記憶能力，將用戶畫像、瀏覽記錄、訂單數(shù)據(jù)、歷史會(huì)話記錄等推送給大模型
• 拿到解決對應(yīng)問題的參考sop流程

2、計(jì)劃能力+推理

• 讓模型基于用戶的提問+解決的SOP，制定與用戶的溝通計(jì)劃
• 根據(jù)用戶反饋調(diào)整溝通計(jì)劃，推理出新的步驟

3、tools：

• 根據(jù)推理出來的計(jì)劃、選擇執(zhí)行的內(nèi)容
• 比如調(diào)用ERP、知識庫等
• 最終得出結(jié)論、輸出給用戶

整個(gè)過程中，模型能夠模擬人+參考sop流程，執(zhí)行對應(yīng)的任務(wù)，從而達(dá)到相應(yīng)的結(jié)果

四、大模型的解決方案的價(jià)值

1. agent的價(jià)值

1、使用成本、維護(hù)成本極低。

使用：三步完成使用

• Step1：用純文本定義有情感的機(jī)器人，用Chat文本來描述賦予機(jī)器人情感、明確處理任務(wù)SOP流程。
• Step2：補(bǔ)全產(chǎn)品與服務(wù)知識。構(gòu)建企業(yè)專屬知識庫“產(chǎn)品手冊、服務(wù)規(guī)則，退貨規(guī)則“實(shí)現(xiàn)產(chǎn)品、服務(wù)信息與大模型的互通，加強(qiáng)模型的理解。
• Setp3：快速對接企業(yè)已有系統(tǒng)。選擇要接入的系統(tǒng)，如有贊商城、自有CRM、ERP。讓模型實(shí)時(shí)獲取信息，精準(zhǔn)響應(yīng)問題。

OK！普通客服主管，花費(fèi)1-2天，既可配置基于大模型的智能咨詢服務(wù)機(jī)器人

維護(hù)內(nèi)容少。

• 1、優(yōu)化人思考sop流程
• 2、更新知識庫文件

2、全渠道能接入、全面的解答：模型的關(guān)鍵在于理解、所以任何意圖都能理清楚。同時(shí)授權(quán)授權(quán)即多個(gè)渠道，多種問題類型都能被全解答。

3、服務(wù)先知：會(huì)話開始前，將用戶行為數(shù)據(jù)、標(biāo)簽提前給到大模型，開口即可知道你的用戶想做什么！解答問題更加精準(zhǔn)。

3、更靈活的策略：Agent 的推理、計(jì)劃、思考…讓模型根據(jù)SOP和用戶輸入，自己做決策、做計(jì)劃，靈活應(yīng)對用戶問題，不再需要固定的死流程。

2. 方法效果應(yīng)用

Ai客服退貨

Ai代購

Ai會(huì)員卡的辦理

五、大模型的Agent客戶服務(wù)、用戶體驗(yàn)帶來了什么？

1、更低的成本：模型的能力強(qiáng)大，開發(fā)成本低、使用成本低

2、更智能的效果：用的推理代替了關(guān)鍵之的匹配，能解決的問題更廣、效果更好。