國(guó)內(nèi)大模型相關(guān)的進(jìn)展消息每日紛至沓來(lái)，行業(yè)進(jìn)入快速發(fā)展期，而業(yè)內(nèi)討論的焦點(diǎn)也逐漸從概念藍(lán)圖過(guò)渡到產(chǎn)品落地層面。隨著大模型的發(fā)展熱潮涌動(dòng)，對(duì)話式AI正在打開新一輪的商業(yè)增量。

中關(guān)村科金作為領(lǐng)先的對(duì)話式AI技術(shù)解決方案提供商，在與先進(jìn)技術(shù)保持同頻進(jìn)步的同時(shí)，積極展開相關(guān)產(chǎn)品研發(fā)及大模型實(shí)踐的探索。

近期，中關(guān)村科金與行業(yè)客戶攜手共創(chuàng)了一些有場(chǎng)景代表性的試點(diǎn)項(xiàng)目，如針對(duì)財(cái)富業(yè)務(wù)場(chǎng)景，基于開源基礎(chǔ)大模型打造了面向理財(cái)師的營(yíng)銷助手，該產(chǎn)品可以實(shí)時(shí)追蹤行業(yè)動(dòng)態(tài)，深入理解客戶的投資需求，通過(guò)用戶畫像解析構(gòu)建投資要素，為客戶生成專業(yè)、客觀的投資建議，減少理財(cái)師手工撰寫文案的工作量、提升理財(cái)師單兵效能，同時(shí)幫助客戶更好地做出投資決策。

中關(guān)村科金資深A(yù)I產(chǎn)品總監(jiān)曹陽(yáng)，于近日分享了在對(duì)話大模型上的思考和對(duì)話式智能展業(yè)助手產(chǎn)品的應(yīng)用實(shí)踐。

大模型對(duì)AI技術(shù)產(chǎn)品化影響的思考

ChatGPT對(duì)通用大模型訓(xùn)練結(jié)果的優(yōu)越呈現(xiàn)，不僅大幅提升了行業(yè)關(guān)注度，也標(biāo)志著人工智能發(fā)展進(jìn)入新的里程碑階段。GPT全稱為Generative Pre-trained Transformer，可譯為生成式預(yù)訓(xùn)練Transformer模型，是“預(yù)訓(xùn)練”和“大模型”結(jié)合后一種新的人工智能模式，當(dāng)大規(guī)模數(shù)據(jù)集在模型上完成預(yù)訓(xùn)練后，僅需微調(diào)少量數(shù)據(jù)甚至無(wú)需微調(diào)，就可直接支撐各類應(yīng)用。

基于大模型此特性，我們AI技術(shù)產(chǎn)品化的路徑和思路也要隨之發(fā)生改變。首先在數(shù)據(jù)應(yīng)用層，過(guò)去一般是采用結(jié)構(gòu)化數(shù)據(jù)，而圖片、文字、視頻等非結(jié)構(gòu)化數(shù)據(jù)機(jī)器無(wú)法理解，需要采用高效的并行分布式處理技術(shù)，并借助應(yīng)用自然語(yǔ)言處理、影像處理、社會(huì)網(wǎng)分析和機(jī)器學(xué)習(xí)等專業(yè)的工具或模型，通過(guò)打標(biāo)和預(yù)定義范式對(duì)數(shù)據(jù)搜索、過(guò)濾、計(jì)算，將數(shù)據(jù)結(jié)構(gòu)化后再進(jìn)行處理。

但標(biāo)簽化的過(guò)程會(huì)產(chǎn)生信息損失，與信息論的原理一致，一旦抽象或者總結(jié)必然有信息損失，可利用的信息就會(huì)減少。此外，結(jié)構(gòu)化后有損的數(shù)據(jù)可應(yīng)用的范圍也較窄，多用于特定業(yè)務(wù)領(lǐng)域，如FAQ知識(shí)庫(kù)、會(huì)話流程等。

相比之下，大模型可以直接利用非結(jié)構(gòu)化數(shù)據(jù)，不用進(jìn)行“加工”處理，且支持全量無(wú)損的內(nèi)容輸入，可運(yùn)用的數(shù)據(jù)范圍非常廣，價(jià)值也相對(duì)更高。若將大模型產(chǎn)品嵌入企業(yè)服務(wù)系統(tǒng)中進(jìn)行升級(jí)再造，包括知識(shí)檢索、數(shù)據(jù)分析、輔助編程、數(shù)字員工、數(shù)字人等企業(yè)級(jí)應(yīng)用都有可能被重構(gòu)。可以說(shuō)，大模型打開了企業(yè)數(shù)智化轉(zhuǎn)型新的天花板。

其次在產(chǎn)品化思路上也需要進(jìn)行轉(zhuǎn)變。原先AI技術(shù)產(chǎn)品化過(guò)程需要對(duì)所有內(nèi)容進(jìn)行預(yù)先定義和梳理，無(wú)論是分類模型，還是SOP挖掘，都是既定范式。即在特定場(chǎng)景中，預(yù)定義范式后進(jìn)行數(shù)據(jù)處理，并訓(xùn)練出對(duì)應(yīng)模型，可以稱之為“打標(biāo)領(lǐng)域知識(shí)注入”，是一種預(yù)設(shè)的機(jī)械化方式。

而大模型則是一種受控的自組織化方式。只需把對(duì)話、文本、音視頻和文檔等數(shù)據(jù)注入大模型中，機(jī)器能夠按要求進(jìn)行自主學(xué)習(xí)和訓(xùn)練，進(jìn)而完成特定任務(wù)。無(wú)需人工進(jìn)行預(yù)先處理，便可直接使用結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)；也無(wú)需基于特定業(yè)務(wù)進(jìn)行訓(xùn)練，便能解決特定和非特定場(chǎng)景的任務(wù)。

兩種方式之間有著極大的流程、效率差異。過(guò)去預(yù)設(shè)的機(jī)械化方式，無(wú)論是預(yù)先設(shè)定流程還是結(jié)構(gòu)化數(shù)據(jù)要求，都需要專業(yè)人員參與，工作量大、專業(yè)性要求高。并且在業(yè)務(wù)過(guò)程中，若要判定預(yù)先設(shè)定的結(jié)構(gòu)是否適合業(yè)務(wù)模式，一般只能基于事后分析，無(wú)法在事中和事前進(jìn)行定義。

比如我們今天將會(huì)遇見(jiàn)哪個(gè)人，會(huì)發(fā)生哪些內(nèi)容對(duì)話，是無(wú)法事先定義的，客服場(chǎng)景也是如此，這也是為什么現(xiàn)在的智能客服大多只能集中在售后。但對(duì)于營(yíng)銷而言，事前和事中才是核心，甲乙雙方或者買賣雙方交易的核心節(jié)點(diǎn)是業(yè)務(wù)關(guān)系發(fā)生變化，從沒(méi)有交易到產(chǎn)生交易。因此探索大模型在目前人力成本不斷上升但成功率較低的智能客服與營(yíng)銷系統(tǒng)的落地改造十分必要。

大模型在金融業(yè)務(wù)應(yīng)用初探

中關(guān)村科金一直致力于通過(guò)AI技術(shù)，構(gòu)建客戶全周期對(duì)話式AI服務(wù)，助力企業(yè)服務(wù)生產(chǎn)力第四次躍升。圍繞這一理念，中關(guān)村科金基于多款開源基礎(chǔ)大模型，結(jié)合領(lǐng)域知識(shí)圖譜、領(lǐng)域知識(shí)注入、Prompt工程等前沿技術(shù)，構(gòu)建了對(duì)話式智能服務(wù)平臺(tái)。依托該平臺(tái)，針對(duì)財(cái)富機(jī)構(gòu)業(yè)務(wù)場(chǎng)景，打造了一款“對(duì)話式智能展業(yè)助手”的大模型應(yīng)用產(chǎn)品。

以前理財(cái)師跟客戶是獨(dú)立溝通，沒(méi)有太多輔助工具，而我們希望對(duì)話式智能展業(yè)助手的推出，能夠助力理財(cái)師在專業(yè)能力上得到提升，在產(chǎn)品的信息獲取上更高效便利。

在產(chǎn)品邏輯上，對(duì)話式智能展業(yè)助手系統(tǒng)的第一步是構(gòu)建用戶畫像，提供包括用戶基本畫像和深層畫像、投資經(jīng)歷、關(guān)注競(jìng)品、投資預(yù)測(cè)等數(shù)據(jù)信息。第二步是基于用戶畫像構(gòu)建投資策略，類似于炒股軟件的策略選股，通過(guò)構(gòu)建投資策略scheme（計(jì)劃），以prompt（編程語(yǔ)言，用于顯示可提示用戶進(jìn)行輸入的對(duì)話框）的形式與專業(yè)資訊進(jìn)行關(guān)聯(lián)。之后結(jié)合大模型的生成提示能力，按照業(yè)務(wù)預(yù)先設(shè)定好的SOP（標(biāo)準(zhǔn)操作程序）執(zhí)行任務(wù)，根據(jù)每個(gè)SOP對(duì)應(yīng)節(jié)點(diǎn)選取的業(yè)務(wù)專家梳理的限定詞，生成投資組合推薦，最終生成話術(shù)和產(chǎn)品營(yíng)銷方案等。

此外，在過(guò)程中我們還可以全流程執(zhí)行SOP指導(dǎo)，不局限于與客戶的溝通過(guò)程，而是覆蓋整個(gè)生命周期。比如設(shè)定在用戶生日時(shí)發(fā)送生日祝福；推送教育相關(guān)的培訓(xùn)分享等。

上述鏈路是針對(duì)于單個(gè)理財(cái)師。如果是多個(gè)理財(cái)師或者整個(gè)團(tuán)隊(duì)使用，對(duì)話式智能展業(yè)助手還能發(fā)揮更大價(jià)值。對(duì)所獲取的所有理財(cái)師與客戶溝通的內(nèi)容進(jìn)行分析優(yōu)化后，提煉金牌銷售的話術(shù)技能同步給普通銷售，實(shí)現(xiàn)對(duì)普通銷售的技能賦能，拉齊、提升團(tuán)隊(duì)的專業(yè)水平。

此外，對(duì)話式智能展業(yè)助手還可以應(yīng)用于資產(chǎn)管理中心、運(yùn)營(yíng)中心和產(chǎn)品研發(fā)中心等，中后臺(tái)部門通過(guò)掌握了解一線人員與客戶群體之間的互動(dòng)、反饋情況，可以及時(shí)進(jìn)行策略調(diào)整，從而各業(yè)務(wù)之間形成良好互動(dòng)，助力組織智能。

目前，中關(guān)村科金的對(duì)話式智能展業(yè)助手已在與國(guó)內(nèi)某頭部信托公司的共創(chuàng)項(xiàng)目中應(yīng)用落地。該信托公司從業(yè)務(wù)層出發(fā)，將業(yè)務(wù)服務(wù)流程拆解為用戶、投資組合、市場(chǎng)和產(chǎn)品四個(gè)維度，再結(jié)合SOP節(jié)點(diǎn)設(shè)置，每個(gè)節(jié)點(diǎn)執(zhí)行對(duì)應(yīng)策略，大模型根據(jù)提示詞生成節(jié)點(diǎn)話術(shù)，并通過(guò)限定字?jǐn)?shù)、溝通風(fēng)格等，使生成結(jié)果更加接近理想效果。

銷售的核心是信任，信任產(chǎn)生后客戶才更容易采納建議。所以我們希望基于前期的用戶和投資策略信息，直觀反饋用戶應(yīng)該關(guān)注的行業(yè)理財(cái)資訊。更高的專業(yè)度更容易贏得客戶信任，我們希望能為理財(cái)師提供有效輔助。

在和客戶溝通時(shí)，理財(cái)師可以運(yùn)用對(duì)話式智能展業(yè)助手，根據(jù)用戶畫像知道客戶關(guān)注哪些產(chǎn)品，結(jié)合公司當(dāng)下主推的產(chǎn)品和系統(tǒng)提供的引導(dǎo)策略進(jìn)行銷售，但如果理財(cái)師覺(jué)得不合適也可修改。而新調(diào)整的策略和修改的內(nèi)容，會(huì)反饋給大模型執(zhí)行再次生成任務(wù)，直到得到符合理財(cái)師預(yù)期的話術(shù)和內(nèi)容。

為了進(jìn)一步保障生成效果，我們采用了大模型外掛領(lǐng)域知識(shí)庫(kù)和無(wú)監(jiān)督學(xué)習(xí)+調(diào)參的方式，將專業(yè)知識(shí)、操作手冊(cè)、業(yè)務(wù)規(guī)范、產(chǎn)品信息、競(jìng)品信息等領(lǐng)域知識(shí)注入到大模型內(nèi)，再將客戶和行業(yè)數(shù)據(jù)、宏觀經(jīng)濟(jì)的分析等內(nèi)容進(jìn)行關(guān)聯(lián)，理財(cái)師按需求選擇是否引用提示內(nèi)容。在大模型思維鏈推導(dǎo)和無(wú)監(jiān)督學(xué)習(xí)的能力之上，輔以領(lǐng)域知識(shí)庫(kù)和調(diào)參，可進(jìn)一步加強(qiáng)自然語(yǔ)言處理任務(wù)的完成效果。

但目前在領(lǐng)域知識(shí)的注入方式上，還需要依賴行業(yè)專家進(jìn)行知識(shí)梳理，未來(lái)可以考慮通過(guò)新的架構(gòu)或者方案，將該步驟拆分成一個(gè)個(gè)子環(huán)節(jié)，轉(zhuǎn)化成專業(yè)度要求較低的操作，降低對(duì)行業(yè)專家的依賴度，實(shí)現(xiàn)非高價(jià)值的任務(wù)批量自動(dòng)化處理。

這也是大模型的優(yōu)勢(shì)之一。從過(guò)去依賴AI專家手工調(diào)參，進(jìn)入大規(guī)模可復(fù)制的大工業(yè)落地階段。通過(guò)配置任務(wù)要素系統(tǒng)，注入領(lǐng)域知識(shí)，進(jìn)行對(duì)話調(diào)參，影響大模型節(jié)點(diǎn)策略，生成話術(shù)內(nèi)容，形成一個(gè)大模型自閉環(huán)的業(yè)務(wù)信息自組織架構(gòu)，是未來(lái)理想的狀態(tài)。

在這個(gè)模式下，市場(chǎng)上現(xiàn)有的系統(tǒng)都可以用大模型的思路再造一遍，大模型為ToB領(lǐng)域帶來(lái)了一個(gè)新維度的市場(chǎng)。原來(lái)是基于特定的結(jié)構(gòu)化數(shù)據(jù)建立特定的模型，未來(lái)可能是一個(gè)大模型獲取相應(yīng)的結(jié)構(gòu)化或非結(jié)構(gòu)化數(shù)據(jù)，通過(guò)特征工程（利用領(lǐng)域知識(shí)從原始數(shù)據(jù)中提取特征、屬性的過(guò)程）控制完成所有任務(wù)。

而如何將特征工程更好地控制應(yīng)用和落地到實(shí)際業(yè)務(wù)當(dāng)中，還需整個(gè)行業(yè)共同探索。目前，中關(guān)村科金已自主研發(fā)了包括大規(guī)模對(duì)話語(yǔ)言模型、知識(shí)圖譜、語(yǔ)音識(shí)別、語(yǔ)音生成等AI技術(shù)的對(duì)話引擎，未來(lái)將持續(xù)加大在對(duì)話式AI技術(shù)上的投入，基于該大模型對(duì)話引擎，圍繞企業(yè)的各種對(duì)話場(chǎng)景，打造應(yīng)用場(chǎng)景更豐富的對(duì)話式AI產(chǎn)品，為企業(yè)提供更高效完備的營(yíng)銷服一體化綜合解決方案，構(gòu)建人機(jī)協(xié)同的新型生產(chǎn)關(guān)系。