經(jīng)歷了巨頭級公司全力加碼、明星創(chuàng)業(yè)者云集的“百模大戰(zhàn)”尖峰時刻，大模型對于很多人來說不再是一個陌生詞匯。

喧囂伴隨著認(rèn)知門檻的降低，逐漸叩開市場的大門，而喧囂背后，大模型行業(yè)已達(dá)成共識——必須聚焦于“場景”和實際應(yīng)用，只有使用量拉起來了，才有機(jī)會磨出真正有價值的好模型。也難怪就連Open AI的創(chuàng)始人Altman都已著手創(chuàng)辦新公司Thrive AI Health，聚焦到健康慢病管理場景了。

在拉通大模型的應(yīng)用方向，我們關(guān)注到智能客服這一特定領(lǐng)域。“大模型的應(yīng)用對于智能客服行業(yè)的商業(yè)模式、組織結(jié)構(gòu)、業(yè)務(wù)效率效果、商業(yè)價值等方面都產(chǎn)生了深刻的影響。”曉多科技CTO向海告訴「深響」。

曉多科技是以智能對話為核心的認(rèn)知智能 SaaS 產(chǎn)品和行業(yè)數(shù)智化解決方案服務(wù)商，其智能客服廣泛應(yīng)用于電商、電信、政務(wù)、教育等多領(lǐng)域，覆蓋全國50多城，服務(wù)了包括美的、海信、極米、方太、芝華士等零售類品牌，在今年5月成為了抖音電商客服服務(wù)商。作為專注智能客服十余年的關(guān)鍵企業(yè)，曉多科技從認(rèn)知到實踐，讓我們看到大模型落地特定行業(yè)的探索過程——大模型究竟如何在智能客服具體場景中發(fā)揮作用？給客服行業(yè)帶來了哪些層面的改變？我們?nèi)绾稳ダ斫膺@些變化以及借力這些變化？

“客服”雖然并不“高大上”，但他們卻是品牌商家直面用戶的窗口。根據(jù)《2023年中國智能客服市場報告》，中國智能客服市場規(guī)模已達(dá)66.8億元，預(yù)計到2027年，市場規(guī)模有望增長至181.3億元。而大模型技術(shù)的應(yīng)用，一方面解決著過去客服交互、客服培訓(xùn)等具體環(huán)節(jié)的痛點(diǎn)，另一方面也為智能客服行業(yè)延展出更多的業(yè)務(wù)空間，讓智能客服不止于“客服”，更是深入到營銷、交易、履約等各個生意關(guān)鍵環(huán)節(jié)，實現(xiàn)更大的價值。

01、先用再說

曉多科技能夠在今天迅速拿起大模型的利器其實有一定的歷史淵源。

十年前，CEO江嶺察覺到客服行業(yè)痛點(diǎn)問題，就針對電商客服場景設(shè)計了人工智能輔助工具，其核心產(chǎn)品“智能客服機(jī)器人”已為多個電商平臺的多品類企業(yè)提供著高準(zhǔn)確率、高覆蓋率的個性化服務(wù)。江嶺是自然語言處理和機(jī)器學(xué)習(xí)專家，曉多科技的大部分研發(fā)人員則來自百度、騰訊、華為、科大訊飛等知名企業(yè)。

這樣的技術(shù)積累和敏感度，讓曉多科技在2020年就將大模型納入了重點(diǎn)關(guān)注范圍。2022年，ChatGPT在全球范圍引發(fā)熱議，江嶺沒有猶豫，立即發(fā)起了“全員AI”的工作要求，讓各個業(yè)務(wù)模塊嘗試用GPT提效并加速認(rèn)知上的迭代。

2022年12月，曉多科技的大模型團(tuán)隊正式組建，覆蓋工程、算法、數(shù)據(jù)、產(chǎn)品等角色，并在單獨(dú)的空間中“閉關(guān)”，圍繞自己的業(yè)務(wù)場景去測，跑通微調(diào)模型。當(dāng)時的曉多科技明確了一個很重要的方向判斷：大模型的魔法不會憑空出現(xiàn)，必須圍繞自身的業(yè)務(wù)場景去探索。

但曉多科技的業(yè)務(wù)模塊并不簡單，“一豎一橫”的布局嚴(yán)密地構(gòu)建出其在智能客服領(lǐng)域的專業(yè)度和護(hù)城河：

一豎是曉多科技最為核心的“前臺業(yè)務(wù)”，直面消費(fèi)者，包括接待消費(fèi)者、回答消費(fèi)者、導(dǎo)購消費(fèi)者等等；

一橫則是圍繞客服管理和能力提升的“后臺業(yè)務(wù)”，包括客服招聘、崗前培訓(xùn)、上崗考核、崗后團(tuán)隊管理等等。

這么多的場景，怎么選擇？怎么切入？曉多的答案是先測試最核心的應(yīng)答環(huán)節(jié)，這是智能客服最重要的能力。

2023年3月，曉多科技與國家超級計算成都中心達(dá)成合作，解決算力資源問題，把基礎(chǔ)模型微調(diào)訓(xùn)練全部跑通。5月發(fā)布了基于生成式預(yù)訓(xùn)練Transformer的深度學(xué)習(xí)模型“XPT曉模型”。“XPT曉模型”與ChatGPT的核心技術(shù)架構(gòu)相同，但不同的是，曉模型接受了大量的電商行業(yè)的領(lǐng)域知識訓(xùn)練，積累了電商行業(yè)關(guān)于商品、行業(yè)上下游、行業(yè)政策以及產(chǎn)品使用場景相關(guān)的數(shù)億Token的領(lǐng)域知識，可以更好地為顧客提供智能化和個性化的服務(wù)。

XPT曉模型

“XPT曉模型”是曉多科技“一豎”業(yè)務(wù)的進(jìn)階。但考慮到人力和資源的效率問題，對于“一橫”業(yè)務(wù)對應(yīng)的諸多場景，曉多科技選擇“放手”，以采購其他人的API為主了。

CTO向海向「深響」坦言：“一開始都自己做，但什么都全做的思路其實不符合曉多對于大模型ALL in One的理解。”

彼時向海注意到火山引擎在大模型上的投入很大，而且產(chǎn)品的成熟度和迭代速度有目共睹。曉多科技自己開發(fā)Agent產(chǎn)品時也受到了字節(jié)扣子（coze.cn）的一些產(chǎn)品思路啟發(fā)。于是曉多科技開始和火山引擎團(tuán)隊接觸并初步合作。

火山引擎團(tuán)隊“先做事”的風(fēng)格讓向海印象深刻。“讓我們先用了再說、先敞開測、先把場景擺出來，”向海說：“用下來之后確實很多場景都匹配，可用性超過80%，穩(wěn)定性也好。新業(yè)務(wù)測下來10次能對9.9、9.5次，符合我們的預(yù)期。”

另外，曉多科技的業(yè)務(wù)場景很多都在電商上，618、雙11這樣的大促節(jié)點(diǎn)帶來的高并發(fā)問題不容忽視，火山引擎對于高并發(fā)的保障能力也是曉多科技認(rèn)可的關(guān)鍵：“1000條并發(fā)過來，就能在幾分鐘、十幾分鐘形成一個模型的迭代，這個速度非常誘人。”

今年五月，字節(jié)跳動豆包大模型在火山引擎原動力大會上正式發(fā)布，據(jù)火山引擎總裁譚待介紹，經(jīng)過一年時間的迭代和市場驗證，豆包大模型正成為國內(nèi)使用量最大、應(yīng)用場景最豐富的大模型之一，日均處理1200億Tokens文本，生成3000萬張圖片。而豆包主力模型在企業(yè)市場的定價只有0.0008元/千Tokens，這種讓大模型以分計價到以厘計價的轉(zhuǎn)折顯然會刺激更多企業(yè)把大模型“先用起來”。

向海告訴「深響」，目前曉多科技與豆包大模型在“橫”“豎”兩向的諸多業(yè)務(wù)場景上都有緊密合作。

在“一橫”的場景中，豆包是曉多科技的“伙伴”。比如通過調(diào)用豆包的API，用豆包模擬消費(fèi)者進(jìn)線，來訓(xùn)練客服應(yīng)對各種問題。就像今年618前夕，曉多科技的一個客戶招聘了三四百個客服，通過豆包的合作，在2-3天內(nèi)完成了這批客服的訓(xùn)練和考試，大大節(jié)省了管理、考核、培訓(xùn)的時間精力和成本。

在“一豎”的核心場景中，豆包則扮演著“導(dǎo)師”的角色，生成大量訓(xùn)練數(shù)據(jù)，幫助曉多訓(xùn)練中小模型，幫曉多糾正優(yōu)化小模型，讓曉多能在響應(yīng)時間有要求、準(zhǔn)確率有要求、不接受幻覺的的場景上可以跑得更快。

向海為我們舉了一個有趣的例子：人工客服在回答消費(fèi)者問題時其實會逐漸積累負(fù)面情緒，當(dāng)負(fù)面情緒不可避免地爆發(fā)時，智能系統(tǒng)就會做出攔截。這本來是智能客服的優(yōu)勢，但由于語言的藝術(shù)“博大精深”，有時就會錯誤地理解詞語的含義而做出錯誤的響應(yīng)動作。羅技有一款鼠標(biāo)GPW，被消費(fèi)者們昵稱為“狗屁王”，當(dāng)客服向消費(fèi)者提到這塊產(chǎn)品時，就不應(yīng)該被攔截。但有時這種細(xì)分場景的小模型識別不出來，我們就需要“豆包”作為“導(dǎo)師”來糾偏，讓我們的局部小模型自驅(qū)完成迭代，變得更好。

而字節(jié)跳動的抖音電商、抖音生活服務(wù)、巨量引擎等業(yè)務(wù)跟消費(fèi)零售關(guān)系非常緊密，這也是其大模型的天然優(yōu)勢——在足夠多的場景中進(jìn)行深度的浸泡，理解毛細(xì)化的需求，為更多消費(fèi)場景的企業(yè)提供全局視角才能看到的啟發(fā)。

02、具體場景，具體解決

明確了曉多科技應(yīng)用大模型的“頂層設(shè)計”，我們不妨再進(jìn)一步，具體來看兩個用大模型提效的實際業(yè)務(wù)場景——全渠道商品知識庫和訓(xùn)練場。

全渠道商品知識庫是客服系統(tǒng)非常重要的一個組成部分，從產(chǎn)品規(guī)格、使用說明、常見問答到退貨政策、配送信息、故障排除步驟等等，好的知識庫可以有效地管理和應(yīng)用商品知識，提升服務(wù)體驗。

但在實際的客服工作中，好的知識庫實在太難得了。我們發(fā)現(xiàn)，大部分商家的知識庫仍然是文檔、Excel形式，知識庫更新不及時、內(nèi)容不全面、結(jié)構(gòu)混亂、不易搜索、知識庫系統(tǒng)與客服系統(tǒng)集成度太低、人工依賴度高等等問題層出不窮。比如客服在回答消費(fèi)者問題時往往需要在多個平臺和文檔之間來回切換“找答案”，耗時且低效，更別說及時進(jìn)行商品對比和商品推薦以及跨平臺的知識分享了。

對此，曉多采取了通過后臺管理界面“一鍵同步”功能，實現(xiàn)與電商平臺的無縫對接，一鍵操作，便可輕松同步商品信息，這就解決了知識庫內(nèi)容及時和全面的問題。而借助曉多的智能學(xué)習(xí)引擎，這些信息被高效轉(zhuǎn)化為可直接利用的豐富商品知識庫，讓商品管理變得便捷高效。商品知識庫搭建完成后，即可一鍵啟動，實現(xiàn)即時的智能應(yīng)答和輔助，還可以一套知識庫，在多渠道靈活分享使用。

這背后既有曉多科技對于智能客服各個環(huán)節(jié)細(xì)致入微的理解，也有大模型技術(shù)深入實際應(yīng)用層面的積極進(jìn)展?；鹕揭嫘袠I(yè)團(tuán)隊與曉多科技合作采用標(biāo)簽化替代自然語言、設(shè)定結(jié)構(gòu)化輸出模板、創(chuàng)新實踐示例、任務(wù)定制最優(yōu)參數(shù)等策略，深度優(yōu)化提示詞，顯著提升大模型輸出的質(zhì)量和穩(wěn)定性。特別是在豆包通用模型 Doubao-pro-32k 版本中，針對超 5k 字的文本場景，有效解決了應(yīng)答延遲問題。

具體而言，在客服轉(zhuǎn)述用戶的提問后，豆包大模型就通過分析和精準(zhǔn)理解，將問題轉(zhuǎn)化為知識庫查詢可用的關(guān)鍵字，以便能快速檢索到相關(guān)內(nèi)容。而基于對用戶需求的理解，豆包大模型可在眾多內(nèi)容中將用戶最為關(guān)心的部分以高亮顯示，進(jìn)行重點(diǎn)呈現(xiàn)，并支持多個不同產(chǎn)品之間的對比。通過兩次“轉(zhuǎn)譯”讓用戶以口語化的自然語言提出需求，既收獲對核心需求的精準(zhǔn)回復(fù)，節(jié)約對話時間的同時，還提高了用戶的滿意度和下單率。

同樣能帶來超預(yù)期提效的還有“訓(xùn)練場”。

客服培訓(xùn)其實一直是整個行業(yè)的痛點(diǎn)，培訓(xùn)時間長、效果差、培訓(xùn)內(nèi)容和實際情況脫節(jié)等問題直接影響著工作效率。針對這些問題，曉多訓(xùn)練場就通過調(diào)用大模型模擬用戶進(jìn)線，用實操練兵替代“只看”資料、考試、帶教的新人培訓(xùn)方式。

曉多科技一開始使用的是傳統(tǒng)的工程方法，容易顯得不自然和機(jī)械化，用了豆包大模型后，對話更加擬人化，更符合實際情況，提高了消費(fèi)者問題模擬的準(zhǔn)確度，同時能與訓(xùn)練中的客服有效互動，提出的問題衍生不重復(fù)。這對于客服訓(xùn)練來說至關(guān)重要，消費(fèi)者可不會按照“流程手冊”來提問，現(xiàn)實中的場景一定是帶有個性化需求、帶有情緒的，如果訓(xùn)練時沒有貼合實際，真到了工作中，客服恐怕就會手足無措。

據(jù)了解，在豆包大模型幫助下，曉多科技的“AI 訓(xùn)練場”場景獲得了更高的并發(fā)保障，同時成本也優(yōu)化了50倍以上，實現(xiàn)了效率成本雙提升。目前曉多訓(xùn)練場可以將客服培訓(xùn)周期從原來的3-4個月縮短到8周左右，而AI訓(xùn)練的客服對比常規(guī)培訓(xùn)的客服，銷售轉(zhuǎn)化率提升了3%-5%。

訓(xùn)練場中還有“原版回復(fù)”功能

讓新客服可以模仿再練習(xí)

03、感知變化，用才知道

更加值得探討的是，大模型技術(shù)對業(yè)務(wù)層面的提效還會進(jìn)一步影響到行業(yè)的商業(yè)模式和發(fā)展方向。

以智能客服這樣的to B生意來說，過去的邏輯是，大家要盡量SaaS標(biāo)準(zhǔn)化，提高邊際效益，從而帶來更多利潤空間。但實情是客戶的生意五花八門，也經(jīng)常提出定制的個性化需求，以至于不少人都質(zhì)疑SaaS模式在中國的可行性。

而現(xiàn)在，大模型技術(shù)的改變?yōu)槲覀儙砹巳碌囊暯?，它讓個性化服務(wù)變得既可行又經(jīng)濟(jì)。

“個性的東西才是企業(yè)基業(yè)長青的秘訣。”向海告訴「深響」：“大模型讓我們可以重新回歸到個性化的服務(wù)上，對行業(yè)進(jìn)行建模，對流程進(jìn)行建模，把基座做好，支持我們在上面?zhèn)€性化。而更多長尾需求得到解決，個性化響應(yīng)能力不斷增強(qiáng)，也相當(dāng)于讓我們有了更廣闊的發(fā)展空間。”

而在未來，智能客服行業(yè)將不僅僅是單純的“客服”概念，它正逐步從成本中心轉(zhuǎn)變?yōu)閮r值中心，成為企業(yè)直面消費(fèi)者的第一現(xiàn)場。大模型技術(shù)的到來恰逢其時，它順應(yīng)了客服行業(yè)正在經(jīng)歷的深刻變革——客服的角色不再局限于傳統(tǒng)的服務(wù)范疇，而是擴(kuò)展到了咨詢、銷售導(dǎo)購等多個層面。服務(wù)場景日益豐富的客觀趨勢下，智能客服成為連接企業(yè)與消費(fèi)者的紐帶，也有了不止于“客服”的、更立體的價值。

當(dāng)然，大模型技術(shù)對于智能客服行業(yè)已經(jīng)產(chǎn)生了一些很直觀的影響，比如工作流程、組織結(jié)構(gòu)、關(guān)鍵崗位的變化等等。繁瑣、重復(fù)性的腦力工作得到緩解，客服們可以承擔(dān)起更多情感價值的傳遞。

整體看下來不難發(fā)現(xiàn)，“大模型”雖然是前沿科技，但在上述案例中并非以“高高在上”的姿態(tài)存在，而是深入到了業(yè)務(wù)的“細(xì)枝末節(jié)”，與人平視，追求效率務(wù)實。

曉多科技認(rèn)為智能客服進(jìn)化與人類形成的關(guān)系進(jìn)階路徑是：“助理”（Copilot），“教練”（Coach），“同事”（Coworker）。在訓(xùn)練場的例子中，智能客服是Coach；在多策，智能客服是Coworker……這其實也與豆包大模型的理念不謀而合——字節(jié)跳動產(chǎn)品與戰(zhàn)略副總裁朱駿曾透露其團(tuán)隊給豆包的三個產(chǎn)品設(shè)計原則，擬人化、離用戶近、個性化。

豆包大模型其實包括了豆包通用模型pro、豆包通用模型lite、豆包·角色扮演模型、豆包·語音合成模型、豆包·聲音復(fù)刻模型、豆包·語音識別模型、豆包·文生圖模型、豆包·Function Call模型、豆包·向量化模型等9款大模型。企業(yè)可以根據(jù)自身業(yè)務(wù)場景需求，靈活選擇并快速落地。而目前，豆包大模型已在金融、汽車、智能終端、電商零售、教育科研等多個行業(yè)落地。其背后的火山引擎則以一站式大模型服務(wù)平臺火山方舟，讓模型即服務(wù)，幫助企業(yè)在高效、安全的環(huán)境里應(yīng)用各類模型。

放眼整個科技行業(yè)，我們總是試圖總結(jié)一些評價大模型水平的衡量標(biāo)準(zhǔn)，比如泛化能力、精度和穩(wěn)定性、訓(xùn)練數(shù)據(jù)量、工具鏈完備性、可解釋性和魯棒性等等。但誰用誰知道，拋開專業(yè)術(shù)語和科技感，解決真問題、技術(shù)真落地才是這輪大模型技術(shù)進(jìn)步的中心奧義。

“并發(fā)足、穩(wěn)定夠、幻覺少、價格好。”向海如是說。