李信馬 撰文
楊勇 編輯
2024年是人工智能和大模型快速發展的一年,年底 OpenAI 發佈了最新版本的GPT-o3,強大的能力讓我們看到了AGI的未來。這一年也是大模型加速落地的一年,市場規模已達數百億,金融行業就是大模型技術重點落地的行業之一。
容聯雲是國內領先的智能通訊雲服務商,在大模型的浪潮中,同樣積極擁抱新技術,發佈了赤兔大模型,並在金融行業積極落地。
和智譜、騰訊、百度等耳熟能詳的平台型廠商不同,容聯雲的定位更接近於應用廠商,並不直接提供底層的算力資源或平台能力,而是針對企業具體業務場景中的用戶服務需求,提供具體的應用方案。
赤兔大模型是容聯雲基於主流開源大模型,結合行業數據進行微調訓練而構建的智能模型。多個主流開源大模型包括通義大模型、智譜大模型和混元大模型,在構建時,容聯雲還結合了金融、保險、銀行等多個垂直行業的實際數據,讓模型能夠更好地理解行業術語、業務流程和客戶需求,從而提供更精準的服務,並隨着技術進步和客戶需求的變化而持續迭代優化。
具體來說,在預訓練階段,容聯雲會利用企業之間沉澱的數據資源。在以往的小模型時代,模型的能力主要依賴於大量的數據進行訓練,這些在小模型時代積累的腳本和數據,在大模型時代同樣可以直接被利用。
其次,容聯雲會在垂直領域內尋找公開的數據來增強模型的理解能力。例如在金融領域,有公開的企業介紹、產品介紹或服務條款等信息,這樣模型就能更好地理解金融相關的內容。以牡丹卡爲例,如果不進行相關的訓練,模型可能無法識別牡丹卡屬於哪家銀行。但是,當提供了包含牡丹卡產品資料的數據後,模型就能自行理解並識別出相關信息。
此外,企業的歷史語料數據,比如客服中心的歷史語料,也可以用來調整和優化模型。
在不久前容聯雲舉辦的活動中,容聯雲介紹了其大模型方案在金融領域的落地情況。比如在保險客服領域,企業面臨着一系列業務痛點,傳統客服服務時間有限,客戶在遇到問題時,往往需要等待人工客服上班才能得到解答,面對大量客戶諮詢和投訴,人工客服服務效率低下,業務高峰期客戶要等待很久,而且由於保險業務涉及大量專業知識和術語,客服人員專業水平參差不齊,也會影響到客戶的體驗,進而影響企業的品牌口碑和市場競爭力。
針對行業存在的痛點,容聯雲提供了基於大模型的智能客服解決方案,其中智能文本機器人能夠7*24小時不間斷地提供服務,該機器人具備強大的語義理解和自然語言處理能力,能夠準確理解客戶問題給出相應回答,並根據客戶需求提供個性化的服務方案。
通過引入大模型技術,容聯雲實現了保單查詢、保全信息變更、線上理賠等一系列業務流程的自動化處理。針對保險業務對專業知識要求高的特點,容聯雲構建了智能知識庫系統,將大量保險專業知識和術語進行結構化處理,並通過大模型技術進行語義理解和關聯分析,讓客服人員在使用智能知識庫時,可以快速準確地找到所需知識點,提升專業水平和服務質量。
據容聯雲提供的數據顯示,智能文本機器人的首解率從原來的60%提升到了80%,轉人工率從84%降低到了55%。而且智能文本機器人和自動化業務流程處理功能減少人工客服的數量和工作時間,智能知識庫系統也降低了客服人員的培訓成本和時間週期,提高了整體運營效率。
在會後的採訪中,容聯雲副總裁孔淼認爲,大模型賦能金融行業,是典型的「技術驅動」,其表現是,首先影響對客服務環節,進而改變客戶體驗。
金融行業從早期的電子網銀到後來的手機銀行,再發展到如今多元化的手機銀行服務,這一系列變革背後都是技術在推動。同樣,智能客服的興起等智能化技術的應用,也是技術驅動的產物。
更早之前,全渠道客服的演變——從傳統的呼叫中心到在線客服的加入,同樣見證了技術(如Internet Plus-related移動化、大數據、小模型人工智能,直至現在的大模型人工智能)對行業的深刻影響。
技術驅動不僅帶來了服務形態的變化,還吸引了部分客戶嘗試這種新體驗或新技術,從而爲存量市場帶來了增量流量。一些企業因此嚐到了甜頭,他們的客戶因爲新技術的引入——比如個性化推薦等功能——而獲得了體驗上的提升,進而實現了ROI的增長,這使得企業開始意識到新技術在新場景下的應用潛力。
隨着這些新技術在應用中不斷展現其價值,企業的需求也隨之發生變化。逐漸地,這些新的應用方式和場景會形成一些新的標準,特別是在特定行業場景中,這些標準會逐漸演化爲企業軟體的標準配置。
對於大模型如何在企業中落地,容聯雲也經歷市場認知上的轉變。大模型初現時,業界普遍預期其將徹底改變客戶體驗和軟體行業格局,並傾向於以大模型爲核心來解決問題,視其爲萬能鑰匙。
然而,大模型雖強大,但也存在諸多侷限,如幻覺現象等,需要加以約束,在企業內部應用時,還需關注流程效率、數據整合等實際問題,包括公有數據與私有數據的融合,以及RAG等配套措施的實施。
另外,訓練大模型的成本極高,孔淼認爲,追求大模型的通用人工智能(AGI)固然是一種理論上的可能,但從性價比角度考慮,對企業來說大小模型結合是更爲可行的方案。
經過過去一年和客戶的溝通交流以及業務實踐,容聯雲在選擇場景時,關注商業化公司的銷售路徑和市場化問題,區分存量市場和增量市場,確保所選場景具有市場潛力和商業價值。
「我們對這個事情的認知其實是越來越細,到底哪些短期運營其實是可以產生商業效益的,就是所謂的能看到ROI的,哪些其實可能只是個『癢點』,甚至只是一個『嗨點』。」孔淼說到。