場景描述
Shulex 是一家專注于全球客戶聲音洞察的 AI SaaS 公司,聚焦出海業(yè)務開發(fā)了 Shulex 智能客服、Shulex VOC 等 SaaS 應用,以 Shulex 自研模型為基礎,幫助出海企業(yè)進行業(yè)務創(chuàng)新,實現(xiàn)業(yè)務增長。但隨著客戶體驗觸點愈加分散,數(shù)據(jù)源愈來愈多,Shulex 遇到以下挑戰(zhàn):
1.數(shù)據(jù)從之前的亞馬遜電商網(wǎng)站評論分析、客服郵件,增加到社交媒體、網(wǎng)絡直播、實時聊天等多種數(shù)據(jù)源,多渠道、多類型、多語種的客戶數(shù)據(jù)讓基于機器學習模型的應用遇到了越來越大的挑戰(zhàn)。
2.Shulex 希望通過生成式 AI 來強化 Shulex 智能客服的能力,使之具備一定程度的 Agent(代理)功能以提供更多形式的服務,從自身技術棧出發(fā),Shulex需要基于“開源”、“性能”和“成本”這幾點進行評估和考量。
解決方案
通過 Amazon Bedrock 調(diào)用大語言模型,Shulex 旗下 Shulex VOC 和 Shulex 智能客服兩條產(chǎn)品線對應的一系列以“Bot”命名的 AI 工具,得以快速完成開發(fā),并借助大語言模型強化能力,實現(xiàn)商業(yè)分析、用戶問題自動應答等功能。
1.通過 Amazon Bedrock 調(diào)用 Claude 模型,長達 200k Tokens 分析能力,讓 Analysis Bot 結論更可靠。
針對商品的標簽,Analysis Bot 能分析用戶留言、評論、社交媒體發(fā)言等多渠道信息,分析該標簽背后的原因,從而制定商業(yè)策略。憑借 Claude 模型支持最長 200k 的 Tokens 分析,標簽推理不僅能夠支持一次性輸入更多內(nèi)容、進行更為高效的分析,內(nèi)容之間的關聯(lián)性也因此更為緊密,使得標簽推理的結論更有說服力。此外,Shulex 正在將 Claude 3 的強大能力應用在商業(yè)分析級別的報告中,為企業(yè)在用戶畫像洞察、產(chǎn)品規(guī)劃與選品、品質(zhì)口碑與提升、爆款銷售轉(zhuǎn)化上提供可量化依據(jù)。
2.低“幻覺”、高知識召回精度,助力 AI Bot 實現(xiàn)更佳用戶體驗。
AI Bot 是 Shulex 智能客服中用于直接與海外用戶溝通、問答的工具,支持 10 種不同語言的郵件和聊天服務,且能 24 小時在線,1 分鐘內(nèi)及時回復客戶問題。為服務好海外客戶,Shulex 為 AI Bot 設計了 “構建框架 - 應用框架 - 強化框架” 三個階段,而 Amazon Bedrock 上的 Claude 模型,貫穿于這三個步驟之中,起到了關鍵作用。
首先,由于每一位客戶的經(jīng)營領域都不一樣,智能客服需要針對海外客戶的經(jīng)營領域,利用 RAG(Retrieval Augmented Generation,檢索增強生成)技術在構建的框架內(nèi)回答問題。第二步是運用 RAG 技術進行自然語言提問,并給出回答:識別用戶問題中的關鍵詞,確認用戶意圖,然后根據(jù)意圖進行知識召回。第三步也是最重要的一步,則是對現(xiàn)有知識庫中的內(nèi)容進行基于相關度、召回準確率的排序,同時匹配用戶的強、弱需求,從而提升回答的準確性,并不斷強化 RAG 技術的應用效果。
3.借助 Agent 編排能力,擴展 Task Bot 服務范圍。使用 Amazon Bedrock Agent 功能,Shulex 能幫助海外客戶輕松創(chuàng)建和部署完全托管的 Agent。通過調(diào)用 Agent API,復雜的任務如計劃編排、業(yè)務 API 動態(tài)調(diào)用、知識庫查詢,可以被拆分成多個子任務并進行優(yōu)先級設定、排序和調(diào)度,確保任務的順利完成。
成效
在亞馬遜云科技相關服務和技術團隊的協(xié)助下,Shulex 從評估大語言模型能力、提示詞工程優(yōu)化、 Analysis Bot 性能測試、業(yè)務并發(fā)能力提升、灰度上線測試到全面線上更新,整個流程僅用時三周,大幅縮短了生成式 AI 應用程序的開發(fā)周期。
1.面向海外客戶業(yè)務,通過應用 Amazon Bedrock 這一強大的生成式 AI 服務,我們以 Shulex VOC Analysis Bot 為首的一系列 Bot 的能力得到了強化,用戶整體滿意度提升了 15.4%,用戶留存率也提高了 12.1%。
2.Amazon SageMaker 作為全托管的生成式 AI 基礎設施工具,幫助 Shulex 算法工程師可以更方便地進行數(shù)據(jù)清洗、訓練和部署自研大語言模型,整體模型迭代時間比使用傳統(tǒng)訓練的方式縮短了 30%。







快報
根據(jù)《網(wǎng)絡安全法》實名制要求,請綁定手機號后發(fā)表評論
垂直大模型應用云服務