HR、PMO、邀約客服培訓(xùn)、質(zhì)檢培訓(xùn)、安全風(fēng)控、財務(wù)、金融客服問答等 14 類場景的數(shù)十個應(yīng)用，都針對海外業(yè)務(wù)基于亞馬遜云科技已經(jīng)部署或開始測試生成式 AI 應(yīng)用。解決方案如下：1.從模型選擇與評估、提升數(shù)據(jù)質(zhì)量到模型微調(diào)，端到端生成式 AI 應(yīng)用創(chuàng)新服務(wù)讓快速落地
在面向海外業(yè)務(wù)的各類場景的生成式 AI 應(yīng)用部署中，貨拉拉還需解決模型評估和篩選、數(shù)據(jù)準(zhǔn)備和模型微調(diào)等問題，亞馬遜云科技提供了一站式端到端的生成式 AI 服務(wù)，幫助貨拉拉加速在其海外業(yè)務(wù)中的生成 AI 應(yīng)用落地。
1）模型評估和篩選：針對貨拉拉的海外業(yè)務(wù)流程，亞馬遜云科技 AI 應(yīng)用科學(xué)家先后對 10 款模型進(jìn)行測試評估，評估數(shù)據(jù)包括 1000 條線上真實數(shù)據(jù)以及 LLM 生成的數(shù)據(jù)相結(jié)合，將準(zhǔn)確率、召回率、任務(wù)完成率作為模型選擇標(biāo)準(zhǔn)。以邀約質(zhì)檢場景邀約話術(shù)場景為例，Claude3 Sonnet 在基準(zhǔn)測試中準(zhǔn)確率為 0.98，精準(zhǔn)度為 0.99，召回率為 1，F(xiàn)1-Score 為 0.99，橫向評估中獲得第一。
2）數(shù)據(jù)生成和數(shù)據(jù)質(zhì)量提升：通過亞馬遜云科技調(diào)用 LLM，根據(jù)基本業(yè)務(wù)流程和提示詞來生成數(shù)據(jù)、清洗數(shù)據(jù)并提升數(shù)據(jù)質(zhì)量，使用 Amazon Bedrock API 共生成 3000 條數(shù)據(jù)，并過濾掉輪次過短、說話主體不明確、沒有模擬生成 API 接口輸出的對話，以確保數(shù)據(jù)質(zhì)量滿足業(yè)務(wù)需求。
3）模型微調(diào)：亞馬遜云科技基于貨拉拉的業(yè)務(wù)需求對多款開源模型進(jìn)行了微調(diào)，由于當(dāng)前訓(xùn)練數(shù)據(jù)相對較少，因此最終采用了 Lora 的方法進(jìn)行訓(xùn)練。此外，還嘗試構(gòu)造更多樣化的數(shù)據(jù)及人工清洗的方式，在保證數(shù)據(jù)的質(zhì)量和多樣性的基礎(chǔ)上，進(jìn)行全參微調(diào)，進(jìn)一步提高模型泛化能力。
2.通過亞馬遜云科技 Amazon Bedrock 調(diào)用 Claude 3 模型，多模態(tài)識別讓貨拉拉更絲滑處理問題、提升用戶體驗
貨拉拉的海外業(yè)務(wù)處理中，接收到的信息從原來的文字版信息，越來越多地轉(zhuǎn)變?yōu)楦黝悎D文信息，接收到的圖文問答、保險單比價，都需要從圖片里面去解析和提取信息。貨拉拉通過亞馬遜云科技 Amazon Bedrock 調(diào)用 Claude 3 模型，利用其優(yōu)秀的多模態(tài)識別能力進(jìn)行圖文問答、圖文推薦、比價等，海外業(yè)務(wù)實際應(yīng)用效果非常好。
比如車險比價場景中，可能接收到海外用戶對于車險選擇的咨詢，然后收到一個截圖。以前，只能借助文字去跟用戶溝通，一步一步地詢問各種信息、可能中間還涉及大量的解釋和溝通，才能獲取到足夠的信息來定位問題。借助 LLM 的多模態(tài)識別，迅速根據(jù)圖片解析各類數(shù)據(jù)和信息，業(yè)務(wù)人員能更及時、更清晰地了解用戶的訴求、用車等相關(guān)信息，可以更快地為海外用戶推薦適配需求的車險，大大加快問題處理速度，提升用戶體驗。
成效
1.生成式 AI 實驗時間從 3 個月縮短到 6 周，15 個海外業(yè)務(wù)已部署生成式 AI 應(yīng)用：通過與亞馬遜云科技的通力合作，貨拉拉業(yè)務(wù)的各個領(lǐng)域，包括針對海外業(yè)務(wù)的 14 類業(yè)務(wù)場景和數(shù)十個業(yè)務(wù)已經(jīng)開始嘗試采用生成式 AI，其中 15 個業(yè)務(wù)的生成式 AI 應(yīng)用已經(jīng)上線。利用亞馬遜云科技生成式 AI 能力，貨拉拉可以減少模型訓(xùn)練的時間，高效檢驗不同 LLM 與業(yè)務(wù)場景需求的匹配度，快速進(jìn)行業(yè)務(wù)創(chuàng)新實驗，將實驗時間從 3 個月縮短到 6 周，將更多的時間用來提升數(shù)據(jù)的質(zhì)量和精確度及優(yōu)化提示詞。
2.效率提升、成本降低，應(yīng)用上線時間從 1 至 2 天縮短為 10 多分鐘：以前貨拉拉上線一項新應(yīng)用或功能，可能需要一至兩天。貨拉拉通過構(gòu)建悟空平臺，集成業(yè)界主流 LLM，面向公司的海外業(yè)務(wù)，通過低代碼或零代碼方式快速搭建應(yīng)用，利用模型組件化，可視化、采取拖拉拽式的操作，僅十幾分鐘就能把一項業(yè)務(wù)搭建起來，大大地促進(jìn)業(yè)務(wù)上線效率。引入生成式 AI 不僅提升了業(yè)務(wù)效率，還為海外業(yè)務(wù)實現(xiàn)了成本節(jié)省，比如培訓(xùn)業(yè)務(wù)中引入生成式 AI 后，除了提升司機體驗外，每年預(yù)計為培訓(xùn)師節(jié)省上千小時的培訓(xùn)時長，大大降低公司的培訓(xùn)成本。
3.邀約質(zhì)檢覆蓋抽樣率提升 10 倍，更高效審核對話規(guī)范性：通過大模型進(jìn)行質(zhì)檢，可以更多地去檢測發(fā)現(xiàn)業(yè)務(wù)運營中的問題。以前由于人力、成本的限制，質(zhì)檢抽樣率較低。 現(xiàn)在，貨拉拉基于亞馬遜云科技的生成式 AI
能力可以將抽檢率提升 10 倍，將對客服邀約人員與司機對話的規(guī)范性進(jìn)行更為廣泛、高效的審核，規(guī)范邀約人員話術(shù)行為，必將增強司機的體驗。
本文系作者
亞馬遜云科技 授權(quán)鈦媒體發(fā)表，并經(jīng)鈦媒體編輯，轉(zhuǎn)載請注明出處、作者和
本文鏈接。
本內(nèi)容來源于鈦媒體鈦度號，文章內(nèi)容僅供參考、交流、學(xué)習(xí)，不構(gòu)成投資建議。
想和千萬鈦媒體用戶分享你的新奇觀點和發(fā)現(xiàn)，
點擊這里投稿 。創(chuàng)業(yè)或融資尋求報道，
點擊這里。
掃描下載App
快報
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求，請綁定手機號后發(fā)表評論
不錯
生成式AI助力提質(zhì)增效
是否應(yīng)用基本的大數(shù)據(jù)分析方法就能夠解決問題了？