場(chǎng)景描述
運(yùn)用新興科技更好地發(fā)掘數(shù)據(jù)價(jià)值,是西門(mén)子中國(guó)持續(xù)發(fā)力的方向。西門(mén)子中國(guó)大禹團(tuán)隊(duì)?wèi)?yīng)用大數(shù)據(jù)技術(shù)、機(jī)器學(xué)習(xí)、云技術(shù)、低代碼來(lái)組建數(shù)據(jù)分析系統(tǒng),專(zhuān)注于創(chuàng)新領(lǐng)域,借助 AI 能力更好地發(fā)揮數(shù)據(jù)的價(jià)值。
在構(gòu)建知識(shí)庫(kù)的過(guò)程中,大禹團(tuán)隊(duì)通過(guò)調(diào)研認(rèn)識(shí)到,長(zhǎng)期以來(lái)企業(yè)內(nèi)部資源的檢索和調(diào)用都存在結(jié)構(gòu)散亂、檢索速度慢、交互不便等問(wèn)題。由于橫跨多個(gè)不同領(lǐng)域、涉及多個(gè)不同業(yè)務(wù)單元,如若以傳統(tǒng)方式打造知識(shí)庫(kù),這些問(wèn)題將一直是橫亙?cè)诓块T(mén)間的長(zhǎng)久之痛。因此,大禹團(tuán)隊(duì)決定將大數(shù)據(jù)庫(kù)和生成式 AI 應(yīng)用于一個(gè)全新的“智能知識(shí)庫(kù)”,從根本上提升知識(shí)庫(kù)的可用性。
解決方案
由于公司體量龐大,智能數(shù)據(jù)庫(kù)的構(gòu)建需面向多個(gè)不同業(yè)務(wù)部門(mén),勢(shì)必涉及大量的業(yè)務(wù)數(shù)據(jù)和文本數(shù)據(jù)。因此,智能知識(shí)庫(kù)的存儲(chǔ)架構(gòu),成為亞馬遜云科技為西門(mén)子設(shè)計(jì)智能知識(shí)庫(kù)時(shí)的首要考慮。
智能知識(shí)庫(kù)的架構(gòu)設(shè)計(jì),實(shí)質(zhì)上是大語(yǔ)言模型(LLM,Large Language Model)在知識(shí)檢索領(lǐng)域如何得到充分利用的問(wèn)題。亞馬遜云科技決定采取檢索增強(qiáng)生成(RAG,Retrieval Augment Generation)方式增強(qiáng)模型,使之具有來(lái)自存檔知識(shí)源的增強(qiáng)上下文的模型架構(gòu)。
最終亞馬遜云科技為大禹團(tuán)隊(duì)提供的,是一個(gè)智能知識(shí)庫(kù)暨智能會(huì)話(huà)機(jī)器人的解決方案指南,其中包括預(yù)訓(xùn)練大語(yǔ)言模型,Amazon OpenSearch Service 的向量數(shù)據(jù)服務(wù),以及相關(guān)系統(tǒng)集成等。該解決方案指南具備自然語(yǔ)言處理能力、知識(shí)庫(kù)檢索能力、甚至是以數(shù)據(jù)去訓(xùn)練大語(yǔ)言模型的能力,這些核心關(guān)鍵能力讓解決方案指南能實(shí)現(xiàn)目標(biāo)知識(shí)庫(kù)約 80% 功能,西門(mén)子中國(guó)根據(jù)企業(yè)內(nèi)部需求再做 20% 定制化開(kāi)發(fā),最終形成完整的解決方案。
其中,最大的亮點(diǎn)在于“RAG 架構(gòu)+向量數(shù)據(jù)庫(kù)”設(shè)計(jì):
•核心主體知識(shí)庫(kù)以向量方式構(gòu)建,能夠存儲(chǔ)超大規(guī)模的向量數(shù)據(jù)。通過(guò)對(duì)數(shù)據(jù)進(jìn)行向量嵌入處理,跨部門(mén)、跨業(yè)務(wù)、跨場(chǎng)景的數(shù)據(jù)之間也能夠進(jìn)行關(guān)系考量。而 Amazon OpenSearch Service 的 k 近鄰(kNN)插件為它提供了核心向量數(shù)據(jù)庫(kù)功能,現(xiàn)在向量嵌入可以與單個(gè)混合請(qǐng)求中基于文本的關(guān)鍵字組合,查詢(xún)時(shí)在幾毫秒內(nèi)就可獲得數(shù)十億向量的上下文相關(guān)響應(yīng)。
•另一方面,RAG 架構(gòu)極大地拓展了大模型的可用性。普通情況下當(dāng)知識(shí)庫(kù)新增內(nèi)容時(shí),相應(yīng)的大模型必須進(jìn)行微調(diào),甚至是重新訓(xùn)練。而 RAG 允許對(duì)新增部分使用相同的模型處理,無(wú)需調(diào)整模型。這就相當(dāng)于知識(shí)庫(kù)在不影響訪(fǎng)問(wèn)速度的前提下,擁有了近乎無(wú)限的可擴(kuò)展性。由向量數(shù)據(jù)庫(kù)保障的杰出性能,再加上 RAG 架構(gòu)提供的無(wú)限潛力,這就是智能會(huì)話(huà)機(jī)器人“小禹”能夠在用戶(hù)以簡(jiǎn)單語(yǔ)言進(jìn)行提問(wèn)的前提下,快速反饋生成式回答的秘密。
Amazon SageMaker 也為架構(gòu)的伸縮性以及大語(yǔ)言模型持續(xù)迭代提供了很大幫助。借助 SageMaker Endpoint 的彈性伸縮能力,系統(tǒng)可以自動(dòng)按照負(fù)載調(diào)整用于實(shí)時(shí)推理的資源,保證訪(fǎng)問(wèn)需求的同時(shí)提升整體性?xún)r(jià)比。Amazon SageMaker 上提供了豐富的模型開(kāi)發(fā)和訓(xùn)練工具,保證客戶(hù)可以在云端輕松實(shí)現(xiàn)大語(yǔ)言模型的調(diào)優(yōu)以及測(cè)試更多不同類(lèi)型的開(kāi)源模型。
成效
相對(duì)于傳統(tǒng)機(jī)器人,“小禹”智能會(huì)話(huà)機(jī)器人的回答內(nèi)容不僅生成速度更快,其對(duì)搜索關(guān)鍵詞的命中率也更高,整體使用體驗(yàn)遠(yuǎn)超傳統(tǒng)機(jī)器人。西門(mén)子中國(guó)專(zhuān)屬智能知識(shí)庫(kù)上線(xiàn)后,首周就有超過(guò) 4000 位內(nèi)部用戶(hù)參與使用,超過(guò) 12000 個(gè)問(wèn)題被提出并解答。作為智能知識(shí)庫(kù),它不但解決了各業(yè)務(wù)部門(mén)之間需求相似、重復(fù)開(kāi)發(fā)的問(wèn)題,更以云上彈性資源和托管的 Amazon OpenSearch Service 、Amazon SageMaker 等服務(wù)節(jié)約了系統(tǒng)在運(yùn)維和擴(kuò)展方面的投入成本。







快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求,請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論
知識(shí)庫(kù)構(gòu)建不性感,但可能是大企業(yè)開(kāi)始大規(guī)模應(yīng)用AI的最可行、也見(jiàn)效最快的場(chǎng)景
數(shù)據(jù)架構(gòu)和治理是實(shí)現(xiàn)數(shù)字化和智能化的基礎(chǔ)