場景描述
隨著人工智能的迅猛發(fā)展，各行各業(yè)都在積極探索智能化工具賦能工作質效的應用方法。華發(fā)投控合規(guī)法務部秉承著創(chuàng)新為先的理念，與金科研究院進行科技與業(yè)務的深入融合，在對AIGC應用能力達成共識的基礎上，即主要是從一些重復性的、日常性的工作中解放人力，并由于其在大數(shù)據(jù)分析和決策支持方面的強大能力，使其能從龐大的數(shù)集中提取內容，洞察和預測趨勢，從而為人工決策提供決策依據(jù)，從合規(guī)業(yè)務工作中的實際痛點出發(fā)，在深度應用LLMs的基礎能力基礎上，聯(lián)合開發(fā)了新的合規(guī)智能工具—華發(fā)AI小科智慧合規(guī)平臺。以實現(xiàn)業(yè)務推動科技創(chuàng)新，科技賦能業(yè)務創(chuàng)新的良性循環(huán)。
痛點分析
在企業(yè)的各個業(yè)務板塊相應合規(guī)、法務部門人員的日常合規(guī)工作開展中，無論是對內規(guī)的制定還是對業(yè)務的合規(guī)性判斷，都高度依賴相應外規(guī)制度的完整性和時效性，以及對內外規(guī)的內容掌握準確度。然該場景下的合規(guī)工作存在下列4個共性痛點：
一是目前公司內外規(guī)制度內容繁多，不但包括業(yè)務對應法規(guī)還包括通用性法規(guī)，且制度由于發(fā)布時間不同相對分散，目前由人工去整理和維護內外規(guī)存在的投入時間長以及制度遺漏的問題。
二是合規(guī)部門在日常工作中，會高頻地被問到公司內部的相關制度規(guī)范，此項工作不但需要投入專人去解答，并且由于制度的內容較多，需花費不少時間與精力去查找規(guī)章制度的原文，整個過程需耗費大量的人力還有遺漏的風險。
三是外規(guī)出現(xiàn)經常修訂或者廢止的實際情況，而公司層面維護的外規(guī)并不能判斷是同一個外規(guī)從而無法進行實時更新維護，導致本地外規(guī)更新不及時不能及時匹配監(jiān)管要求。
四是由于公司層面人工維護的外規(guī)更新不及時，導致根據(jù)該外規(guī)制定的內規(guī)也需要事后由人工篩選別和修改，無法保證內規(guī)與最新外規(guī)一致，可能發(fā)生合規(guī)風險。
具體場景描述：
1）合規(guī)庫管理能力(財務公司庫為例)：為解決目前公司內外規(guī)規(guī)章制度內容繁多，且制度由于發(fā)布時間不同相對分散，由人工去整理和維護內外規(guī)存在的投入時間長、以及制度遺漏的問題。通過建立內外規(guī)的法規(guī)知識庫，并通過AI去自動獲取外規(guī)豐富知識庫內容，對內外規(guī)進行分類管理。同時法規(guī)文本進行了向量拆分，滿足對法規(guī)的快速查詢和獲取的業(yè)務需求，支持業(yè)務通過AI能力一鍵實時查詢內外規(guī)的源文件和文檔內容。
2）合規(guī)檢索能力（投控合規(guī)法務檢索助手為例）：在投控合規(guī)法務部的制度規(guī)范性專項提升工作中，需要對海量外規(guī)進行人工篩查以便對內規(guī)進行查漏補缺，通常一個文檔的檢索至少一人力需要30分鐘的時間。通過與業(yè)務方進行詳細的需求訪談，AI小科上線外規(guī)檢索能力，支持用戶通過批量關鍵詞進行全文檔的檢索和導出能力，海量文庫只需1分鐘的時間。主要功能包括支持單個牌照庫內的文檔檢索；支持輸入單個關鍵詞進行檢索；支持輸入多個檢索詞批量進行檢索；支持將檢索結果導出到本地excel；支持在導出的excel內一鍵打開PDF源文件等。
3）合規(guī)問答能力（證券外規(guī)問答為例）： 為解決公司合規(guī)法務部在日常工作中，會高頻地被問到公司內部的相關制度規(guī)范，需耗費大量人力去重復回答的問題，并且由于制度內容較多，需花費不少時間與精力去查找規(guī)章制度的原文，整個過程不但需耗費大量的人力還有遺漏的風險。由于嚴監(jiān)管口徑，證券公司合規(guī)性要求較高，合規(guī)法務同事的問詢工作相對較多，因此我們將集團證券公司作為首個賦能業(yè)務單元進行了合規(guī)問答的建設。
通過度應用LLMs的基礎能力，利用合規(guī)數(shù)據(jù)對模型調優(yōu)，建設了跨文檔跨知識庫的法規(guī)AI問答能力，證券問答助手將證券監(jiān)管外規(guī)文件建立為本地知識庫，通過對數(shù)據(jù)進行加載和預處理、向量化等方式提取、整理相關法規(guī)資料，讓用戶可以快速搜索、解讀相關法規(guī)條款。主要功能點包括支持對證券合規(guī)知識庫內的已有問題進行回答；支持對回答內容進行打分并將打分結果進行模型訓練；支持查看答案內容相對應的原文條款出處并支持對條款出處打分。
問答助手的整體準確率在90%左右，高效地實現(xiàn)以AI輔助人工的方式去開展此項工作，作為AI內部客服解放合規(guī)同事針對相同問題反復回答的人力，賦能工作質效。同時未來應用于其他業(yè)務合規(guī)場景時，只需批量進行上傳合規(guī)文件即可自動進行模型調優(yōu)，實現(xiàn)快速應用和上線。
4）法規(guī)AI效力追蹤：在現(xiàn)實層面外規(guī)出現(xiàn)經常修訂或者廢止的實際情況，而公司層面維護的外規(guī)并不能判斷是同一個外規(guī)從而無法進行實時更新維護，導致本地外規(guī)更新不及時不能及時匹配監(jiān)管要求。與此同時由于公司層面人工維護的外規(guī)更新不及時，導致根據(jù)該外規(guī)制定的內規(guī)也需要事后由人工篩選別和修改，無法保證內規(guī)與最新外規(guī)一致，可能發(fā)生合規(guī)風險。通過AI聯(lián)網(wǎng)自動比對監(jiān)管最新發(fā)布的外規(guī)和公司本地外規(guī)的一致性，對外規(guī)進行持續(xù)效力追蹤并實時在公司庫自動更新維護最新外規(guī)，同時對依據(jù)該外規(guī)制定的內規(guī)進行AI預警，輔助相應合規(guī)部門及時修訂內規(guī)，確保內外規(guī)的一致性預防和降低合規(guī)風險。
解決方案
技術層面：AI小科基于LLMs的底層通用能力，使用LangChain+LLM方式搭建本地私有合規(guī)知識庫，通過鏈接多個模塊的組件形成基于已有知識庫的問答。其核心本地化知識庫的專屬問答助理構建過程可簡單概括為四步：
一是數(shù)據(jù)加載&預處理：將數(shù)據(jù)源轉換為text，并做text split等預處理;
二是文本拆分和向量化：將文本進行拆分，數(shù)據(jù)由Embedding模型處理；
三是召回:通過向量檢索工具Faiss等對Query相關文檔召回；
四是閱讀理解和總結答案：將Context與query傳給LLMs，由LLMs生成總結答案即AIGC。
模型調優(yōu)：在Finetuning、Prompt tuning、LoRA、Prefix Tuning、Fine Tuner以及In-context learning等眾多模型微調的技術手段中，為確保業(yè)務效果達到最優(yōu)解，金科研究院不斷進行AB驗證，經過多輪技術方案的調整和優(yōu)化，目前采用了Fine Tuner的方式進行模型調優(yōu)，主要流程如下：
數(shù)據(jù)準備：通過問答助手或自定義方式，采集句子對并打分，形成調優(yōu)數(shù)據(jù)列表。這些數(shù)據(jù)將被整合成調優(yōu)模型所需的dataset數(shù)據(jù)集。
定時任務：分布式定時任務定期掃描調優(yōu)模型dataset數(shù)據(jù)集，確保數(shù)據(jù)的新鮮度和準確性。
模型加載與配置：使用uniem FineTuner工具，加載預訓練模型至內存，并同步加載dataset數(shù)據(jù)集。隨后，配置調優(yōu)參數(shù)，如epochs、batch_size、學習率(lr)等。
模型調優(yōu)：調用finetuner.run進行模型調優(yōu)，根據(jù)dataset數(shù)據(jù)集優(yōu)化模型性能。
模型保存與更新：調優(yōu)成功后，將新模型保存至臨時空間。同時，備份原有模型，確保數(shù)據(jù)安全。最后，更新模型版本為最新模型。
知識庫嵌入：重新加載模型知識庫embedding，確保模型具備最新的知識信息。
整體而言，上述步驟形成了一個完整的模型自訓練閉環(huán)，并能保證模型持續(xù)優(yōu)化和更新，從而持續(xù)優(yōu)化業(yè)務效果更好賦能業(yè)務提質增效。
成效
在能力層面AI小科智慧合規(guī)平臺打造了合規(guī)文庫、合規(guī)檢索、AI 問答的 1+3 模塊；場景建設層面建設了華發(fā)投控層面的合規(guī)知識庫、投控合規(guī)法務部內外規(guī)檢索助手、證券法規(guī)問答場景等，助力合規(guī)風險防控前置，實現(xiàn)一線人員合規(guī)管理自動化、智能化。
在業(yè)務成效上通過人工智能技術來降低成本并提高效率，業(yè)務單元越多地應用人工智能技術，便能更優(yōu)地優(yōu)化業(yè)務流程、提高生產效率并降低成本。通過AI降本增效各業(yè)務單元可以更好地利用大數(shù)據(jù)、機器學習和其他人工智能工具來提供效率優(yōu)化流程提高生產力。具體成效如下：
1）法規(guī)庫建設層面，分類搭建金融和類金融機構9個合規(guī)庫（證券、期貨、保險、融擔、小貸、保理等），引入法規(guī)2000多個，初步完成華發(fā)金融板塊的合規(guī)平臺建設。
2）法規(guī)檢索能力層面，助力投控合規(guī)法務部的制度規(guī)范性專項提升工作，按照一年2次的排查頻率計算，為合規(guī)法務部一年節(jié)約1人力。
3）法規(guī)問答能力層面，證券AI合規(guī)客服為解放合規(guī)同事針對相同問題反復回答的人力，高效地實現(xiàn)以AI輔助人工的方式去開展此項工作，賦能業(yè)務工作質效節(jié)約80%人力。
4）AI效力追蹤層面 解決法規(guī)維護核心痛點：AI智慧合規(guī)平臺通過AI聯(lián)網(wǎng)自動比對監(jiān)管最新發(fā)外規(guī)和公司本地外規(guī)的一致性，對外規(guī)進行持續(xù)效力追蹤并實時在公司庫自動更新維護最新外規(guī)，同時對依據(jù)該外規(guī)制定的內規(guī)進行AI預警，輔助相應合規(guī)部門及時修訂內規(guī)，有效解決法規(guī)維護缺失和效力無法追蹤的痛點。
5）技術快速應用推廣 邊際效應低：平臺在底座建設過程中，已完成基礎模型和模型調優(yōu)的方法建設，通過Fine Tuner的方式形成了一個完整的模型自訓練閉環(huán)，能保證模型持續(xù)優(yōu)化和更新。因而未來應用于其他業(yè)務合規(guī)場景時，只需批量進行上傳合規(guī)文件即可自動進行模型調優(yōu)，完成場景快速應用上線。
未來我們將持續(xù)對AI小科智慧合規(guī)平臺進行全方位建設，包括平臺場景建設、模型建設、市場推廣和綜合事項等。一是在平臺建設層面，接入華發(fā)集團內的金融和非金融行業(yè)合規(guī)事項，全面建立華發(fā)集團層面的合規(guī)管理平臺；二是在平臺場景建設層面，逐步建設模型智能研報、智能風控、智能投顧等其他模塊能力，打造金融行業(yè)大模型；三是在市場推廣層面：借助國資監(jiān)管場景場景等，沉淀產品能力逐步向國資體系推廣行成商業(yè)模式后，形成項目營收；四是在綜合業(yè)務層面：完成大模型備案和算法備案雙備案事宜，持證上崗；推進完成專利申請、軟著申請工作以及其他課題申報等相關工作。
快報
根據(jù)《網(wǎng)絡安全法》實名制要求，請綁定手機號后發(fā)表評論
傳統(tǒng)nlp場景，確實很適合大模型替換。但是技術上沒什么護城河。。
這個場景有較大普遍性，相關大模型AI技術也成熱，可以完善后推出服務。
是個很好的應用場景
技術前沿，不錯
是痛點
我看行
合規(guī)那個厲害，準確率達90%
這個確實厲害，效率提升很高啊
秀
優(yōu)