“2024年，將是大模型應(yīng)用年。不要高估新技術(shù)的短期影響，也不要低估新技術(shù)的長期影響，尤其是大模型。”浪潮通軟副總經(jīng)理兼CTO鄭偉波對鈦媒體App表示。
浪潮通軟的判斷與行業(yè)一致，但目前大模型落地還存在可見的難題與掣肘，人人都在談?wù)摯竽Ｐ停瑹o論是使用者還是布道者，反觀之，“千模大戰(zhàn)”重點還在基礎(chǔ)大模型，在行業(yè)領(lǐng)域場景的應(yīng)用落地不夠，缺乏與業(yè)務(wù)場景深度融合的垂域大模型。
B端企業(yè)客戶比C端消費者更加務(wù)實，僅僅靠對話無法讓企業(yè)客戶為之買單，過去一年，行業(yè)集體都處于試錯和探索階段，評估大模型是否值得投入，該怎么投入才能產(chǎn)生更高價值，大模型廠商都在渲染革命性，而企業(yè)客戶都在看重可行性。
首先是成本，大模型訓(xùn)練和部署成本相對較高，千億級大模型在企業(yè)中的應(yīng)用僅推理設(shè)備就是一筆較大的投入，且大模型帶來的收益評價難點也較高，因此如何降低使用成本，如何把控大模型的投入產(chǎn)出平衡，是未來大模型在企業(yè)軟件中應(yīng)用所要持續(xù)考慮的。
其次，適用性是關(guān)鍵，知識是核心，通用大模型在企業(yè)中的適用場景有限，基于大模型設(shè)想的場景往往比較多，但是真正能夠落地，真正能夠解決真問題，利用大模型的能力做出符合企業(yè)需求的應(yīng)用，核心要看企業(yè)的“知識”。對特定行業(yè)的深入理解，找到真場景，形成有價值的行業(yè)、領(lǐng)域知識，是大模型在企業(yè)應(yīng)用軟件落地所面臨的一大挑戰(zhàn)。
再次是數(shù)據(jù)準(zhǔn)確性、可信性，保證數(shù)據(jù)、知識來源的正確性是前提，大模型輸出信息內(nèi)容的可信、準(zhǔn)確是根本目標(biāo)。此外，企業(yè)的知識、數(shù)據(jù)往往是分散的，隱性的，如何梳理，如何管理也是難題。
此外，生態(tài)也是亟待補充，對話問答只是大語言模型應(yīng)用的一個方面，與系統(tǒng)服務(wù)融合，完成各種任務(wù)才是關(guān)鍵。企業(yè)應(yīng)用環(huán)境復(fù)雜，涉及多廠商軟件，大模型和軟件的融合需要協(xié)同廠商建立生態(tài)，豐富大模型應(yīng)用插件庫。與模型伙伴、行業(yè)ISV及應(yīng)用企業(yè)多層次全方面的合作共贏，是未來大模型發(fā)展趨勢。
最后也是最重要的，數(shù)據(jù)與隱私安全，大模型的研發(fā)和應(yīng)用過程中，存在數(shù)據(jù)泄露和價值觀等多方面的安全風(fēng)險，特別是調(diào)用一些大模型公網(wǎng)API服務(wù)時，企業(yè)用戶更有顧慮。即便是私有部署的模型，仍然面臨著難以確定大模型返回的數(shù)據(jù)是否根據(jù)使用者的角色進(jìn)行了數(shù)據(jù)內(nèi)容限制的挑戰(zhàn)。
“五個挑戰(zhàn)誰先突破，誰就能占得先機。這里面又有兩點有為關(guān)鍵，第一是自身大模型能力，第二則是生態(tài)。”鄭偉波說，
能力方面，大模型生成的質(zhì)量、理解推理的準(zhǔn)確性、思維鏈的可控性等等，都要達(dá)到一定臨界值才能得到廣泛持續(xù)應(yīng)用。
在生態(tài)方面，要想打造真正好用的大模型，就需要去和各種場景結(jié)合，實現(xiàn)各種場景下大模型的應(yīng)用落地，并持續(xù)深度優(yōu)化，要有更為廣泛的開發(fā)者在大模型之上構(gòu)建豐富的應(yīng)用生態(tài)，豐富大模型應(yīng)用插件庫，以開放的姿態(tài)推動大模型生態(tài)建設(shè)。
浪潮通軟于2023年9月份發(fā)布了浪潮海岳大模型inGPT，定位于企業(yè)服務(wù)垂域大模型，并和海岳PaaS平臺、智能ERP、工業(yè)軟件相結(jié)合。
鄭偉波表示，自海岳大模型發(fā)布之后，我們發(fā)現(xiàn)，融合領(lǐng)域知識非常重要。大模型的知識分三層：通用知識、垂域知識和企業(yè)知識。
浪潮通軟在垂域知識的梳理和沉淀上做了很多工作，這得益于其在大型集團企業(yè)經(jīng)營管理領(lǐng)域30多年的行業(yè)深耕，尤其在財務(wù)、人力、司庫等業(yè)務(wù)領(lǐng)域，以及智能制造、糧食倉儲、智慧水務(wù)、智慧礦山等垂域行業(yè)也有深厚的積累，基于這些領(lǐng)域?qū)嵺`，沉淀下來了大量領(lǐng)域?qū)Ｓ兄R，作為大模型訓(xùn)練數(shù)據(jù)來源，進(jìn)而打造深度結(jié)合業(yè)務(wù)的垂域大模型。
在企業(yè)應(yīng)用方面，私有化是重要場景，企業(yè)知識出于安全考慮，一定要放在企業(yè)本地，需要在企業(yè)端對知識進(jìn)行管理，對此，浪潮通軟也為企業(yè)打造了配套的知識化工具，提供模型“精調(diào)”能力。
大模型和應(yīng)用深度結(jié)合也是大模型發(fā)展的重要路徑之一，海岳大模型和海岳PaaS平臺、智能ERP相結(jié)合形成了對話式智能商業(yè)分析、智能搜索、智能問答、智能化軟件開發(fā)、智能流程自動化等智能化應(yīng)用，賦能企業(yè)智能場景落地。
大模型在企業(yè)端落地也需要工程化的支撐，海岳大模型提供企業(yè)大模型應(yīng)用開發(fā)平臺，封裝了一系列知識管理工具集、大模型微調(diào)框架、大模型應(yīng)用插件庫、服務(wù)編排組件等工具，為企業(yè)提供覆蓋基礎(chǔ)大模型納管、知識治理、模型管理、服務(wù)編排、部署交付、運營維護的全生命周期服務(wù)，以自動化的流程和智能化的交互，提高企業(yè)的服務(wù)質(zhì)量和效率。
鄭偉波認(rèn)為，浪潮通軟在大模型領(lǐng)域的差異化優(yōu)勢，主要還是體現(xiàn)在采取和應(yīng)用相結(jié)合的策略上，實現(xiàn)垂域大模型+智能應(yīng)用一體化。
“大模型與應(yīng)用的融合需要兩邊都做出改變，大模型要為應(yīng)用做出改變，應(yīng)用也要為大模型能更好的理解、推理、生成，進(jìn)行架構(gòu)上的調(diào)整，一體化的研發(fā)設(shè)計是關(guān)鍵優(yōu)勢。例如，我們的API為了更好地被大模型識別、編排，在描述和調(diào)用方式上都進(jìn)行了優(yōu)化。”他說。
通用大模型的早期熱度有多喧囂，結(jié)束得就有多潦草，甚至不起一絲漣漪，一些基礎(chǔ)大模型沒有調(diào)用量，自然消失在市面上。
鄭偉波表示，未來大模型的發(fā)展還是要以應(yīng)用為中心，在基礎(chǔ)大模型之上，要衍生出更多面向不同領(lǐng)域、行業(yè)和場景的垂域大模型，實現(xiàn)垂域大模型的百花齊放，進(jìn)而支撐上層成千上萬甚至數(shù)以百萬計的 AI原生應(yīng)用。
“最后能夠‘跑’出來的大模型要分情況，通用大模型最后能‘跑’出來的，應(yīng)該是少數(shù)頭部大模型，而垂域大模型由于面向多樣的領(lǐng)域、場景和應(yīng)用，能‘跑’出來大模型會更多。”他補充道
與此同時，大模型應(yīng)用正在朝AI原生化重構(gòu)方向發(fā)展，OpenAI推出了可以自定義的GPTs, 讓大家看到了AI原生應(yīng)用雛形， 2024年1月11日上線的GPTStore應(yīng)用市場，更確認(rèn)大模型正成為AI操作系統(tǒng)。
基于思維鏈編排的自主智能體將改變未來軟件形態(tài)，成為未來軟件架構(gòu)的重要發(fā)展趨勢。未來每個人將擁有更多大模型主動權(quán)。隨著AI Agent與大模型的逐漸演化，自主智能代理越來越強大，AI原生應(yīng)用也將助力打造人機融合演進(jìn)的數(shù)字世界和生活。
大模型推動了軟件在開發(fā)、交互、運行、運維模式上的變革，軟件產(chǎn)品的智能化程度也隨之越來越高。
開發(fā)方面，基于大模型，能實現(xiàn)代碼自動補全、解釋代碼并優(yōu)化、生成單元測試用例、回答編碼問題等一系列能力。
交互方面，大模型驅(qū)動軟件交互模式從菜單驅(qū)動的GUI發(fā)展到對話驅(qū)動的CUI，開啟了軟件智能對話時代。
運行方面，隨著大模型與企業(yè)應(yīng)用的融合梯次深化，軟件產(chǎn)品從嵌入智能發(fā)展到原生智能，基于思維鏈編排的自主智能體成為未來軟件架構(gòu)的重要發(fā)展趨勢。
運維方面，大模型也為企業(yè)IT管理打造了智能化的自動駕駛系統(tǒng)。
“大模型發(fā)展才剛剛開始，基礎(chǔ)大模型會逐漸向頭部聚集，垂域大模型和應(yīng)用創(chuàng)新百花齊放，在垂域大模型之上打造與各行業(yè)、領(lǐng)域深度融合的AI 原生應(yīng)用，才能將大模型的價值有效釋放。”鄭偉波總結(jié)表示。
（本文首發(fā)鈦媒體APP 作者｜張帥，歡迎添加作者mr3right爆料、交流）
快報
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求，請綁定手機號后發(fā)表評論