中國(guó)電信成為大模型領(lǐng)域一股重要力量。在2023數(shù)字科技生態(tài)大會(huì)上，中國(guó)電信展現(xiàn)了從液冷數(shù)據(jù)中心到智算平臺(tái)，從基礎(chǔ)大模型到行業(yè)大模型的全面布局，“網(wǎng)絡(luò)+云計(jì)算+AI+應(yīng)用”成為中國(guó)電信的數(shù)字化標(biāo)簽。

全面披露大模型布局

7月初世界人工智能大會(huì)上，中國(guó)電信發(fā)布了百億參數(shù)的星辰語(yǔ)義模型，中中國(guó)電信人工智能科技有限公司總經(jīng)理何忠江表示，中國(guó)電信在進(jìn)行商業(yè)化落地過(guò)程中碰到了三個(gè)主要問(wèn)題，幻覺(jué)問(wèn)題、外推窗口問(wèn)題以及多輪邏輯推理問(wèn)題。

本次中國(guó)電信發(fā)布的星辰千億參數(shù)語(yǔ)義大模型，一定程度緩解如上問(wèn)題。例如針對(duì)幻覺(jué)問(wèn)題，中國(guó)電信通過(guò)數(shù)據(jù)切片溯源的機(jī)制，將一個(gè)復(fù)雜邏輯問(wèn)題拆解為多輪邏輯相對(duì)簡(jiǎn)單，數(shù)據(jù)可溯源的小問(wèn)題來(lái)進(jìn)行SFT訓(xùn)練，在千億參數(shù)規(guī)模下，自測(cè)幻覺(jué)率能夠降低一半左右。接下來(lái)中國(guó)電信將通過(guò)量化蒸餾的手段，讓模型能夠低成本商用。

值得關(guān)注的是，中國(guó)電信的AI團(tuán)隊(duì)宣布了開(kāi)源開(kāi)放的時(shí)間表，將于今年年底之前開(kāi)源百億參數(shù)模型，明年4月開(kāi)源千億參數(shù)模型，所有底層代碼都會(huì)開(kāi)源。同步將開(kāi)放超過(guò)1T的高質(zhì)量清洗數(shù)據(jù)，以及各種基于星辰大模型底座的工具鏈，滿足各類開(kāi)放用戶需求，并面向開(kāi)發(fā)者提供各類大模型工具支持。

此外，中國(guó)電信研發(fā)的多模態(tài)大模型主要聚焦在提升圖文生成、圖文理解的能力，中國(guó)電信訓(xùn)練了超過(guò)12億的各種風(fēng)格數(shù)據(jù)，目前支持寫(xiě)實(shí)、彩墨畫(huà)、賽博朋克等接近20種繪畫(huà)風(fēng)格，由于在訓(xùn)練中特意加強(qiáng)了語(yǔ)義和圖像映射的attention學(xué)習(xí)，所以對(duì)于中文的理解，語(yǔ)義的細(xì)粒度理解提升不少。

人工智能領(lǐng)域除了算力和算法，核心環(huán)節(jié)還有數(shù)據(jù)。一是支撐大模型數(shù)據(jù)語(yǔ)料的積累，中國(guó)電信目前已經(jīng)完成了超500TB文本數(shù)據(jù)、12億張圖文數(shù)據(jù)、日采集2PB的視頻數(shù)據(jù)的積累，并且中國(guó)電信作為首家運(yùn)營(yíng)商單位加入中國(guó)大模型語(yǔ)料數(shù)據(jù)聯(lián)盟。

二是參與建設(shè)數(shù)據(jù)要素市場(chǎng)化，中國(guó)電信通過(guò)建設(shè)開(kāi)放共享的隱私計(jì)算平臺(tái)，吸引合作數(shù)據(jù)和技術(shù)伙伴入駐。目前在海南，已協(xié)助市政府構(gòu)建了“數(shù)據(jù)超市產(chǎn)品”，中國(guó)電信作為獨(dú)家運(yùn)營(yíng)方，促成了2000億的數(shù)據(jù)資源匯聚，運(yùn)營(yíng)了超5億的交易項(xiàng)目。

基于基礎(chǔ)大模型，中國(guó)電信進(jìn)一步展現(xiàn)了行業(yè)大模型布局。中國(guó)電信政企信息服務(wù)事業(yè)群總經(jīng)理潘天舒介紹，中國(guó)電信首批試商用12個(gè)行業(yè)大模型，包括星辰教育大模型、治理大模型、政務(wù)服務(wù)大模型、應(yīng)急大模型、醫(yī)保大模型、交通大模型、住建大模型、金融大模型、神農(nóng)一號(hào)大模型、出行大模型、旅游導(dǎo)覽大模型、礦山大模型。

以星辰教育大模型為例，中國(guó)電信基于教育行業(yè)億級(jí)服務(wù)數(shù)據(jù)沉淀，訓(xùn)練出具有國(guó)家中英文作文特級(jí)教師水平的“精準(zhǔn)教學(xué)大模型”，15秒就能完成一篇中英文作文的打分、點(diǎn)評(píng)和改進(jìn)建議讓每一個(gè)學(xué)生每一篇作文都能享受到特級(jí)教師的輔導(dǎo)，教師一場(chǎng)考試作文評(píng)分與點(diǎn)評(píng)時(shí)間由4個(gè)小時(shí)縮短至30分鐘。目前已在河南1.2萬(wàn)師生教學(xué)中應(yīng)用并取得良好的效果。

再如星辰基層治理大模型，主要支撐三大場(chǎng)景：一是矛調(diào)助手，14種矛調(diào)手段智能匹配，讓基層調(diào)解員、尤其是新手在遇到疑難時(shí)能迅速獲得支持，調(diào)解成功率提升2倍以上；

二是法律明白人，為每一名基層調(diào)解員配備了一個(gè)“線上法律顧問(wèn)”；

三是公文助手，支持7大類公文智能輸出，只需10分鐘即可完成原先1小時(shí)的公文報(bào)告;目前已在福州多個(gè)基層社區(qū)上線應(yīng)用。

此外，中國(guó)電信還推出“星辰MaaS生態(tài)服務(wù)平臺(tái)”，為不同客戶提供專屬定制版、通用行業(yè)版和客戶自訓(xùn)練版等三種大模型一站式服務(wù)。同時(shí)在全國(guó)首創(chuàng)推出“智能算力車(chē)”，采用“基礎(chǔ)算力+輕量版天翼云驍平臺(tái)+專用電源車(chē)”模式，滿足了部分客戶數(shù)據(jù)安全管理的規(guī)定，已在雄安新區(qū)等為客戶完成了定制訓(xùn)練

大模型加持，天翼云升級(jí)

大模型不斷擴(kuò)大的參數(shù)規(guī)模和快速迭代的技術(shù)路線，跨越式地提升了模型的能力，但是同時(shí)也為大模型的訓(xùn)練和應(yīng)用帶來(lái)了很多挑戰(zhàn)。比如算力利用率的瓶頸日益凸顯、算力成本壓力進(jìn)一步增大、模型的構(gòu)建難度不斷提升，模型的行業(yè)落地更加復(fù)雜。

天翼云公司總經(jīng)理胡志強(qiáng)表示，大模型對(duì)于云服務(wù)商提出了新要求，天翼云也全面升級(jí)，構(gòu)建了全棧大模型智算服務(wù)，包括打造智算數(shù)據(jù)中心AIDC、升級(jí)云智超一體化基礎(chǔ)設(shè)施平臺(tái)“云驍”、推出一站式智算服務(wù)平臺(tái)“慧聚”，構(gòu)建國(guó)云大模型生態(tài)，形成云智一體的智算服務(wù)體系。

智算基礎(chǔ)設(shè)施是整個(gè)體系的基石，針對(duì)AI高強(qiáng)度運(yùn)算帶來(lái)的散熱問(wèn)題，天翼云推出了液冷DC艙，融合定制化液冷智算服務(wù)器，實(shí)現(xiàn)低至1.12的PUE。

“云驍”升級(jí)成為云智超一體化基礎(chǔ)設(shè)施服務(wù)平臺(tái)，構(gòu)建了高性能RoCE網(wǎng)絡(luò)、并行文件存儲(chǔ)等服務(wù)，重點(diǎn)提升訓(xùn)練加速、網(wǎng)絡(luò)加速等核心能力，同時(shí)升級(jí)了運(yùn)維體系，實(shí)現(xiàn)對(duì)基礎(chǔ)設(shè)施的全面故障預(yù)測(cè)和感知。

在國(guó)產(chǎn)化方面，云驍平臺(tái)率先在公有云加載天翼云RoCE網(wǎng)絡(luò)+國(guó)產(chǎn)GPU方案并實(shí)現(xiàn)商用。

在平臺(tái)層，天翼云全新發(fā)布大模型一站式智算服務(wù)平臺(tái)“慧聚”，構(gòu)建一站式全鏈路的大模型生產(chǎn)應(yīng)用的流水線，能夠大幅降低大模型訓(xùn)練、微調(diào)、部署、推理的門(mén)檻，讓客戶能夠更專注于模型升級(jí)和應(yīng)用落地。

據(jù)了解，慧聚平臺(tái)成功突破了算子加速、模型并行、斷點(diǎn)續(xù)訓(xùn)等技術(shù)難點(diǎn)，將高性能計(jì)算能力、分布式算力調(diào)度能力、訓(xùn)練和推理多環(huán)節(jié)加速技術(shù)、高性能數(shù)據(jù)存儲(chǔ)技術(shù)進(jìn)行封裝;實(shí)現(xiàn)了萬(wàn)卡集群調(diào)度，穩(wěn)定性、訓(xùn)練推理速度等核心指標(biāo)大幅提升。

慧聚平臺(tái)內(nèi)置數(shù)據(jù)平臺(tái)、模型訓(xùn)練平臺(tái)、模型服務(wù)平臺(tái)和應(yīng)用服務(wù)平臺(tái)四大平臺(tái)，提供數(shù)據(jù)準(zhǔn)備、模型開(kāi)發(fā)、任務(wù)管理、模型優(yōu)化等七大主要產(chǎn)品功能模塊，每個(gè)功能模塊又包含多級(jí)組件，功能與組件之間可以靈活組裝，幫助用戶打造針對(duì)不同場(chǎng)景的專屬工具集。

“天衍”量子計(jì)算云平臺(tái)發(fā)布

目前，中國(guó)是唯一在超導(dǎo)量子和光量子兩種物理體系上都實(shí)現(xiàn)“量子計(jì)算優(yōu)越性”的國(guó)家。如何將這些科研成果落地到實(shí)際場(chǎng)景中，推動(dòng)科技變革、產(chǎn)業(yè)革命，在未來(lái)10年，量子計(jì)算云平臺(tái)、超量融合將是量子計(jì)算走向?qū)嵱没闹髁餍问健?/p>

中電信量子信息科技集團(tuán)有限公司總經(jīng)理呂品介紹，中國(guó)電信的“天衍”量子計(jì)算云平臺(tái)，實(shí)現(xiàn)了“天翼云”超算算力和176個(gè)超導(dǎo)量子比特算力的融合，是具備“量子優(yōu)越性”能力的超量融合云平臺(tái)。

云平臺(tái)基于超量混合云架構(gòu)，提供量子云操作系統(tǒng)、量子計(jì)算編譯、量子計(jì)算模擬、圖形化編程等核心能力，實(shí)現(xiàn)了超算和量子計(jì)算在云上混合調(diào)度，降低了量子計(jì)算機(jī)的使用門(mén)檻。這將加速量子計(jì)算助力量子化學(xué)研究、新藥新材料開(kāi)發(fā)、能源氣象模擬等場(chǎng)景，對(duì)推動(dòng)量子計(jì)算走向?qū)嵱没兄匾囊饬x。

呂品表示，天衍具備四大核心優(yōu)勢(shì)：首先，“天衍”平臺(tái)對(duì)接的超導(dǎo)量子計(jì)算機(jī)，在處理隨機(jī)線路取樣等特定問(wèn)題上，速度比目前最快的超算快1000萬(wàn)倍，真正實(shí)現(xiàn)了量子計(jì)算優(yōu)越性;

其次，這是一款完全自主可控的量子云平臺(tái)，實(shí)現(xiàn)了從真機(jī)到操控系統(tǒng)到編譯軟件全部國(guó)產(chǎn)化;

第三，量子計(jì)算未來(lái)有望在應(yīng)用場(chǎng)景模擬上指數(shù)級(jí)提升計(jì)算速率，實(shí)現(xiàn)超量協(xié)同;

第四，中國(guó)電信攜手超過(guò)兩千家天翼云生態(tài)合作伙伴和20家量子計(jì)算生態(tài)伙伴，打造量子計(jì)算生態(tài)聯(lián)盟，共同推進(jìn)量子科技的發(fā)展。

據(jù)悉，中國(guó)電信將持續(xù)致力于量子計(jì)算云平臺(tái)的性能提升，到2025年，接入不低于五百量子比特的量子計(jì)算機(jī);到2030年，平臺(tái)將對(duì)接不低于1萬(wàn)量子比特的超級(jí)量子計(jì)算機(jī)。

（本文首發(fā)鈦媒體APP 作者｜張帥，歡迎添加作者mr3right交流）

763人已贊賞 >

敬原創(chuàng)，有鈦度，得贊賞

贊賞支持

0

5

0

掃描下載App