小米總部園區(qū)
在小米公司CEO雷軍演講前夕，其研發(fā)的人工智能（AI）大模型產(chǎn)品悄然現(xiàn)身。
鈦媒體App獲悉，8月11日，小米公司開發(fā)的大規(guī)模預(yù)訓(xùn)練語言模型 MiLM-6B/1.3B登陸代碼托管平臺(tái)GitHub，參數(shù)規(guī)模最高達(dá)64億，而且現(xiàn)身在C-Eval、CMMLU基準(zhǔn)評(píng)測(cè)榜單。
截至當(dāng)前，小米大模型MiLM-6B在C-Eval總榜單排名第10、同參數(shù)量級(jí)排名第1，平均分為60.2分，超過了阿里云Qwen-7B、OpenAI研發(fā)的ChatGPT（今年5月數(shù)據(jù)）等，而MiLM-1.3B排行第30名，平均分45.8分，接近谷歌投資的Anthropic公司的Claude 1.0版本大模型。
這是小米大模型產(chǎn)品的首次曝光，也是小米史上首個(gè)GPT大模型產(chǎn)品亮相。
事實(shí)上，隨著ChatGPT風(fēng)靡全球，今年4月14日，小米公司宣布成立小米 AI 實(shí)驗(yàn)室大模型團(tuán)隊(duì)，由欒劍帶隊(duì)向王斌匯報(bào)。據(jù)悉，AI實(shí)驗(yàn)室是小米AI戰(zhàn)略的核心部門，而大模型負(fù)責(zé)人王斌曾在中科院從事了20多年NLP（自然語言處理）相關(guān)的研究和開發(fā)工作，2018年加入小米，2019年起負(fù)責(zé)AI實(shí)驗(yàn)室。
小米CEO雷軍當(dāng)時(shí)表示，公司正在研發(fā)一些技術(shù)和產(chǎn)品，等打磨好了再給大家演示。小米集團(tuán)總裁盧偉冰稱，小米目前擁有超過1200人的AI團(tuán)隊(duì)，會(huì)積極擁抱大模型，與業(yè)務(wù)深度結(jié)合，但不會(huì)像OpenAI一樣。
今年6月，王斌對(duì)外透露，小米會(huì)去自研通用語言大模型，但不會(huì)單獨(dú)發(fā)布一款類ChatGPT產(chǎn)品。他表示，小米第一步的目標(biāo)基座模型參數(shù)在幾百億，而且小米大模型將會(huì)落地小愛同學(xué)、loT、自動(dòng)駕駛、機(jī)器人等現(xiàn)有場(chǎng)景中，并利用豐富的應(yīng)用場(chǎng)景反哺大模型能力。
成立僅僅四個(gè)月后的今天，小米公布了大模型產(chǎn)品——MiLM-6B，并在C-Eval和CMMLU基準(zhǔn)評(píng)測(cè)上均取得同尺寸較好效果。
其中，在C-Eval評(píng)估中，MiLM-6B的平均得分為60.2，在不同學(xué)科和難度級(jí)別（如STEM、社會(huì)科學(xué)、人文學(xué)科等）得分從42分到71.7分不等。在CMMLU評(píng)估中，MiLM-6B在零樣本和五樣本測(cè)試中的平均得分分別為60.37分和57.17分，表現(xiàn)出良好的知識(shí)和推理能力。
據(jù)悉，C-Eval榜單是清華大學(xué)、上海交通大學(xué)和愛丁堡大學(xué)共同構(gòu)建的綜合漢語模型評(píng)估套件，而CMMLU則是綜合漢語模型基準(zhǔn)。
預(yù)計(jì)小米將會(huì)于8月14日舉行2023雷軍年度演講，但目前雷軍暫未透露是否會(huì)發(fā)布MiLM-6B大模型技術(shù)。
鈦媒體App向團(tuán)隊(duì)詢問關(guān)于MiLM-6B/1.3B是否開源、產(chǎn)品是否已經(jīng)落地內(nèi)測(cè)等問題，截至發(fā)稿前暫未得到小米官方回復(fù)。（本文首發(fā)鈦媒體App，作者｜林志佳）
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論
有當(dāng)年網(wǎng)盤大戰(zhàn)那味兒了
通用大模型的研發(fā)現(xiàn)在看來并不光明
還是個(gè)噱頭吧
目測(cè)應(yīng)該還不如文心一言
小米現(xiàn)在也不平價(jià)了
小米也搞大模型
小米務(wù)實(shí)，先干出來再說。