字節(jié)跳動Seed團(tuán)隊(duì)發(fā)布擴(kuò)散語言模型,每秒推理速度2146 tokens
鈦媒體App 7月31日消息,字節(jié)跳動Seed團(tuán)隊(duì)發(fā)布實(shí)驗(yàn)性擴(kuò)散語言模型Seed Diffusion Preview。據(jù)介紹,其目標(biāo)是以結(jié)構(gòu)化的代碼生成為實(shí)驗(yàn)領(lǐng)域,系統(tǒng)性地驗(yàn)證離散擴(kuò)散技術(shù)路線作為下一代語言模型基礎(chǔ)框架的可行性。實(shí)驗(yàn)結(jié)果顯示,Seed Diffusion Preview代碼推理速度可達(dá)到2146 tokens/s,速度相比同等規(guī)模的自回歸模型提升5.4倍。(廣角觀察)
本文內(nèi)容僅供參考,不構(gòu)成投資建議,請謹(jǐn)慎對待。
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求,請綁定手機(jī)號后發(fā)表評論