鈦媒體App 3月4日消息,近日,
聯(lián)想集團宣布基于聯(lián)想問天WA7780 G3服務器,在行業(yè)內首次實現(xiàn)單機部署DeepSeek-R1/V3 671B大模型,以低于行業(yè)公認1TGB顯存(實際768GB)承載100并發(fā)用戶流暢體驗。據(jù)聯(lián)想實測數(shù)據(jù)顯示,在512 token標準測試環(huán)境下,該系統(tǒng)可支持100個并發(fā)用戶持續(xù)獲得每秒10 token的穩(wěn)定輸出,首token響應時間壓縮至30秒內。
根據(jù)《網(wǎng)絡安全法》實名制要求,請綁定手機號后發(fā)表評論