美國(guó)互聯(lián)網(wǎng)大廠資本開支情況(億美元)，圖表來(lái)源：平安證券
并且未來(lái)推理端算力需求可能遠(yuǎn)超訓(xùn)練端，一方面，DeepSeek R1大幅降低應(yīng)用開發(fā)和部署門檻，AI原生應(yīng)用近期的用戶月活流量持續(xù)增長(zhǎng)。另一方面，Agent與RAG正加速企業(yè)級(jí)AI落地，山西證券指出，隨著A2A、MCP等Agent相關(guān)技術(shù)的不斷成熟，AI Agent應(yīng)用有望逐步爆發(fā)，從而進(jìn)一步推升推理側(cè)算力需求。根據(jù)IDC數(shù)據(jù)，2023年中國(guó)AI服務(wù)器工作負(fù)載中，訓(xùn)練端算力占比為58.7%，但隨著大模型應(yīng)用場(chǎng)景逐漸打開，對(duì)推理算力的需求將持續(xù)擴(kuò)大，預(yù)計(jì)到2027年，推理端算力需求占比將大幅增長(zhǎng)到72.6%。
風(fēng)險(xiǎn)提示：技術(shù)研發(fā)不及預(yù)期；算力和語(yǔ)料等對(duì)發(fā)展速度的限制；商業(yè)化進(jìn)度不及預(yù)期。
快報(bào)
最新文章 