在線服務(wù)資源使用量隨著終端用戶的使用習(xí)慣呈現(xiàn)出穩(wěn)定的潮汐現(xiàn)象，夜間CPU利用率極低，導(dǎo)致集群均值CPU利用率較低；業(yè)務(wù)保有大量的獨(dú)占資源池，資源池割裂產(chǎn)生大量的資源碎片，拉低CPU利用率；業(yè)務(wù)為了穩(wěn)定性考慮，會(huì)過量囤積資源，進(jìn)一步拉低CPU利用率。
解決方案
點(diǎn)擊報(bào)名參與創(chuàng)新場景50的評選
在阿里云的協(xié)助下，小紅書混部技術(shù)經(jīng)歷了四個(gè)階段演進(jìn)：閑置資源再利用、整機(jī)騰挪分時(shí)復(fù)用、常態(tài)混部、統(tǒng)一調(diào)度。
一，通過技術(shù)手段將集群中的閑置資源收集起來，分配給轉(zhuǎn)碼類業(yè)務(wù)場景使用；
二，通過彈性能力(HPA)，在凌晨業(yè)務(wù)低峰期按比例對在線業(yè)務(wù)縮容，騰挪空出整機(jī)，并將轉(zhuǎn)碼、訓(xùn)練等離線pod在該時(shí)段運(yùn)行起來，起到利用率“填谷”的效果；
三，平臺(tái)持續(xù)推進(jìn)業(yè)務(wù)大規(guī)模合池，將業(yè)務(wù)由獨(dú)占池遷至平臺(tái)托管的公共混部池，通過合池、資源超賣等技術(shù)手段，CPU分配率得到有效提升，同時(shí)通過建設(shè)更為細(xì)粒度的資源管理與調(diào)度能力來實(shí)現(xiàn)均值利用率提升的目標(biāo)；
四，混合云架構(gòu)的統(tǒng)一調(diào)度來管理異構(gòu)計(jì)算資源，并支持各類業(yè)務(wù)形態(tài)的工作負(fù)載調(diào)度能力。
成效
通過大規(guī)模容器混部的持續(xù)推進(jìn)，小紅書在資源成本效能上有顯著改善。
在CPU利用率方面，在線混部集群天均CPU利用率提升至45%以上，部分集群天均CPU利用率可穩(wěn)定提升至55%。在線集群CPU利用率提升8%-15%不等，部分存儲(chǔ)集群利用率提升可達(dá)20%以上。在資源成本方面，為小紅書各類離線場景提供數(shù)百萬核時(shí)的低成本算力。混部集群CPU分配率提升至125%以上，相較于獨(dú)占資源池，資源碎片率明顯下降。
「關(guān)于創(chuàng)新場景50」
場景不是案例，它更加精準(zhǔn)、也更加抽象。數(shù)字化就是創(chuàng)新場景的不斷疊加和迭代。
在此背景下，鈦媒體重磅推出「創(chuàng)新場景50」評選，每年遴選并解讀50個(gè)全行業(yè)與業(yè)務(wù)深度融合的創(chuàng)新性場景及其解決方案，并在鈦媒體年度ITValue Summit 數(shù)字價(jià)值年會(huì)上隆重頒獎(jiǎng)、深度交流。
目前場景正在征集中，更精準(zhǔn)的解讀、更廣泛的曝光、更強(qiáng)大的品牌勢能，歡迎你提出問題，更歡迎你留下解決的方法和工具。點(diǎn)擊這里投遞更多場景信息
點(diǎn)擊進(jìn)入2024 ITValue Summit數(shù)字價(jià)值年會(huì)，了解更多信息。
本文系作者
創(chuàng)新場景助理 授權(quán)鈦媒體發(fā)表，并經(jīng)鈦媒體編輯，轉(zhuǎn)載請注明出處、作者和
本文鏈接。
本內(nèi)容來源于鈦媒體鈦度號，文章內(nèi)容僅供參考、交流、學(xué)習(xí)，不構(gòu)成投資建議。
想和千萬鈦媒體用戶分享你的新奇觀點(diǎn)和發(fā)現(xiàn)，
點(diǎn)擊這里投稿 。創(chuàng)業(yè)或融資尋求報(bào)道，
點(diǎn)擊這里。
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請綁定手機(jī)號后發(fā)表評論