免费看在线a黄视频|99爽99操日韩毛片儿|91停婷在线无码观看|日韩三级片小视频|一级黄片免费播放|欧美成人视频网站导航|亚洲日韩欧美七区|国产视频在线观看91|人成视频免费在线播放|国产精品成人在线免费观看

小欣：這節(jié)課，于洋老師會(huì)為我們講解企業(yè)應(yīng)該選擇專用集群還是通用集群。

于洋：深度學(xué)習(xí)的專用集群地球上沒有幾個(gè)企業(yè)能真正玩得起。比如說百度的機(jī)器翻譯系統(tǒng)，可能會(huì)用32塊K40的GPU做十天左右的訓(xùn)練；谷歌的機(jī)器翻譯用了96塊K80做GPU訓(xùn)練；AlphaGo其實(shí)用了50塊GPU訓(xùn)練了一個(gè)月。這些昂貴的使用成本是初創(chuàng)企業(yè)所不能承受的也是不應(yīng)該承受的。

為什么像百度、谷歌或者微軟之類的大公司可以承受這樣成本呢？其實(shí)原因比較簡(jiǎn)單的，這些公司深度學(xué)習(xí)在產(chǎn)品線里應(yīng)用是比較廣的。

大家如果調(diào)試過深度學(xué)習(xí)任務(wù)就可以很明顯知道，深度學(xué)習(xí)任務(wù)是有一定的資源使用周期。比如在實(shí)驗(yàn)剛開始的時(shí)候用戶可能從大量的數(shù)據(jù)中采樣出一個(gè)小的樣本集合，在這個(gè)小的樣本集合里調(diào)通一個(gè)比較好的模型。

在這個(gè)階段機(jī)器的使用量其實(shí)是不大的，可能只有單臺(tái)機(jī)器或者幾塊顯卡。之后為了驗(yàn)證這個(gè)模型的效果，可能會(huì)將全量的數(shù)據(jù)進(jìn)行線下的訓(xùn)練也就是用一個(gè)專用的深度學(xué)習(xí)集群去做訓(xùn)練，在這個(gè)階段可能會(huì)提交幾十到上百個(gè)計(jì)算機(jī)機(jī)器的訓(xùn)練任務(wù)，這些機(jī)器每一臺(tái)都可能有數(shù)塊顯卡。

用戶的模型在線下訓(xùn)練中得以驗(yàn)證正確，在大數(shù)據(jù)集上可以再對(duì)模型進(jìn)行一些精細(xì)化調(diào)整從而將模型打造成可以用來做線上預(yù)測(cè)的狀態(tài)。

線上預(yù)測(cè)時(shí)使用的機(jī)器數(shù)量明顯要少于訓(xùn)練時(shí)的機(jī)器數(shù)量，這是因?yàn)轭A(yù)測(cè)的時(shí)候其實(shí)不需要將神經(jīng)網(wǎng)絡(luò)的前饋和反饋全跑一遍，也不需要去反復(fù)的跑訓(xùn)練集。

在這個(gè)預(yù)測(cè)模型上線之后，收集到用戶提供的新的數(shù)據(jù)和真實(shí)的反饋。我們將這些日志進(jìn)行收集從而進(jìn)行一些增量訓(xùn)練，進(jìn)而讓我們的模型越來越好。在增量訓(xùn)練之后就是更新預(yù)測(cè)模型、預(yù)測(cè)和增量訓(xùn)練的再一個(gè)循環(huán)過程。

可以看到一個(gè)初創(chuàng)企業(yè)如果只有少數(shù)的幾個(gè)深度學(xué)習(xí)任務(wù)，由于深度學(xué)習(xí)任務(wù)的周期性專用的深度學(xué)習(xí)集群一定不會(huì)有非常高的使用率，大體上能有20%的使用率就已經(jīng)很不錯(cuò)了。

針對(duì)創(chuàng)業(yè)創(chuàng)新的人員，其實(shí)部署一個(gè)專用的AI集群成本是非常高的，然而使用率是非常低的。專用的AI集群在我們看來只適合于大型的互聯(lián)網(wǎng)公司。而且這個(gè)互聯(lián)網(wǎng)公司要有多種多樣的AI業(yè)務(wù)。如果有少量的AI業(yè)務(wù)的公司或者是初創(chuàng)型企業(yè)，我們推薦使用通用集群去做深度學(xué)習(xí)的訓(xùn)練集群。

小欣：下節(jié)課，于洋老師會(huì)為我們講解通用AI集群的搭建方法。

【版權(quán)歸鈦媒體所有，未經(jīng)許可不得轉(zhuǎn)載】