免费看在线a黄视频|99爽99操日韩毛片儿|91停婷在线无码观看|日韩三级片小视频|一级黄片免费播放|欧美成人视频网站导航|亚洲日韩欧美七区|国产视频在线观看91|人成视频免费在线播放|国产精品成人在线免费观看

小欣：這節(jié)課，羅恒老師會(huì)為我們講解深度學(xué)習(xí)的門檻是否在降低。

羅恒：從我的角度和我的感覺來說：是的，應(yīng)用深度學(xué)習(xí)的門檻是在降低，而且是在非常迅速的降低。

首先是開發(fā)的門檻現(xiàn)在基本消失了。像我剛開始做深度學(xué)習(xí)研究的時(shí)候，代碼都要自己寫。我是在Matlab下面做實(shí)驗(yàn)，有的時(shí)候如何使用Matlab也需要很多的技巧才能使得程序高效起來。而現(xiàn)在這些全部都不是問題了，當(dāng)你需要應(yīng)用深度學(xué)習(xí)的時(shí)候不需要了解各種算法實(shí)現(xiàn)的細(xì)節(jié)，也不需要擔(dān)心性能的優(yōu)化甚至不需要擔(dān)心編程語言，像比如說MXnet、TensorFlow還有Paddlepaddle都能支持各種各樣的語言的接口。你可以用你喜歡的語言做非常簡單的高層的、高效的深度學(xué)習(xí)應(yīng)用的開發(fā)，而把后面的優(yōu)化、性能交給專家去考慮。

同時(shí)，深度學(xué)習(xí)是一個(gè)非常開放的學(xué)術(shù)圈。大家都非常樂意公開論文實(shí)驗(yàn)的代碼，往往一篇論文一出來，誰都可以利用他的代碼來完美的復(fù)現(xiàn)實(shí)驗(yàn)，迅速地站上巨人的肩膀。深度學(xué)習(xí)系統(tǒng)的開發(fā)的門檻現(xiàn)在已經(jīng)基本消失了。

另外一個(gè)門檻過去網(wǎng)上討論的也很多，就是所謂的調(diào)參。這個(gè)的門檻現(xiàn)在也在消失之中。深度學(xué)習(xí)曾經(jīng)充滿了各種各樣的小技巧，為什么說是技巧呢？因?yàn)樗鼜睦碚撋现v不清，同時(shí)有時(shí)候有效、有時(shí)候沒有效，而應(yīng)用又往往需要依賴于使用者的經(jīng)驗(yàn)。

當(dāng)年一篇論文出來、一個(gè)新的結(jié)果出來，別人想復(fù)現(xiàn)都非常困難，因?yàn)檫@里面牽扯著不同的代碼實(shí)現(xiàn)還有大量的超參數(shù)。有時(shí)候是作者有意回避、有時(shí)候也是限于論文的篇幅，很難事無巨細(xì)的把所有的實(shí)現(xiàn)的細(xì)節(jié)都講進(jìn)去，甚至有時(shí)候有些作者都沒有意識到真正起作用的東西可能就是在他忽略的一些細(xì)節(jié)里面。如今隨著一些Batch Normalization、Adam之類的新技術(shù)出現(xiàn)，訓(xùn)練神經(jīng)網(wǎng)絡(luò)變得非常的容易。

最近幾年深度學(xué)習(xí)的一些進(jìn)展比如說在ImageNet上的一些突破，其實(shí)就是在于一些新的網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)，而且在實(shí)踐中大家也發(fā)現(xiàn)除了數(shù)據(jù)之外，一個(gè)合理的設(shè)計(jì)良好的網(wǎng)絡(luò)往往能夠帶來很大的收益。這個(gè)情況現(xiàn)在也正在慢慢的改變，首先就是網(wǎng)絡(luò)結(jié)構(gòu)在慢慢的固定。

大家可以發(fā)現(xiàn)近一年來，已經(jīng)沒有太大的新的結(jié)構(gòu)、新的突破出現(xiàn)了，基本上大家就會(huì)使用ResNet，表現(xiàn)的都很好而且似乎這些網(wǎng)絡(luò)也都有一定的普適性。也就是說盡管這些網(wǎng)絡(luò)都是針對ImageNet設(shè)計(jì)的，但是實(shí)際上在其他的一些數(shù)據(jù)集上、在其他一些視覺任務(wù)上表現(xiàn)的都不錯(cuò)。另外一個(gè)好處就是這些網(wǎng)絡(luò)在各種的開源平臺(tái)上都有實(shí)現(xiàn)，而且有相應(yīng)的實(shí)驗(yàn)的結(jié)果，大家非常方便的可以拿來改造、復(fù)用。

小欣：下節(jié)課，羅恒老師會(huì)為我們講解深度學(xué)習(xí)可能出現(xiàn)的新門檻。

【版權(quán)歸鈦媒體所有，未經(jīng)許可不得轉(zhuǎn)載】