圖2

目前主要有兩種度量模型深度的方式。一種方式是基于評(píng)估架構(gòu)所需執(zhí)行的順序指令的數(shù)目。假設(shè)我們將模型表示為給定輸入后，計(jì)算對(duì)應(yīng)輸出的流程圖，則可以將這張流程圖中的最長(zhǎng)路徑視為模型的深度。正如兩個(gè)使用不同語(yǔ)言編寫(xiě)的等價(jià)程序?qū)⒕哂胁煌拈L(zhǎng)度，相同的函數(shù)可以被繪制為具有不同深度的流程圖，其深度取決于我們可以用來(lái)作為一個(gè)步驟的函數(shù)。圖3 說(shuō)明了語(yǔ)言的選擇如何給相同的架構(gòu)兩個(gè)不同的衡量。

圖3

另一種是在深度概率模型中使用的方法，它不是將計(jì)算圖的深度視為模型深度，而是將描述概念彼此如何關(guān)聯(lián)的圖的深度視為模型深度。在這種情況下，計(jì)算每個(gè)概念表示的計(jì)算流程圖的深度可能比概念本身的圖更深。這是因?yàn)橄到y(tǒng)對(duì)較簡(jiǎn)單概念的理解在給出更復(fù)雜概念的信息后可以進(jìn)一步精細(xì)化。例如，一個(gè) AI 系統(tǒng)觀(guān)察其中一只眼睛在陰影中的臉部圖像時(shí)，它最初可能只看到一只眼睛。但當(dāng)檢測(cè)到臉部的存在后，系統(tǒng)可以推斷第二只眼睛也可能是存在的。在這種情況下，概念的圖僅包括兩層 (關(guān)于眼睛的層和關(guān)于臉的層)，但如果我們細(xì)化每個(gè)概念的估計(jì)將需要額外的 n 次計(jì)算，那么計(jì)算的圖將包含 2n 層。

由于并不總是清楚計(jì)算圖的深度和概率模型圖的深度哪一個(gè)是最有意義的，并且由于不同的人選擇不同的最小元素集來(lái)構(gòu)建相應(yīng)的圖，所以就像計(jì)算機(jī)程序的長(zhǎng)度不存在單一的正確值一樣，架構(gòu)的深度也不存在單一的正確值。另外，也不存在模型多么深才能被修飾為“深” 的共識(shí)。但相比傳統(tǒng)機(jī)器學(xué)習(xí)，深度學(xué)習(xí)研究的模型涉及更多學(xué)到功能或?qū)W到概念的組合，這點(diǎn)毋庸置疑。

總之，這本書(shū)的主題 —— 深度學(xué)習(xí)是通向人工智能的途徑之一。具體來(lái)說(shuō)，它是機(jī)器學(xué)習(xí)的一種，一種能夠使計(jì)算機(jī)系統(tǒng)從經(jīng)驗(yàn)和數(shù)據(jù)中得到提高的技術(shù)。我們堅(jiān)信機(jī)器學(xué)習(xí)可以構(gòu)建出在復(fù)雜實(shí)際環(huán)境下運(yùn)行的 AI 系統(tǒng)，并且是唯一切實(shí)可行的方法。深度學(xué)習(xí)是一種特定類(lèi)型的機(jī)器學(xué)習(xí)，具有強(qiáng)大的能力和靈活性，它將大千世界表示為嵌套的層次概念體系 (由較簡(jiǎn)單概念間的聯(lián)系定義復(fù)雜概念、從一般抽象概括到高級(jí)抽象表示)。

下圖4 說(shuō)明了這些不同的 AI 學(xué)科之間的關(guān)系。

下圖5 展示了每個(gè)學(xué)科如何工作的高層次原理。

圖4:維恩圖展示了深度學(xué)習(xí)既是一種表示學(xué)習(xí)，也是一種機(jī)器學(xué)習(xí)，可以用于許多 (但不是全部)AI 方法。維恩圖的每個(gè)部分包括一個(gè) AI 技術(shù)的實(shí)例

圖5:流程圖展示了 AI 系統(tǒng)的不同部分如何在不同的 AI 學(xué)科中彼此相關(guān)。陰影框表示能從數(shù)據(jù)中學(xué)習(xí)的組件

【鈦媒體作者介紹：本文節(jié)選自《深度學(xué)習(xí)》一書(shū)，作者Ian Goodfellow、Yoshua Bengio、Aaron Courville】

• 企業(yè)管理相關(guān)好書(shū)推薦：http://www.chcmb.cn/2678549.html

• 歷史哲學(xué)相關(guān)好書(shū)推薦：http://www.chcmb.cn/2660382.html

• 思維方式相關(guān)好書(shū)推薦：http://www.chcmb.cn/2652821.html

763人已贊賞 >

敬原創(chuàng)，有鈦度，得贊賞

贊賞支持

0

1

0

掃描下載App