自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

AI 初學(xué)者入門指南:深度學(xué)習(xí)的五級(jí)分類

大數(shù)據(jù)
最基本的 AI 類型,無(wú)法產(chǎn)生記憶,不能利用過(guò)去的經(jīng)驗(yàn)做決策。它們是“專才”而非“通才”,為完成特定任務(wù)所設(shè)計(jì),不能勝任其他任務(wù)。

目前 AI 被籠統(tǒng)劃分為“弱人工智能”、“強(qiáng)人工智能”、“超人工智能”三個(gè)類別。甚至在很多業(yè)內(nèi)專家(比如洪小文)眼中,只有“強(qiáng)”、“弱”AI 的區(qū)別,因?yàn)?ldquo;超人工智能”離我們實(shí)在還很遠(yuǎn),難以捉摸。這樣的籠統(tǒng)分類顯然不利于大眾對(duì)于各項(xiàng) AI 技術(shù)進(jìn)行認(rèn)識(shí)和理解。因此,一些專家開(kāi)始提出基于技術(shù)難度和 AI 智能水平的分類、分級(jí)方法。

其中,美國(guó)學(xué)者 Arend Hintze 提出了對(duì) AI 的四級(jí)分類, 而最近,Intuition Machine 聯(lián)合創(chuàng)始人 Carlos Perez 又提出了針對(duì)深度學(xué)習(xí)的五級(jí)分類。這些分類方法對(duì)各層次 AI 技術(shù)進(jìn)行了簡(jiǎn)單的歸類,有助于初學(xué)者更好地認(rèn)識(shí) AI 。

上個(gè)月,密歇根州立大學(xué)副教授 Arend Hintze 發(fā)表了一篇很有價(jià)值的短文章《理解 AI 的四種類別:從響應(yīng)式機(jī)器到有自我意識(shí)的存在》( “Understanding the four types of AI, from reactive robots to self-aware beings” )。文中,他提出了對(duì) AI 的四級(jí)分類:

響應(yīng)式

這是最基本的 AI 類型,無(wú)法產(chǎn)生記憶,不能利用過(guò)去的經(jīng)驗(yàn)做決策。它們是“專才”而非“通才”,為完成特定任務(wù)所設(shè)計(jì),不能勝任其他任務(wù)。

有限記憶

當(dāng)前行為能夠參考剛剛發(fā)生的事件。但記憶是瞬時(shí)的——無(wú)法用于未來(lái)決策。

心智理論( Theory of mind)

這是一個(gè)心理學(xué)術(shù)語(yǔ),意思是能根據(jù)他人行為,推導(dǎo)、并理解他們的想法和動(dòng)機(jī)。這一類型的 AI 能夠歸納出周圍環(huán)境、和與之交互的其他代理的“表征”( representations,AI 術(shù)語(yǔ),詳見(jiàn)“表示學(xué)習(xí)”)。

自我意識(shí)

AI 的終極課題。目前對(duì)于它的描述大都是猜想。

對(duì)此,AI 專家 Carlos Perez 表示,他喜歡這個(gè)四分類法遠(yuǎn)遠(yuǎn)超過(guò)目前廣泛使用的“強(qiáng)人工智能 vs 弱人工智能”二分類法(ps:或者再加上“超人工智能”成為第三個(gè)類別)。Arend Hintze 的方法把弱 AI 分為三個(gè)類別(響應(yīng)式,有限記憶,心智理論),這給了我們更多概念,來(lái)區(qū)分不同的 AI 應(yīng)用。但 Carlos Perez 又評(píng)論道,該分類法似乎來(lái)自于 “GOFAI” 思路(老式 AI),潛臺(tái)詞是它已經(jīng)過(guò)時(shí)了;另外,從有限記憶、能夠使用部分過(guò)去記憶做決策到心智理論,這步子邁得太大了。

于是,Carlos Perez 提出了他自己的 AI 分類方式,按能力把 AI 劃分為五個(gè)級(jí)別。他表示,該分類法主要針對(duì)深度學(xué)習(xí),希望對(duì) AI 從業(yè)者來(lái)說(shuō)更細(xì)致、更有用。它能幫我們看清楚 AI 目前在哪個(gè)階段,以及將來(lái)會(huì)走向何方。

Perez 表示:“對(duì)當(dāng)前 AI 技術(shù)進(jìn)行評(píng)估,我們?nèi)鄙僖粋€(gè)好的概念框架。這可能只是由于大多數(shù) AI 評(píng)論人無(wú)法跟上最新的深度學(xué)習(xí)進(jìn)展——需要讀的東西太多,而且最新發(fā)現(xiàn)不停刷新我們現(xiàn)在對(duì) AI 的理解。”

我們來(lái)看看 Perez 針對(duì)深度學(xué)習(xí)能力的 AI 分類:

1. 只能分類的系統(tǒng)(ANNs/DL) Classification Only

該級(jí)別包含全連接神經(jīng)網(wǎng)絡(luò)( fully connected neural network ,F(xiàn)CN),卷積神經(jīng)網(wǎng)絡(luò)(convolution network,CNN)和它們之間的各種組合。這些系統(tǒng)把一個(gè)高維度矢量作為輸入,得到單個(gè)結(jié)果,一般是對(duì)輸入矢量的分類。

你可以把這些系統(tǒng)看成無(wú)狀態(tài)函數(shù),意味著它們的行為只是一個(gè)針對(duì)當(dāng)前輸入的函數(shù)。一個(gè)熱門研究領(lǐng)域——生成模型,就屬于該類別。簡(jiǎn)單來(lái)講,這些系統(tǒng)憑它們自己是十分強(qiáng)大的。

2. 使用記憶分類的系統(tǒng) Classification with Memory (CM)

這個(gè)級(jí)別包含 “C 層”網(wǎng)絡(luò)中整合的記憶因素。LSTM 就是一個(gè)例子:記憶單位嵌入在 LSTM 節(jié)點(diǎn)中。其它類似的變形還有,神經(jīng)圖靈機(jī)器 (NMT) 和 DeepMind 的可微分神經(jīng)計(jì)算機(jī)(DNC)。在對(duì)行為進(jìn)行計(jì)算時(shí),這些系統(tǒng)會(huì)維持狀態(tài)恒定。

3. 使用知識(shí)分類的系統(tǒng) Classification with Knowledge (CK)

該級(jí)別與 CM 有些相似。但 C 層網(wǎng)絡(luò)能獲取的信息不是原始內(nèi)存,而是符號(hào)化的知識(shí)庫(kù)(symbolic knowledge base)。我們獲知,事實(shí)上 Carlos Perez 就發(fā)現(xiàn)了三種符號(hào)化整合:1. 轉(zhuǎn)移學(xué)習(xí)方式( transfer learning approach);2. 自上而下方式 ;3. 自下而上方式。第一種方式用一個(gè)符號(hào)化系統(tǒng)作為正則化矩陣(regularizer)。第二種方式在神經(jīng)表征底層的最上層加入了符號(hào)化元素。第三種方式跟這相反,C 層網(wǎng)絡(luò)直接與符號(hào)化知識(shí)庫(kù)關(guān)聯(lián)。

4. 使用有限知識(shí)的分類 Classification with Imperfect Knowledge (CIK)

在這個(gè)級(jí)別,系統(tǒng)直接建立在 CK 之上,但是,它已能夠使用不完美的信息做推理。這類系統(tǒng)的代表是 Alpha Go。只是 Alpha Go 采用的不是 CK 而是 CM 級(jí)別的能力。正如 Alpha Go,這類系統(tǒng)能通過(guò)與自身的對(duì)抗模擬來(lái)訓(xùn)練自己。

5. 能使用有限知識(shí)協(xié)作分類的系統(tǒng) Collaborative Classification with Imperfect Knowledge (CCIK)

這個(gè)級(jí)別和 Arend Hintze 的“心智理論”類別十分近似,多個(gè)代理神經(jīng)網(wǎng)絡(luò)聯(lián)合起來(lái)解決問(wèn)題。這些系統(tǒng)被設(shè)計(jì)來(lái)完成多項(xiàng)目標(biāo)。我們其實(shí)可以在對(duì)抗網(wǎng)絡(luò)中運(yùn)行它的原始版本:與判別器和生成網(wǎng)絡(luò)一起學(xué)習(xí)歸納。在博弈論驅(qū)動(dòng)的、能戰(zhàn)略戰(zhàn)術(shù)性解決多重問(wèn)題的網(wǎng)絡(luò)上應(yīng)用該概念,就能得到高度靈活的系統(tǒng)。但是,我們現(xiàn)在還達(dá)不到這個(gè)水平,前面那些級(jí)別仍需要很多研究來(lái)完善。

Perez 五級(jí)分類法的根據(jù):

每一層級(jí)別,都帶來(lái)了上個(gè)級(jí)別沒(méi)有的新能力。 比方說(shuō),C 層系統(tǒng)只能預(yù)測(cè)反因果關(guān)系(anti-causal relationships)。 CM 級(jí)別的系統(tǒng)能完成不錯(cuò)的翻譯。CIK 級(jí)別系統(tǒng)能玩戰(zhàn)略游戲。

我們可以看出,除了沒(méi)有“自我意識(shí)”級(jí)別,這個(gè)分類法和 Hinzte 四級(jí)分類高度相似。在這些“基礎(chǔ)”級(jí)別全部達(dá)到之前,Carlos Perez 不準(zhǔn)備探討自我意識(shí)。這個(gè)分類同樣沒(méi)有提到零樣本學(xué)習(xí)(zero-shot learning)、一步學(xué)習(xí)(one-shot learning)或者無(wú)監(jiān)督學(xué)習(xí)。據(jù)悉,后者仍然是 AI 基礎(chǔ)挑戰(zhàn)之一。正如 大牛 Yann LeCun 所形容:

“假設(shè)機(jī)器學(xué)習(xí)是一個(gè)蛋糕,強(qiáng)化學(xué)習(xí)是蛋糕上的一粒櫻桃,監(jiān)督學(xué)習(xí)是外面的一層糖衣,無(wú)監(jiān)督學(xué)習(xí)則是蛋糕糕體。我們知道怎么做糖衣和櫻桃,但不知道怎么把糕體做出來(lái)。”

在最近的演講里,Yann LeCun 開(kāi)始用預(yù)測(cè)學(xué)習(xí)(predictive learning)來(lái)替代無(wú)監(jiān)督學(xué)習(xí)。這是一個(gè)很有意思的轉(zhuǎn)變:它展示出 LeCun 在如何做蛋糕這個(gè)問(wèn)題上,觀點(diǎn)發(fā)生了微妙變化。在他眼里,這是 AI 技術(shù)大幅進(jìn)步所必需的基礎(chǔ)。換句話說(shuō),在建設(shè)好預(yù)測(cè)學(xué)習(xí)的地基之前,在現(xiàn)有監(jiān)督學(xué)習(xí)的基礎(chǔ)上加入更多記憶、知識(shí)庫(kù)、協(xié)作代理這些能力會(huì)十分困難。

在最近的 NIPS 2016 大會(huì)上,LeCun 展示了這幅 PPT:

這列出了 AI 進(jìn)步的主要障礙:

機(jī)器需要學(xué)習(xí)世界運(yùn)作的方式

AI 要學(xué)習(xí)海量背景知識(shí)

機(jī)器需要能夠感知環(huán)境的狀況

機(jī)器需要更新并記憶環(huán)境的狀況

機(jī)器需要學(xué)習(xí)和計(jì)劃

智能和常識(shí)等于:感知+預(yù)測(cè)模型+記憶+推理和計(jì)劃

這些能力在反饋回路里用到時(shí),都利用了加速器技術(shù)。我們其實(shí)在現(xiàn)在的研究中看到過(guò)這類元學(xué)習(xí)(meta-learning)或是學(xué)習(xí)優(yōu)化(learning to optimize)。元學(xué)習(xí)技術(shù)帶來(lái)的主要啟示是:當(dāng)我們能訓(xùn)練機(jī)器找出用其它方法找不出的解決方案,研究方法會(huì)變得更強(qiáng)大。

責(zé)任編輯:武曉燕 來(lái)源: 網(wǎng)絡(luò)大數(shù)據(jù)
相關(guān)推薦

2020-08-16 13:10:46

TensorFlow深度學(xué)習(xí)數(shù)據(jù)集

2022-04-24 15:21:01

MarkdownHTML

2024-12-25 08:00:00

機(jī)器學(xué)習(xí)ML管道人工智能

2023-10-14 17:21:53

Scala編程

2011-08-24 17:05:01

Lua

2022-10-10 15:28:45

負(fù)載均衡

2021-05-10 08:50:32

網(wǎng)絡(luò)管理網(wǎng)絡(luò)網(wǎng)絡(luò)性能

2022-03-28 09:52:42

JavaScript語(yǔ)言

2023-07-28 07:31:52

JavaScriptasyncawait

2023-07-03 15:05:07

預(yù)測(cè)分析大數(shù)據(jù)

2010-06-13 11:13:38

UML初學(xué)者指南

2022-07-22 13:14:57

TypeScript指南

2022-01-21 09:05:34

機(jī)器學(xué)習(xí)工具安全

2023-11-08 14:27:31

計(jì)算機(jī)視覺(jué)人工智能

2010-08-26 15:47:09

vsftpd安裝

2018-10-28 16:14:55

Reactreact.js前端

2012-03-14 10:56:23

web app

2023-02-10 08:37:28

2022-09-05 15:36:39

Linux日志記錄syslogd

2009-09-28 09:45:00

CCNA學(xué)習(xí)經(jīng)驗(yàn)CCNA
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)