AI能將一根香蕉照片識(shí)別成一臺(tái)烤面包機(jī)，盡管AI在訓(xùn)練階段可能被展示了數(shù)千張香蕉、蛞蝓、蝸牛以及其他類(lèi)似物體的照片，就像抽認(rèn)卡一般，讓AI反復(fù)練習(xí)，直到完全掌握分類(lèi)為止。

但是，即便是成千上萬(wàn)次訓(xùn)練，這個(gè)先進(jìn)的系統(tǒng)也很容易被搞糊涂——只需要將一張小小的貼紙放到圖像的某個(gè)角落，就會(huì)改變識(shí)別結(jié)果。

缺乏可解釋性是另一個(gè)突出的問(wèn)題，一旦深度學(xué)習(xí)系統(tǒng)被訓(xùn)練完，它是如何做出決定的就不總是那么清楚了。MIT- IBM 沃森人工智能實(shí)驗(yàn)室負(fù)責(zé)人、計(jì)算神經(jīng)學(xué)家David Cox說(shuō)：“在很多情況下，不透明問(wèn)題是不可接受的，即使它得到了正確的答案。”

假設(shè)一家銀行使用AI來(lái)評(píng)估你的信用等級(jí)，然后拒絕給你貸款，并且說(shuō)不清楚拒絕的原因，你會(huì)覺(jué)得合理嗎？

AI的這些弱點(diǎn)越來(lái)越多地引起人們的擔(dān)憂，尤其是自動(dòng)駕駛方面。自動(dòng)駕駛汽車(chē)使用類(lèi)似的深度學(xué)習(xí)系統(tǒng)進(jìn)行導(dǎo)航，已經(jīng)出現(xiàn)了幾起廣為人知的死亡事故。

聯(lián)結(jié)主義人工智能(connectionist AI），即今天的深度學(xué)習(xí)系統(tǒng)的前身。

這類(lèi)系統(tǒng)的想法是通過(guò)一個(gè)模擬節(jié)點(diǎn)的網(wǎng)絡(luò)來(lái)處理信號(hào)，這個(gè)網(wǎng)絡(luò)類(lèi)似于人類(lèi)大腦中的神經(jīng)元。信號(hào)通過(guò)連接或鏈路從一個(gè)節(jié)點(diǎn)傳遞到另一個(gè)節(jié)點(diǎn)：類(lèi)似于神經(jīng)元之間的突觸連接。而學(xué)習(xí)，就像在真實(shí)的大腦中一樣，是一個(gè)調(diào)整“權(quán)重”問(wèn)題，這個(gè)“權(quán)重”會(huì)放大或減弱每個(gè)連接所攜帶的信號(hào)。

在實(shí)踐中，大多數(shù)網(wǎng)絡(luò)將節(jié)點(diǎn)排列成一系列的層，大致類(lèi)似于大腦皮層中的不同處理中心。因此，比如說(shuō)，一個(gè)專(zhuān)門(mén)用于圖像識(shí)別的網(wǎng)絡(luò)會(huì)有一個(gè)輸入節(jié)點(diǎn)的層，它對(duì)單個(gè)像素做出響應(yīng)，就像桿狀細(xì)胞和錐體細(xì)胞對(duì)照進(jìn)視網(wǎng)膜的光線做出響應(yīng)一樣。一旦被激活，這些節(jié)點(diǎn)通過(guò)加權(quán)連接將其激活級(jí)別傳播到下一級(jí)別的其他節(jié)點(diǎn)，這些節(jié)點(diǎn)組合輸入信號(hào)并依次激活(或不激活)。