AI研究的盲點(diǎn)：無(wú)解的神經(jīng)網(wǎng)絡(luò )內在邏輯

論人工神經(jīng)網(wǎng)絡(luò )內在邏輯的研究歷史及現狀。

伴隨著(zhù)大數據，人工智能（AI）在沉寂了多年之后，又迎來(lái)了新的高潮。在這場(chǎng)涉及大部分科學(xué)的革命中，人工神經(jīng)網(wǎng)絡(luò )釋放了人工智能（AI）。但科學(xué)家們發(fā)現，這一關(guān)鍵技術(shù)暗含著(zhù)一個(gè)問(wèn)題：人工神經(jīng)網(wǎng)絡(luò )就是一個(gè)“黑匣子”。

我們都知道，無(wú)論人工神經(jīng)網(wǎng)絡(luò )有多么復雜，都可以將其看作是三部分：輸入層、輸出層和隱含層。其中，我們通過(guò)深度學(xué)習，對神經(jīng)網(wǎng)絡(luò )進(jìn)行一層一層的疊加訓練，以此來(lái)有效調整神經(jīng)網(wǎng)絡(luò )各級神經(jīng)元的權重。但是，這里有一個(gè)問(wèn)題，除去輸入和輸出，我們對隱含層發(fā)生了什么一無(wú)所知，即對神經(jīng)網(wǎng)絡(luò )內部邏輯行為無(wú)從認知。

華盛頓大學(xué)的研究生Marco Ribeiro使用過(guò)一種叫做反事實(shí)探測的方法來(lái)了解這個(gè)“黑匣子”。此方法具體就是通過(guò)給輸入一點(diǎn)微小的變化，隨即查看輸出的變化，并記錄這些變化。但是很顯然，這一方法需要上千次的操作和嘗試，而且無(wú)法幫助我們全面認識人工神經(jīng)網(wǎng)絡(luò )。

而Google的另一位計算機科學(xué)家Mukund Sundararajan設計了一種探測器，大大減少了輸入。不同于Ribeiro采取的隨機輸入， Sundararajan的研究創(chuàng )新點(diǎn)是引入一個(gè)空白的參考。

首先，Sundararajan輸入一個(gè)零排列的數組，隨后讓輸入數據逐步向需要測試的目標數據轉變，以此通過(guò)輸出變化來(lái)反過(guò)來(lái)研究?jì)仍谶壿?。這里值得注意的是，隨著(zhù)每一步的變化，科學(xué)家們就能看到它確切的變化軌跡，從而可以以此預測變化特征。但這依然不可信，預測的結果仍然是存在很大誤差的。

對此，美國華盛頓州微軟研究所計算機科學(xué)家RiCh Caruana融入廣義加法模型（GAM）來(lái)對數據間的復雜關(guān)系進(jìn)行處理。我們都知道，統計學(xué)中GAM就是一種基于線(xiàn)性回歸，然后在一組數據中找到線(xiàn)性趨勢的方法。Caruana增加了這一過(guò)程，他先利用機器學(xué)習來(lái)輸出變化，隨后將網(wǎng)絡(luò )輸出的數據輸入到GAM，找出變化之間的相關(guān)性，以此來(lái)研究神經(jīng)網(wǎng)絡(luò )的內在邏輯。

除此之外，在圖像研究領(lǐng)域，還有科學(xué)家利用生成式對抗網(wǎng)絡(luò )（GAN）對神經(jīng)網(wǎng)絡(luò )進(jìn)行研究，然而所有的這些努力都是嘗試，普適的研究方法至今尚未得出。

現在，不僅科學(xué)家認識到這一問(wèn)題的緊迫性，多國政府也意識到這一問(wèn)題。根據歐盟的一項指示，明年所有有巨大影響力的公司需向公眾解釋其模型的內在邏輯。此外，美國軍方的藍天研究機構國防高級研究計劃署也正在向一個(gè)稱(chēng)為“可解釋AI”的新計劃投入7000萬(wàn)美元。

Google的機器學(xué)習研究員Maya Gupta說(shuō)，硅谷的研究人員們也在試圖打開(kāi)AI的“黑匣子”。除了運行后操作的準確性，所有人心中還有一個(gè)非常大的顧忌：因為不知道它在做什么，所以不確定能不能相信它。

伴隨著(zhù)人工智能（AI）應用的蓬勃之勢，出于安全隱患的考慮，神經(jīng)網(wǎng)絡(luò )內在邏輯的這一“盲點(diǎn)”確實(shí)急需規避。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！