百度AI實(shí)驗室發(fā)布新成果，可加快深層遞歸神經(jīng)網(wǎng)絡(luò )的訓練速度

近日，百度硅谷AI實(shí)驗室發(fā)布一項新的研究成果，該成果可以加快深層遞歸神經(jīng)網(wǎng)絡(luò )（RNNs）的訓練速度。

自AlphaGo以4比1的成績(jì)擊敗圍棋世界冠軍李世石，人工智能的知名度至此一炮打響，而使得AlphaGo如此強大的東西，就是人工神經(jīng)網(wǎng)絡(luò )。

人工神經(jīng)網(wǎng)絡(luò )是一種模仿生物神經(jīng)網(wǎng)絡(luò )行為特征的數學(xué)模型或計算模型，由大量的人工神經(jīng)元聯(lián)結，如同生物神經(jīng)網(wǎng)絡(luò )般進(jìn)行運作。通過(guò)對已知數據的實(shí)驗運用，人工神經(jīng)網(wǎng)絡(luò )可以進(jìn)行學(xué)習和歸納總結（類(lèi)似于數學(xué)統計學(xué)方法的一種），在此基礎上，人工神經(jīng)網(wǎng)絡(luò )就能夠類(lèi)似生物一般具有簡(jiǎn)單的決定和判斷能力。

人工神經(jīng)網(wǎng)絡(luò )是AI領(lǐng)域一個(gè)不可忽視的重要存在，研究人員對它的研究也在不斷提升。就在近日，百度硅谷人工智能實(shí)驗室發(fā)布了一項新的研究成果技術(shù)，該技術(shù)可以加快深層遞歸神經(jīng)網(wǎng)絡(luò )（RNNs）的訓練速度。

該項技術(shù)于由百度硅谷AI實(shí)驗室的科學(xué)家Jesse Engel在Github上發(fā)布。Jesse Engel表示，此前就已經(jīng)發(fā)表過(guò)這項技術(shù)的第一階段研發(fā)成果，其關(guān)注的是 Minibatch和存儲配置在遞歸通用矩陣乘法（GEMM）的性能上所發(fā)揮的作用。而本次發(fā)布的是為第二階段的成果，其重點(diǎn)關(guān)注的是對算法本身的優(yōu)化。

Jesse在文章中也提到，該技術(shù)中還運用到了Differentiable Graphs（可微圖形），這對于計算復雜的衍生工具是一個(gè)簡(jiǎn)單、實(shí)用又可視化的工具，同時(shí)也可以激發(fā)算法的優(yōu)化。對于需要使用具有明確梯度計算功能框架、開(kāi)發(fā)新的迭代算法以及開(kāi)發(fā)應用自動(dòng)分化深度學(xué)習框架的研究人員們來(lái)說(shuō)，這項新的技術(shù)將更好地提升研發(fā)能力。

未來(lái)，該新技術(shù)將被應用在更多的百度產(chǎn)品上，促進(jìn)百度深度學(xué)習技術(shù)的研發(fā)及在百度各項應用服務(wù)中的應用。例如把人工神經(jīng)網(wǎng)絡(luò )應用在殺毒軟件，通過(guò)神經(jīng)網(wǎng)絡(luò )提供的大量已知在案的惡意軟件訓練，百度的殺毒系統就能學(xué)會(huì )識別全新的病毒，即便系統從未見(jiàn)過(guò)這類(lèi)病毒。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！