這款由記憶電阻設計的新型硬件計算系統,加速神經(jīng)網(wǎng)絡(luò )訓練的同時(shí)還可預測下一步輸出
該系統未來(lái)還可用于預測分析。
近日,密歇根大學(xué)的研究團隊設計出一種由記憶電阻制成的新型神經(jīng)網(wǎng)絡(luò )硬件系統(儲備池計算系統),相較于現有的硬件系統,它的效率有了明顯的提升,并且它能在對話(huà)之前預測詞匯并預測下一步輸出。
儲備池計算系統是一種有效改進(jìn)傳統神經(jīng)網(wǎng)絡(luò )訓練困難的計算系統,此前,有科學(xué)家曾用光學(xué)元件制作了儲備池計算系統,不過(guò),此次電氣工程和計算機科學(xué)教授盧偉(音譯)及其團隊使用記憶電阻構造的新系統所需空間更小,也更容易集成到現有的硅基電子設備。
記憶電阻,又稱(chēng)憶阻器,與普通的電阻不同,它的電阻值由流經(jīng)它的電荷確定。因此,通過(guò)測出記憶電阻的阻值,便可知道流經(jīng)它的電荷量,從而有記憶電荷的作用。在這項最新的研究中,研究團隊使用的是一種特殊的記憶電阻。對此,團隊沒(méi)有過(guò)多的介紹。
對該新型系統的驗證,研究團隊采用的是手寫(xiě)識別測試(神經(jīng)網(wǎng)絡(luò )常用的基準),以此來(lái)驗證儲備池計算系統的性能。結果表明,他們僅使用88個(gè)記憶電阻做節點(diǎn),就可以分辨數字的手寫(xiě)版本,且儲備池的精準度高達91%;而傳統神經(jīng)網(wǎng)絡(luò )需要幾千個(gè)節點(diǎn)。此外,隨著(zhù)時(shí)間而變化的數據,新系統也能處理。
實(shí)際應用中,為了訓練神經(jīng)網(wǎng)絡(luò )完成某項任務(wù),很多公司包括研究機構需要花費大量的時(shí)間和高昂的成本在上面。不過(guò)盧偉表示,他們通過(guò)憶阻器制造出的儲備池計算系統可避免大多數昂貴的訓練過(guò)程,也為網(wǎng)絡(luò )提供了記憶能力。
盧偉還表示,未來(lái)他將借助該技術(shù)研究語(yǔ)音識別和預測分析兩大領(lǐng)域。對此,他解釋道:“我們可以預測自然語(yǔ)言,所以你有時(shí)候沒(méi)有發(fā)出完整的單詞,我們也能預測出你接下來(lái)要說(shuō)的是什么。”
最后,記得關(guān)注微信公眾號:鎂客網(wǎng)(im2maker),更多干貨在等你!
硬科技產(chǎn)業(yè)媒體
關(guān)注技術(shù)驅動(dòng)創(chuàng )新
