深度學(xué)習最終會(huì )淘汰掉其他所有機器學(xué)習算法嗎?

韓平 8年前 (2017-12-26)

沒(méi)有一種算法會(huì )淘汰所有的算法,深度學(xué)習也不例外。

要證明這點(diǎn),我們可以來(lái)看看Wolpert and Macready在1997年提出的No Free Lunch Theorems(免費午餐理論)。

深度學(xué)習最終會(huì )淘汰掉其他所有機器學(xué)習算法嗎?

這個(gè)定理告訴我們,對于同一領(lǐng)域任意兩個(gè)學(xué)習算法A和算法B,兩者迭代運算之后對于問(wèn)題Q的解決的所有可能性的累加和是相等的,也就是說(shuō), 脫離了具體的某一問(wèn)題問(wèn)題, 空談哪個(gè)算法更好或者更壞是沒(méi)有太大意義的, 因為如果考慮所有可能的問(wèn)題, 那么所有的算法結果都是一樣的。一種算法只是針對某一問(wèn)題來(lái)說(shuō)是最好的,如果算法A針對問(wèn)題M優(yōu)于算法B,那么算法B必定會(huì )在同一領(lǐng)域對的問(wèn)題N上優(yōu)于算法A。

目前的深度學(xué)習主要是基于神經(jīng)網(wǎng)絡(luò )的深度學(xué)習,這種算法由于能自動(dòng)的學(xué)習和迭代樣本的計算結果的表示,因此比較適合適合像圖像, 語(yǔ)音, 文本等原始樣本和數據特征之間相差很大,無(wú)法用一般統計方法提前特征值的情況, 這也是現今深度學(xué)習在這些領(lǐng)域能取得重大進(jìn)展的一個(gè)非常重要的原因, 而另一方面, 仍然有相當多的問(wèn)題分析中, 其數據的原始樣本和數據的特征之間差別不大, 這個(gè)時(shí)候, 使用深度學(xué)習開(kāi)銷(xiāo)和性能將比不過(guò)傳統的統計方法。畢竟工程問(wèn)題除了要考慮精準度外,還要考慮成本,從這個(gè)角度講,傳統的統計檢驗提取特征值的方法成本還是要遠低于深度學(xué)習的算法的。

任何技術(shù)或者算法或者語(yǔ)言的發(fā)展都不是為了打敗其他的技術(shù),算法,語(yǔ)言,科技的發(fā)展是包容的,是互相學(xué)習,互相進(jìn)步的一個(gè)過(guò)程,人工智能的發(fā)展還需要更多優(yōu)秀算法的迭代才能煥發(fā)出蓬勃的生命力,而不是一味的用所謂的高級算法替代甚至淘汰別的算法。

最后,記得關(guān)注微信公眾號:鎂客網(wǎng)(im2maker),更多干貨在等你!

鎂客網(wǎng)


科技 | 人文 | 行業(yè)

微信ID:im2maker
長(cháng)按識別二維碼關(guān)注

硬科技產(chǎn)業(yè)媒體

關(guān)注技術(shù)驅動(dòng)創(chuàng )新

分享到