對話(huà)RealAI：從底層技術(shù)框架出發(fā)，引入貝葉斯深度學(xué)習，推動(dòng)第三代AI發(fā)展

安全、可靠、可信的第三代人工智能將快速推動(dòng)技術(shù)應用落地。

“我們給公司取名‘RealAI’，意在探索真正的人工智能。其實(shí)現在的AI技術(shù)距離真正的人工智能還有很長(cháng)的路要走。”

那什么才是真正的AI呢？在RealAI看來(lái)，“真正的AI應該是有理解能力、具備‘人類(lèi)智能水平’的AI。”

后深度學(xué)習時(shí)代的人工智能

2016年，清華大學(xué)人工智能研究院院長(cháng)張鈸院士首次提出了“后深度學(xué)習時(shí)代的人工智能”的概念，并就AI技術(shù)發(fā)展做了階段性分類(lèi)。簡(jiǎn)單來(lái)說(shuō)，AI技術(shù)發(fā)展主要分為三個(gè)階段：

第一代，“知識驅動(dòng)型”AI，以規則模型/符號模型為主的符號主義AI，可以從宏觀(guān)層面模擬人類(lèi)行為，但對于無(wú)法精確描述的知識束手無(wú)策；

第二代，“數據驅動(dòng)型”AI，以深度學(xué)習為代表，對領(lǐng)域知識要求不高，可以通過(guò)深度神經(jīng)網(wǎng)絡(luò )建立計算模型，從數據中發(fā)現規律，但高度依賴(lài)大量高質(zhì)量的訓練數據；

第三代，“知識驅動(dòng)+數據驅動(dòng)型”AI，即安全、可靠、可信的AI，白盒化AI模型提供可理解的決策依據，即便在樣本不足、噪音高、標注差等未知場(chǎng)景中也能夠可靠提升預測效果以及持續保持較高的判斷力。

目前以深度神經(jīng)網(wǎng)絡(luò )為代表的AI技術(shù)尚處于第二階段，魯棒性較差、易受干擾，并且決策過(guò)程為“黑盒”，可解釋性差，這也直接導致了關(guān)鍵AI技術(shù)在落地應用時(shí)達不到預期。基于此，清華大學(xué)率先倡導發(fā)展第三代人工智能，而RealAI作為清華大學(xué)人工智能研究院的核心孵化企業(yè)，其主要目標是從底層技術(shù)框架出發(fā)，專(zhuān)注第三代人工智能基礎技術(shù)研究，并探索其產(chǎn)業(yè)落地方向，致力于讓前沿AI技術(shù)在生產(chǎn)、生活中得到真正的應用。

值得一提的是，去年9月，美國國防高級研究計劃局DARPA也相繼發(fā)布了“AI NEXT”計劃，該計劃將斥資20億美元，圍繞“新能力、可靠性、對抗性、高性能和可解釋性”五大方向，旨在推動(dòng)人工智能第三次浪潮?？梢哉f(shuō)，當前中美兩國針對第三代人工智能的競爭已經(jīng)展開(kāi)，清華大學(xué)、RealAI等中國研究機構和企業(yè)則是搶占了先機。

引入貝葉斯深度學(xué)習，用概率統計方法模擬人類(lèi)決策

實(shí)際上，人工智能很多時(shí)候需要做“預測問(wèn)題”，要讓AI具備人腦的判斷、決策能力，就需要讓AI學(xué)習人類(lèi)在做預測時(shí)的決策過(guò)程——即“先假設，再找論據進(jìn)行修正”的方法，先對現象做預判，再基于知識或數據給予這個(gè)預判以修正。例如，人類(lèi)在判斷明天是否下雨的時(shí)候，會(huì )先做假定，再去觀(guān)察云層、風(fēng)力、氣溫等，并基于看到的現象去驗證“下雨”的可能性，即由果尋因。

那么，如何讓AI也具備這樣的能力？RealAI給出的答案是，貝葉斯深度學(xué)習。從技術(shù)本身來(lái)看，貝葉斯深度學(xué)習以貝葉斯理論為核心，即利用概率表示所有形式的不確定性，通過(guò)概率規則來(lái)實(shí)現學(xué)習和推理過(guò)程，是一種從概率統計的角度定義問(wèn)題的方式。簡(jiǎn)單來(lái)說(shuō)，就是“把先驗知識應用到?jīng)Q策過(guò)程中”，此處的“先驗知識”也就是人類(lèi)在觀(guān)察到一些現象之前基于經(jīng)驗對最終問(wèn)題答案做出推斷預測。

所以，貝葉斯深度學(xué)習其實(shí)是融合了貝葉斯學(xué)習和深度學(xué)習的技術(shù)特點(diǎn)，將“知識”與“數據”結合起來(lái)，對結構化的先驗信息建模，讓AI在決策時(shí)更接近人腦的思維方式，同時(shí)更精確的總結出數據分析后的經(jīng)驗。

可以說(shuō)，貝葉斯深度學(xué)習技術(shù)為處理不確定信息、提高可解釋性提供了新方法。映射到應用效果層面，貝葉斯深度學(xué)習技術(shù)支持不確定性建模，對臟/假數據、數據缺失的容忍度顯著(zhù)提升，能夠從概率角度刻畫(huà)真實(shí)性，實(shí)現“黑盒”模型白盒化，輸出模型層面與實(shí)例層面的解釋依據，算法模型更魯棒、更安全。

依托于貝葉斯深度學(xué)習，RealAI較其他AI企業(yè)在人工智能領(lǐng)域走的更深一步，同時(shí)也鑄就了其他企業(yè)在短期內無(wú)法突破的技術(shù)壁壘。

發(fā)掘有價(jià)值的應用場(chǎng)景，就不會(huì )存在所謂的泡沫

正如Gartner技術(shù)成熟度曲線(xiàn)所展示的，一項技術(shù)剛出來(lái)的時(shí)候，公眾往往會(huì )高估其應用價(jià)值。所以，在A(yíng)lphaGo擊敗人類(lèi)圍棋選手、OpenAI在電子游戲“Dota”中戰勝人類(lèi)職業(yè)玩家等一系列典型AI事件發(fā)生后，整個(gè)行業(yè)開(kāi)始出現一些不合理的預期或是過(guò)于異想天開(kāi)的設想，這也導致了部分概念型AI公司的出現。2019年以來(lái)AI行業(yè)開(kāi)始趨于冷靜，但此前預想的“變革性”AI應用并未出現，于是，“行業(yè)泡沫”、“AI寒冬”等言論一時(shí)間紛紛四起。

“其實(shí)AI技術(shù)本身是不存在泡沫的，只要找到真正有價(jià)值的場(chǎng)景并與之結合，AI行業(yè)也不會(huì )存在所謂的泡沫。”在RealAI看來(lái)，確保安全是AI可信應用的基礎，因此RealAI將AI技術(shù)的安全性作為重點(diǎn)研究方向之一，通過(guò)預防AI潛在風(fēng)險，推動(dòng)產(chǎn)業(yè)健康發(fā)展。

隨著(zhù)AI技術(shù)在各大領(lǐng)域中的廣泛應用，越來(lái)越多潛在的安全風(fēng)險也暴露出來(lái)，如果不對AI安全問(wèn)題加以重視，甚至將可能引發(fā)如催生出色情產(chǎn)業(yè)鏈的Deepfake這樣的惡性事件。

其實(shí)早在2015年，RealAI的創(chuàng )始團隊就意識到“安全問(wèn)題”將會(huì )是未來(lái)AI發(fā)展過(guò)程中不可避免的一環(huán)，而Deepfake事件也印證了一旦缺乏防御技術(shù)的抵御、監管機制的遏制，AI技術(shù)的使用最終會(huì )走向不可控，這也更加堅定了RealAI的想法：AI安全需求在未來(lái)一段時(shí)間內將迎來(lái)爆發(fā)式增長(cháng)。

為此，今年5月，RealAI正式推出了與清華大學(xué)聯(lián)合開(kāi)發(fā)的RealSafe人工智能安全平臺，支持對多種AI算法進(jìn)行漏洞檢測與漏洞修復，并輸出AI算法的安全性評測報告。與國際知名科技企業(yè)旗下的AI安全平臺相較，RealSafe支持更為通用的模型、更豐富的對抗攻擊和防御算法，具有領(lǐng)先優(yōu)勢。

此外，RealAI還將業(yè)務(wù)拓展至工業(yè)和金融兩大對AI魯棒性、解釋性要求較高的領(lǐng)域。工業(yè)方面，RealAI自主研發(fā)智能制造決策系統。在制造環(huán)節，通過(guò)智能檢測技術(shù)提升質(zhì)檢穩定性、降低成本；在運行環(huán)節，通過(guò)對設備檢測信號的分析，利用算法找出潛在異常，從而實(shí)現對設備健康狀況的評估和預測，提高使用壽命，找到引發(fā)故障的原因。目前，該領(lǐng)域的相關(guān)技術(shù)成功應用于光伏EL智能缺陷檢測、大壩安全智能評估、石油管道缺陷檢測等實(shí)際場(chǎng)景中。

金融方面，依托貝葉斯深度學(xué)習在無(wú)標簽、少標簽、冷啟動(dòng)和不確定性處理等場(chǎng)景有更好的模型表現，以及擁有黑盒轉白盒的可解釋性?xún)?yōu)勢，RealAI自主研發(fā)了一鍵端到端建模平臺，支持智慧建模和模型部署，流水類(lèi)數據導入即可建模，幫助金融機構解決傳統建模流程慢、模型評估困難、迭代成本高等問(wèn)題。

在風(fēng)險評估方面，RealAI還推出了獨有的零售信貸風(fēng)控回撈方案，通過(guò)采用生成式模型等技術(shù)，支持對全體貸款申請群體進(jìn)行建模，解決了深度學(xué)習技術(shù)對于標簽數據高依賴(lài)的難題，風(fēng)險識別也更加精準，可以做到從被拒絕貸款的“壞”客戶(hù)中“回撈”一部分用戶(hù)，并且保證回撈用戶(hù)放款后的整體風(fēng)險水平與原本通過(guò)審核的用戶(hù)擁有相同的不良率。

歸根結底，AI是一項非常有用的技術(shù)，只要找到合適的場(chǎng)景就能夠發(fā)揮出作用。作為一支對未來(lái)AI充滿(mǎn)熱愛(ài)的團隊，RealAI仍然相信，無(wú)論是AI技術(shù)本身還是AI產(chǎn)業(yè)都還是處于快速發(fā)展的階段。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！