創(chuàng )新工場(chǎng)南京國際人工智能研究院馮霽：我們要解決當前AI系統的安全性問(wèn)題

在創(chuàng )新工場(chǎng)和一群優(yōu)秀的人做最酷的事情，讓學(xué)術(shù)界的成果落葉歸根，找到合適的商業(yè)化路徑。

三年前，李開(kāi)復曾經(jīng)說(shuō)過(guò)，“今后要將創(chuàng )新工場(chǎng)變‘AI工廠(chǎng)’”，與此同時(shí)，創(chuàng )新工場(chǎng)成立了人工智能工程院。

三年后的此時(shí)再去看，VC+AI定位的創(chuàng )新工場(chǎng)不負眾望，投資了一批AI領(lǐng)域的獨角獸企業(yè)，成為AI界的投資一把手。

就在去年，創(chuàng )新工場(chǎng)人工智能工程院在南京設立創(chuàng )新工場(chǎng)南京國際人工智能研究院，由南京大學(xué)周志華教授的得意弟子馮霽領(lǐng)銜擔任執行院長(cháng)。近日，鎂客網(wǎng)在南京采訪(fǎng)了馮霽，聽(tīng)他分享了研究院從0到1的開(kāi)始以及兩個(gè)關(guān)鍵的驅動(dòng)引擎。

圖 | 創(chuàng )新工場(chǎng)南京國際人工智能研究院院長(cháng)馮霽

選擇南京，始于人才

從早期的互聯(lián)網(wǎng)到移動(dòng)互聯(lián)網(wǎng)時(shí)代，北上廣深一直是產(chǎn)業(yè)的漩渦中心，這些一線(xiàn)城市坐擁大量的人才、資源和資金，但是到了AI主導的技術(shù)時(shí)代，中心似乎正在向外擴散。

那些錯過(guò)了互聯(lián)網(wǎng)紅利的城市也開(kāi)始奮起直追，力圖抓住新的技術(shù)紅利。這其中包括擁有著(zhù)優(yōu)質(zhì)高校資源和人才的南京。

以南京大學(xué)為例，由周志華教授領(lǐng)導的南大人工智能學(xué)院是國內首個(gè)成立AI學(xué)院的雙一流A類(lèi)、C9類(lèi)高校。

而為了更好地接近這些AI人才，鎂客網(wǎng)此次拜訪(fǎng)的創(chuàng )新工場(chǎng)南京國際人工智能研究院就落戶(hù)在南大旁邊的興智科技園。

負責研究院的馮霽院長(cháng)也是一個(gè)典型的南京人才代表：雖然家在西安，但最終選擇了南京作為事業(yè)的起點(diǎn)。

“之前不少人都會(huì )離開(kāi)南京去往北上廣，還是蠻可惜的。這幾年南京市政府一直鼓勵一些AI企業(yè)在南京設點(diǎn)。雖然南京沒(méi)有那些擁有海量數據的互聯(lián)網(wǎng)公司，但他們另辟蹊徑，作為一個(gè)AI人才輸出的城市，先把人先留住，然后再完善AI產(chǎn)業(yè)的建設。”

馮霽表示正是非常認可南京的政策和優(yōu)質(zhì)人才，創(chuàng )新工場(chǎng)選擇在南京落地兩個(gè)實(shí)體：創(chuàng )新工場(chǎng)南京國際人工智能研究院和創(chuàng )新奇智。

確實(shí)，近年來(lái)南京為打造創(chuàng )新名城，非常重視AI這樣的核心技術(shù)的發(fā)展。以南京經(jīng)濟技術(shù)開(kāi)發(fā)區為例，在打造智慧新港期間，他們吸引了包括人工智能、半導體等多個(gè)行業(yè)、領(lǐng)域的高等研究院的入駐，助力人工智能、大數據等技術(shù)賦能傳統產(chǎn)業(yè)。

而創(chuàng )新工場(chǎng)南京國際人工智能研究院從0到1的組建過(guò)程，于馮霽來(lái)說(shuō)也算是一次很有挑戰的創(chuàng )業(yè)。“這個(gè)機會(huì )非常有挑戰性，我也非常喜歡。”馮霽坦言。

研究院創(chuàng )建之初，最大的難題便是戰略方向的制定。馮霽強調企業(yè)和高校做科研的模式是不同的，雖然創(chuàng )新工場(chǎng)屬于投資機構，但是脫離了業(yè)務(wù)去做研究未必是個(gè)明智的選擇。

馮霽早期也一直在思考，“在創(chuàng )新工場(chǎng)VC+AI的模式下設立研究院，既不能做太陽(yáng)春白雪的科研工作，而太過(guò)工程化又不能稱(chēng)之為研究院，那么我們到底要輸出什么？需要做哪些足夠有意思的事情？”

最終，研究院確定了兩個(gè)關(guān)鍵的方向：計算金融和AI安全。

計算金融+AI安全，研究院的使命和責任

馮霽總結，研究院的兩個(gè)重點(diǎn)，一個(gè)是以業(yè)務(wù)為中心，一個(gè)是以技術(shù)為核心。

其中，計算金融強調技術(shù)賦能落地，也就是我們常說(shuō)的的人工智能+金融，通常情況下， 計算金融又可以分為三個(gè)維度：金融風(fēng)控、智能投顧以及智能投資。

在具體落地上，馮霽透露研究院正在圍繞交易行為的相關(guān)業(yè)務(wù)場(chǎng)景做一些嘗試。“交易行為是市場(chǎng)中買(mǎi)方和賣(mài)方一系列交易行為的結果，但金融市場(chǎng)的噪聲比較大，如何從交易數據和行為中挖掘相應的模式并作出預測，相當于A(yíng)I+金融領(lǐng)域的圣杯問(wèn)題。”

除此之外，研究院另一個(gè)重心便是AI安全，馮霽直言這是非?？?，也是非常重要的事情的事情。此處的AI安全并不是安防之類(lèi)的安全保護，特指的是當前AI系統的安全和魯棒性。

馮霽認為，當前的AI解決方案已經(jīng)從低風(fēng)險應用轉為高風(fēng)險應用，比如十年前的垃圾郵件分類(lèi)，逐漸深入到自動(dòng)駕駛系統、安防領(lǐng)域的人臉識別，一旦AI系發(fā)生錯誤或者被人惡意攻擊，后果不堪設想。“以人臉識別為例，現在一個(gè)特制的眼鏡（鏡框上繪制了包含算法的花紋）就能騙過(guò)人臉識別系統，讓其把甲認成乙。”

所以研究院的一大任務(wù)就是研究那些攻擊算法，設置相應的防御機制應對攻擊，同時(shí)提出統一的風(fēng)控或者評估機制，以第三方的角度來(lái)為評估AI系統的安全性。

另一方面， AI安全除了研究AI系統安全之外，還囊括數據隱私保護相關(guān)的技術(shù)。比如現在由楊強教授等人推動(dòng)的“聯(lián)邦學(xué)習”，力圖在不共享數據以及合法合規的前提下，利用雙方的數據進(jìn)行機器學(xué)習，實(shí)現模型增長(cháng)。

以手機上的用戶(hù)數據為例，此前可以一股腦將所有數據上傳到云端進(jìn)行數據訓練。但歐盟數據隱私保護條例GDPR規定出來(lái)后，本地數據是禁止被上傳到云端共享的。那么借助聯(lián)邦學(xué)習，手機廠(chǎng)商可以直接在手機本地將數據訓練出一個(gè)小模型，然后將模型的參數上傳到云端進(jìn)行算法的優(yōu)化，不共享數據，共享知識。

就在鎂客網(wǎng)采訪(fǎng)之前，馮霽代表創(chuàng )新工場(chǎng)，當選為聯(lián)邦學(xué)習國際標準制定委員會(huì )的副主席，在微眾銀行的楊強教授帶領(lǐng)下，共同參與制定國際上第一個(gè)人工智能協(xié)同與合作的標準。

如果標準制定順利的話(huà)，聯(lián)邦學(xué)習對于互聯(lián)網(wǎng)公司以及金融機構都是非常利好的消息，“金融機構在做一些信用評級的時(shí)候，如果雙方數據能夠共享、共同訓練一個(gè)大的模型，銀行的業(yè)務(wù)都會(huì )有所提升。”

在馮霽的描述中，創(chuàng )新工場(chǎng)南京國際人工智能研究院的發(fā)展路徑和目標非常明確，一方面是研究金融場(chǎng)景下的人工智能模型，另一方面則是針對魯棒性和安全性的人工智能研究，關(guān)注AI企業(yè)所提供的人工智能解決方案中安全和數據隱私的問(wèn)題，并提供相應的算法建議。

學(xué)術(shù)界的研究一定要“不那么有用”

馮霽在確定研究院戰略方向的同時(shí)，也十分清醒的認識到企業(yè)和高校研究院的定位差異。“同工業(yè)界相比，學(xué)術(shù)界的研究不應該那么‘有用’。”這是馮霽給出的答案。

在他看來(lái)，學(xué)術(shù)界和工業(yè)界研究院關(guān)注的內容應該涇渭分明。以AI為例，當前的工業(yè)界應用都是在吃學(xué)術(shù)界早期技術(shù)研究的紅利。

就像幾十年前被提出的卷積神經(jīng)網(wǎng)絡(luò )，當后期的硬件條件跟上，才有了今天大規模的技術(shù)商業(yè)應用市場(chǎng)。而以現在的時(shí)間點(diǎn)去看未來(lái)，如果學(xué)術(shù)界停止研發(fā)那些“沒(méi)用”的東西，十年后的我們又要何去何從？

所以，從科研角度看，學(xué)術(shù)界不應該去做和工業(yè)界一樣的研究，比如那些可以帶來(lái)立竿見(jiàn)影經(jīng)濟效益的事情。“學(xué)術(shù)界更應該做一些有利于這個(gè)學(xué)科長(cháng)久發(fā)展的研究，不要急功近利考慮太多變現的事情。”工業(yè)界的研究則恰恰相反，它們需要思考如何將學(xué)術(shù)的成果變成一個(gè)真正可商業(yè)化的工業(yè)級產(chǎn)品。

馮霽也坦言，如今兩者的界線(xiàn)越來(lái)越模糊，尤其是在大量的學(xué)術(shù)界大佬被企業(yè)挖走，造成學(xué)術(shù)研究斷崖的當下。

就像馮霽之所以選擇創(chuàng )新工場(chǎng)南京國家人工智能研究院，骨子里有著(zhù)創(chuàng )業(yè)精神的他，熱愛(ài)和一群優(yōu)秀的人做最酷的事情，讓學(xué)術(shù)界的成果落葉歸根，找到合適的商業(yè)化路徑。

One more thing:一個(gè)大牛云集的夏令營(yíng)，為AI人才培養做貢獻

馮霽直言，目前人工智能人才缺口十分巨大，創(chuàng )新工場(chǎng)人工智能研究院有義務(wù)，也有動(dòng)力，為人工智能的人才培養出一份力。

為此，他們在2017年發(fā)起了免費培訓項目DeeCamp夏令營(yíng)，旨在提升高校AI人才在行業(yè)應用中的實(shí)踐案例經(jīng)驗，同時(shí)推進(jìn)產(chǎn)學(xué)研深度結合。

“這個(gè)夏令營(yíng)的目的是以項目驅動(dòng)的方式，培訓在校生以團隊合作的方式，從0到1完成一個(gè)人工智能系統的設計與開(kāi)發(fā)工作，試圖搭建高校同產(chǎn)業(yè)界的橋梁。”馮霽表示。

據了解，今年夏天，在南京市工信局指導下，創(chuàng )新工場(chǎng)南京研究院將同南京大學(xué)人工智能學(xué)院聯(lián)動(dòng)合作，招收100名優(yōu)秀的在校生，用5周的時(shí)間進(jìn)行封閉式全方位的免費培訓。另外從北京，廣州，上海三地亦會(huì )同時(shí)開(kāi)展，共計招收600名左右最優(yōu)秀的在校學(xué)生。目前報名人數已經(jīng)接近萬(wàn)余人。“報名要趁早。”馮霽說(shuō)。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！