2018WAIC“高光”時(shí)刻系列回顧：人工智能與信息安全需要平衡發(fā)展

當下，人工智能成為新一輪推動(dòng)產(chǎn)業(yè)變革的驅動(dòng)力，在經(jīng)濟、軍事、醫療、文化等各領(lǐng)域蓬勃發(fā)展。

當下，人工智能成為新一輪推動(dòng)產(chǎn)業(yè)變革的驅動(dòng)力，在經(jīng)濟、軍事、醫療、文化等各領(lǐng)域蓬勃發(fā)展。然而，任何新技術(shù)新應用都具有兩面性，人工智能技術(shù)及其應用為人們生產(chǎn)生活提供便利的同時(shí)，也帶來(lái)了安全隱患。如何讓人工智能最終走向樂(lè )觀(guān)變得尤為重要。

人工智能面臨安全隱憂(yōu)

圖 | 中國科學(xué)院院士何積豐教授在會(huì )上演講

人工智能技術(shù)威脅網(wǎng)絡(luò )空間安全。

中國科學(xué)院院士何積豐教授在“2018世界人工智能大會(huì )·人工智能安全高端對話(huà)”會(huì )上指出，在工業(yè)安全領(lǐng)域，人工智能既可以進(jìn)行安全防范，包括攻防對抗、內容分析、代碼混淆、異常檢測等，也存在開(kāi)發(fā)工具漏洞和算法具有不確定性等問(wèn)題。針對安全問(wèn)題，需建立主動(dòng)防御的智能體系。

以自動(dòng)駕駛汽車(chē)為例，其毫米波雷達、激光雷達、攝像頭等感知設備都可以被干擾，而且自動(dòng)駕駛系統本身可能存在的漏洞，都會(huì )導致信息安全問(wèn)題。騰訊科恩實(shí)驗室總監呂一平總監在會(huì )上表示，汽車(chē)行業(yè)目前處于網(wǎng)聯(lián)階段，通往自動(dòng)駕駛階段還需一定時(shí)間，除了技術(shù)達標以外，更重要的是法律法規的問(wèn)題。

圖 | 車(chē)輛會(huì )因為地上的三個(gè)貼紙駛入旁邊車(chē)道(示意圖)

在人工智能安全領(lǐng)域，隱私性問(wèn)題也是民眾普遍關(guān)心的問(wèn)題。

人工智能的快速發(fā)展，可能加劇個(gè)人信息泄露，威脅個(gè)人隱私安全。對此，華東政法大學(xué)人工智能與大數據指數研究院院長(cháng)高奇琦在去年大會(huì )上用了“透明人”概念，認為“未來(lái)人是‘透明人’，這恐怕是一個(gè)無(wú)法阻擋的趨勢。”

為研發(fā)人工智能而大量使用數據過(guò)程中，如果數據被濫用，也會(huì )觸及隱私安全。此前，美國百萬(wàn)人使用的社交app——Ever通過(guò)“周末與爺爺”、“最佳時(shí)刻”等溫情的主題，誘導用戶(hù)上傳照片，未經(jīng)授權使用人們照片進(jìn)行面部識別技術(shù)進(jìn)一步開(kāi)發(fā)，并將這項技術(shù)出售給私營(yíng)公司、執法部門(mén)和軍方，以此來(lái)大大提升其財務(wù)狀況。無(wú)獨有偶，社交網(wǎng)絡(luò )巨頭Facebook在過(guò)去兩年被爆出多起侵犯個(gè)人隱私的丑聞。

人工智能與安全需要平衡發(fā)展

人工智能時(shí)代，網(wǎng)絡(luò )空間安全威脅全面泛化，但是人工智能也可以成為網(wǎng)絡(luò )安全的“救世主”。如何平衡好人工智能與安全的關(guān)系，利用人工智能思想和技術(shù)應對各類(lèi)安全威脅，是國內外產(chǎn)業(yè)界共同努力的方向。

圖 | 騰訊公司安全管理部副總經(jīng)理楊鵬致辭

為應對網(wǎng)絡(luò )安全，騰訊基于其黑產(chǎn)對抗經(jīng)驗技術(shù)和反欺詐 AI 模型建造能力，打造出“賓果反詐騙防控系統”，自投入使用以來(lái)，全國重點(diǎn)詐騙區域詐騙號碼大幅下降接近70%，有效遏制了詐騙態(tài)勢蔓延。

阿里巴巴開(kāi)發(fā)出云盾內容安全系統，該系統可以基于深度學(xué)習技術(shù)，提供文字、圖片、視頻等多媒體的內容風(fēng)險智能識別服務(wù)，有效減少涉及恐怖、暴力、色情等違法違規信息。

作為人工智能領(lǐng)域的先行者，百度的人工智能安全平臺目前已有近百家合作伙伴，覆蓋超過(guò)1億部智能設備?？蓭椭鷱S(chǎng)商有效應對智能終端、智能車(chē)機面臨的各類(lèi)安全風(fēng)險，全面確保云、內外部通信、操作系統、應用、硬件、數據和手機終端安全。

在去年大會(huì )分論壇，眼神科技創(chuàng )始人兼CEO周軍介紹了人工智能在金融安全領(lǐng)域的應用，用人臉、指紋、虹膜等多模態(tài)生物識別技術(shù)識別技術(shù)幫助金融機構降本增效，增強安全認證。

圍繞著(zhù)“人工智能帶來(lái)信息安全挑戰”，大會(huì )現場(chǎng)眾多專(zhuān)家、學(xué)者和產(chǎn)業(yè)精英都紛紛建言獻策，提出應對之道。

圖 | 聯(lián)合國人工智能和機器人中心主任伊萊克利•伯利茲在會(huì )上演講

聯(lián)合國人工智能和機器人中心主任伊萊克利•伯利茲建議對現階段人工智能的發(fā)展充分評估，并建立起各方參與的協(xié)同合作模式；中國移動(dòng)研究院首席科學(xué)家馮俊蘭女士指出，5G網(wǎng)絡(luò )服務(wù)眾多垂直工業(yè)，數據挖掘技術(shù)更易保護用戶(hù)隱私信息，并提出了“通信改變社會(huì )”的愿景，強調電信運營(yíng)商應當加強與垂直行業(yè)的互信和協(xié)作；在碁震KEEN公司創(chuàng )始人兼CE王琦看來(lái)，最重要的是法律保障，用法律的手段讓人工智能行業(yè)的從業(yè)者加強自律，保持敬畏之心；上海優(yōu)刻得信息科技公司CEO季昕華則表示，還需要技術(shù)手段對人工智能進(jìn)行約束，“讓AI可以分析數據，但是不獲取數據，這應該是技術(shù)層面努力的方向”。

人工智能的安全問(wèn)題與人工智能的快速發(fā)展相伴相隨，只有妥善解決安全問(wèn)題，才能實(shí)現人工智能的長(cháng)期可持續發(fā)展，而這個(gè)過(guò)程不僅是一個(gè)技術(shù)問(wèn)題，更是一個(gè)社會(huì )問(wèn)題、倫理問(wèn)題。如何使用好人工智能這把“雙刃劍” ，是全世界所需解決的實(shí)際問(wèn)題。

在即將于8月29日-31日舉辦的2019世界人工智能大會(huì )上，關(guān)于如何實(shí)現由傳統安全時(shí)代的強管理向AI時(shí)代強技術(shù)支撐下的核心管理轉變，業(yè)界權威們將再次為人工智能安全防護提供創(chuàng )新性的解決思路。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！