智慧城市被“質(zhì)問(wèn)”的第一道題：人臉識別數據屬于誰(shuí)？用在了哪里?

作為身份認證的重要手段之一，人臉識別已經(jīng)成為智慧城市建設中的重要組成部分。

市場(chǎng)研究機構MarketsandMarkets發(fā)布一份全球人臉識別市場(chǎng)報告，預計2019年人臉識別市場(chǎng)規模將為32億美元，2024年將增長(cháng)至79億美元，復合年增長(cháng)率為16.6%。

然而從去年到現在，人臉識別技術(shù)和市場(chǎng)正在面臨一場(chǎng)“考驗”。

隱私問(wèn)題爆發(fā)，多個(gè)城市開(kāi)始“拒絕”人臉識別

這一次考驗的起源是谷歌與美國軍方的一次合作。

去年3月份，谷歌的一份內部郵件顯示他們正在為美國國防部AI項目“Maven”提供TensorFlow API，用于分析無(wú)人機拍攝的畫(huà)面。這一合作引發(fā)了外界對于谷歌的質(zhì)疑，以及對該技術(shù)應用之后的擔憂(yōu)。

這之后，隨著(zhù)亞馬遜、微軟等相繼被曝出與政府之間也存在著(zhù)“人臉識別”技術(shù)相關(guān)的項目合作，包括將人臉識別用于視頻監控和警察穿戴的相機鏡頭等等，“人臉識別”技術(shù)一時(shí)間被推上了輿論的風(fēng)口浪尖。

具體來(lái)看，他們普遍擔心軍事和工業(yè)結合體會(huì )被作為不正當殺人利器，以及這次合作背后可能引發(fā)的機器學(xué)習發(fā)展與道德問(wèn)題。以美國公民自由聯(lián)盟為例，在他們看來(lái)，將人臉識別技術(shù)應用到前端視頻監控攝像機上，可能會(huì )打破隱私及實(shí)用性之間的平衡。

在輿論的壓力下，此前宣稱(chēng)“不作惡”的谷歌終止了與五角大樓的合作，亞馬遜和微軟則繼續爭奪政府訂單。而值得注意的是，發(fā)展至現在，這把火已經(jīng)從科技公司這一類(lèi)個(gè)體蔓延至了一個(gè)城市。

今年5月中旬，美國舊金山城市監管委員會(huì )投票通過(guò)“禁止使用人臉識別”的決定，成為美國第一個(gè)對這一技術(shù)說(shuō)“不”的城市。時(shí)隔不到一個(gè)月，馬薩諸塞州的薩默維爾市也對人臉識別技術(shù)說(shuō)“不”。

根據制定的新規，地方政府機構在使用人臉識別技術(shù)的時(shí)候將受到限制，或是被完全禁止，或是在公共場(chǎng)所受限，且任何購買(mǎi)任意一種新興監控技術(shù)的計劃都必須得到市政官員的同意。與此同時(shí)，美國加州奧克蘭市等城市也正在考慮出臺與之類(lèi)似的法律。

可以看到，在輿論的推動(dòng)與引導下，越來(lái)越多的城市正在拒絕人臉識別這一項原本被極力看好的AI技術(shù)。而在這一技術(shù)被禁的背后，我們看到了另一個(gè)產(chǎn)業(yè)也大受影響。

人臉識別被禁，智慧城市建設大受影響

除了人臉識別的市場(chǎng)潛力，MarketsandMarkets的報告也指出，這一市場(chǎng)的主要驅動(dòng)力包括：政府推行用戶(hù)和數據安全舉措的增加、越來(lái)越多移動(dòng)設備的使用以及全球對健全欺詐檢測和預防系統需求的日益增長(cháng)。

可以說(shuō)，人臉識別市場(chǎng)規模能夠增長(cháng)的如此之快，很大層面上得歸功于政府的推動(dòng)。截至目前，出入境管理、刑偵安防、公務(wù)辦理等領(lǐng)域越來(lái)越多的用到了人臉識別技術(shù)，也取得了不錯的成果。以刑偵為例，較為知名的事件有警方利用人臉識別技術(shù)數次在張學(xué)友演唱會(huì )捕獲逃犯，最近的案例為警方通過(guò)“天眼”系統抓獲已經(jīng)外逃兩年的北大弒母案嫌犯吳謝宇……而這樣的案例還有很多。

其中，“天眼”系統是我國基于人臉識別等專(zhuān)業(yè)技術(shù)開(kāi)發(fā)出來(lái)的重大成果。通過(guò)應用人工智能、視頻圖像處理等多種技術(shù)，“天眼”系統能夠在第一時(shí)間對人臉信息進(jìn)行捕捉和匹配，識別速度快且準確度高，已經(jīng)有二十多個(gè)省市的公安系統與之實(shí)現了對接。

而從更大視角來(lái)看，“天眼”系統是智慧城市建設中的一塊重要版圖，如果沒(méi)有“天眼”系統的存在，或是人臉識別技術(shù)被禁，以上場(chǎng)景只會(huì )存在于電影中，而智慧城市的建設也將不完整。

同時(shí)，“智慧城市”也是諸多大小科技公司競相追逐并瓜分的一塊蛋糕。

以國內為例，有著(zhù)“CV四小龍”之稱(chēng)的商湯、曠視、云從和依圖均有涉足“智慧城市”建設，且已經(jīng)有項目成功落地。與此同時(shí)，BAT、京東、平安科技等也在“智慧城市”這一塊有所部署，競爭也時(shí)有發(fā)生。而透視他們的“智慧城市”解決方案，圖像識別或分析這一功能幾乎已經(jīng)是標配。一旦人臉識別技術(shù)被禁，尤其是政府層面的，他們受到的損失也將不可估量。

智慧城市建設勢在必行，向人臉識別發(fā)出“靈魂拷問(wèn)”

“智慧城市”這一概念已經(jīng)存在許多年，但在近幾年隨著(zhù)AI、大數據、物聯(lián)網(wǎng)等技術(shù)的發(fā)展，基于“智慧城市”的基礎，“新型智慧城市”的概念也應運而生。

2015年底，中央網(wǎng)信辦、國家互聯(lián)網(wǎng)信息辦第一次提出“新型智慧城市”概念。幾個(gè)月之后，中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《國家“十三五”規劃綱要》，明確提出要“建設一批新型示范性智慧城市”。

針對“新型智慧城市”這一概念，國家工業(yè)信息安全研究中心副主任李新社曾指出，未來(lái)智慧城市建設過(guò)程中，“圍繞城市大數據的規劃、采集、流通、分析、反饋、修訂等全生命周期，用信息流優(yōu)化來(lái)驅動(dòng)各領(lǐng)域系統建設完善”將成為主要內容，“如何建設信息安全綜合監控平臺，如何強化信息安全風(fēng)險評估體系”將成為下一步建設的戰略重點(diǎn)。

不僅僅是國內，智慧城市建設已經(jīng)成為了全球國家正在進(jìn)行或將要進(jìn)行的一個(gè)重要項目，這已經(jīng)是勢在必行。

“人臉識別是否要被禁止”不會(huì )是智慧城市建設過(guò)程中面臨的唯一問(wèn)題。但透過(guò)這一問(wèn)題，一些關(guān)鍵的、通用的問(wèn)題已經(jīng)被暴露。

· 我的人臉數據究竟屬于誰(shuí)？

人臉識別是一種1:1或1：N的技術(shù)手段，在具體應用場(chǎng)景中，它可以根據已有人臉數據識別并判定某一特殊對象是否與數據庫中的是同一人，也可以依據某一個(gè)人臉數據，從成千上萬(wàn)人中找出對應的人。這之中，數據庫中保存的數據將成為關(guān)鍵一環(huán)，也是引發(fā)人們擔憂(yōu)并發(fā)出質(zhì)疑的地方——這些數據究竟屬于誰(shuí)？誰(shuí)能用我的數據？

近年來(lái)，因為研發(fā)需要以及人臉識別應用的逐漸普及，包括政府機構、銀行、小區物業(yè)、人臉識別研發(fā)公司都需要用到數據庫。

以銀行為例，當人們辦理某些業(yè)務(wù)時(shí)，人臉識別已經(jīng)成為了一種常態(tài)，柜臺工作人員會(huì )在過(guò)程中要求人們將頭抬起，并將面部朝向攝像頭以進(jìn)行識別，而在銀行APP中，要求卡主進(jìn)行人臉識別認證也已經(jīng)成為一種日常操作。既然要識別，那就意味著(zhù)有對比數據，這些數據被誰(shuí)拿走了？是銀行？是公安？還是提供人臉識別技術(shù)的公司？

又比如人們上傳至網(wǎng)絡(luò )的各類(lèi)照片，基于這些照片的人臉數據被誰(shuí)拿走了？多數情況下會(huì )保存在各個(gè)平臺的服務(wù)器中以作他用。譬如Facebook，當它在一張照片中識別某一特定人之后，它會(huì )向這一用戶(hù)的賬號發(fā)送通知，后者可以選擇在圖片上貼上標簽、給發(fā)布圖片的用戶(hù)發(fā)短信，亦或是通知Facebook平臺這張臉不是自己等等。這類(lèi)服務(wù)是將人臉識別應用放在了明處，而人們更為擔心那些不知不覺(jué)中發(fā)生的人臉識別應用。

· 我的人臉數據被用在了哪里？

毫不夸張的說(shuō)，在如今這個(gè)到處都能夠生產(chǎn)數據的地方，人們有的時(shí)候處于“裸奔”狀態(tài)。這些數據在不知不覺(jué)間被采集，然后被運用在人們或知道、或不知道的場(chǎng)景中。

以微軟為例，當美國關(guān)于“人臉識別”的輿論繼續發(fā)酵的時(shí)候，這家公司悄然刪除了它們于2016年發(fā)布的人臉識別數據庫MS-Celeb-1M，這是全球最大的“公開(kāi)”人臉識別數據庫，其中涉及百萬(wàn)名人的千萬(wàn)張照片，可以供研究者開(kāi)發(fā)人臉識別技術(shù)。

更為“可怕”的是，MS-Celeb-1M數據庫中的每一個(gè)人物對應一個(gè)entity，綁定了知識庫，后者提供了每個(gè)人的職業(yè)、性別等豐富信息，目的是為了幫助人臉識別系統不僅僅做到識別，更能做到認知。

又比如亞馬遜的人臉識別軟件Rekognition，它能夠在幾秒鐘內將收集到的信息和數據庫里成千上萬(wàn)個(gè)圖像進(jìn)行比較。這一技術(shù)已經(jīng)被執法機關(guān)用于尋找失蹤人口和識別恐怖襲擊中的嫌疑人。但從美國公民自由聯(lián)盟對亞馬遜的致信，以及亞馬遜員工和民眾的反應來(lái)看，雖然這是智慧城市建設中的一部分，且這一技術(shù)帶來(lái)的利好也被部分大眾所認可，但他們似乎并不希望亞馬遜將這一技術(shù)的API接口開(kāi)放給政府，也因為擔心自己時(shí)時(shí)處于監控狀態(tài)，而不希望自己的數據被用于這些地方。

· 人臉識別技術(shù)可靠嗎？

不僅僅是數據的問(wèn)題，“智慧城市”建設還面臨來(lái)自公眾對于技術(shù)可靠性的質(zhì)疑。

譬如在美國，人臉識別技術(shù)被指責有“種族歧視”——黑人女性的錯誤率高達21%-35%，而針對白人男性的錯誤率則低于1%。另外，亞馬遜的Rekognition也曾將28名美國國會(huì )議員識別成罪犯，而就在本周，這一技術(shù)又錯將26名州立法委員認定為罪犯。這種現象背后的技術(shù)可靠性著(zhù)實(shí)令人擔憂(yōu)。

不僅僅是國外，國內這種嘀笑皆非的場(chǎng)景也時(shí)有發(fā)生。比如因為“闖紅燈”而被公示在電子曝光屏的董明珠，事實(shí)是所謂的“董明珠”只是公交車(chē)上的一個(gè)印刷廣告；又比如一名坐在公交車(chē)內靠窗位置的普通民眾，莫名其妙的被人臉識別抓拍系統定義為闖紅燈……

其中，諸如人臉識別闖紅燈抓拍系統等產(chǎn)品已經(jīng)是人臉識別技術(shù)的普遍落地應用之一，當行人闖紅燈被拍之后，姓名、模糊處理的身份證信息等一般也會(huì )出現在電子屏上。但是這種“誤抓”現象的出現體現了智慧城市建設過(guò)程中的不完善。同時(shí)，這種錯誤也會(huì )讓“貢獻”自身數據的民眾在內心產(chǎn)生擔憂(yōu)和抵觸。

人臉數據不知不覺(jué)間被采集和運用、數據庫面臨泄露風(fēng)險、人臉識別技術(shù)可靠度存疑……不可否認，“智慧城市”建設是智能時(shí)代下的必然，而人臉識別技術(shù)作為身份認證重要手段之一，也是建設過(guò)程中的重要版圖之一，但當數據沒(méi)有安全保障、落地應用的識別準確度也沒(méi)有保障的時(shí)候，民眾多會(huì )產(chǎn)生“抵觸”情緒，而“智慧城市”建設或將也會(huì )受阻。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！