我們談?wù)撋闀r(shí)，AI能做什么？

飲食男女，人之大欲存焉。

幾千年前，孟子與告子辯論，告子說(shuō)：“食、色，性也。仁，內也，非外也。義，外也。非內也。”盡管，這句“食色性也”常被人們誤以為是孟子所言，但將色與食物放在同等重要位置的可不止告子一人，就連孔子也曾說(shuō)：“飲食男女，人之大欲存焉。”

“色”這一事的重要程度可見(jiàn)一斑。

而這來(lái)自于人類(lèi)最原始與本真的需求，在千百年間，也催生、推動(dòng)了成人產(chǎn)業(yè)的發(fā)展。

日前，TRE臺北國際成人展正如火如荼的舉行，日本著(zhù)名女優(yōu)高橋圣子的參展成為了最大噱頭。而再過(guò)數日，2018亞洲成人博覽也將拉開(kāi)帷幕。

根據今年5月18日艾媒咨詢(xún)發(fā)布的《2018Q1中國情趣用品專(zhuān)題研究報告》顯示，現階段中國情趣用品市場(chǎng)正處于快速發(fā)展時(shí)期，預計2020年中國情趣用品市場(chǎng)規模將突破1300億元。此前，90后女生馬佳佳因為圍繞情趣用品創(chuàng )業(yè)備受關(guān)注，近年來(lái)，以網(wǎng)易春風(fēng)為代表的行業(yè)“老司機們”也紛紛入局。

然而，關(guān)于“色”有合理合法處于“明處”的成人產(chǎn)業(yè)，也有隸屬違法犯罪暗地中的淫穢色情。

所謂“春風(fēng)”不度玉門(mén)關(guān)，安全意識要增加。

成人產(chǎn)業(yè)界的“安檢”一職就此產(chǎn)生。

色與戒

圖 | 來(lái)源：南方都市報

吳霞坐在電腦前，快速的滑動(dòng)著(zhù)手中的鼠標，電腦中是多個(gè)點(diǎn)開(kāi)的窗口。她熟練的點(diǎn)開(kāi)運營(yíng)審核系統，每個(gè)用戶(hù)的微動(dòng)態(tài)、活動(dòng)、相冊圖片等信息都會(huì )顯示在電腦上。她的工作就是從中選出違規的內容。隔著(zhù)大西洋的另外一邊，薩拉與吳霞做著(zhù)類(lèi)似的工作，不同的是，她每天需要看8000多條包括大量種族主義言論、以及其他不堪的照片和視頻。

這樣的安檢工作，被稱(chēng)為鑒黃師。

職業(yè)鑒黃師每天的工作內容主要包括查看各種文本、圖像、視頻，查看其中是否含有色情、血腥、暴力等內容。

巨大的工作量、長(cháng)時(shí)間觀(guān)看令人不適的內容，久而久之，身為鑒黃師的她們不僅視力會(huì )下降、精神和心理上也受到了很大的影響。

英國媒體就在此前報道了微軟公司網(wǎng)絡(luò )安全團隊中的兩名員工亨利和格雷格將微軟告上法庭的新聞。起訴的原因就是他們在工作的過(guò)程中需要查看成千上萬(wàn)的暴力視頻和圖片，導致了兩人出現精神分裂以及抑郁等癥狀。

兩人的律師表示，“許多人無(wú)法想象，亨利一天究竟要看多少可怕和殘忍的東西。不僅看到兒童遭性侵犯的畫(huà)面，還有針對兒童的謀殺以及難以形容的暴行。”

長(cháng)期以往，亨利出現睡眠障礙，工作中看到的畫(huà)面經(jīng)常出現在他的腦海中，他的病情越來(lái)越嚴重，甚至開(kāi)始出現幻覺(jué)、精神分裂和抑郁等癥狀。

而這并非個(gè)案。之前，在美國、英國、中國等都曾出現過(guò)多例鑒黃師起訴“老東家”的案件，狀告鑒黃師這一職位帶給他們嚴重的心理影響。

但這個(gè)高危的職業(yè)，在國內卻被冠以“高薪”、“神秘”等標簽，引起了不少人對于鑒黃師這一職業(yè)的羨慕。

鑒黃師真的享受“年薪二十萬(wàn)”的待遇嗎？

據悉，Facebook的鑒黃師薪資在每小時(shí)13美元到28美元不等；國內的一些網(wǎng)絡(luò )公司，該職位的月薪也僅為2000元-4000元。并且，很多鑒黃師在工作幾個(gè)月到一年之后就會(huì )辭職。

人員流動(dòng)性大，也成為了這個(gè)崗位顯著(zhù)的特點(diǎn)。

圖 | 來(lái)源：電影色戒海報

被強烈需要的鑒黃師

一邊是鑒黃師們對色的攔截，一邊是伴隨著(zhù)互聯(lián)網(wǎng)社交媒體、直播、短視頻不斷涌現，色情、暴力等內容在法律邊緣瘋狂試探的此起彼伏。

直播行業(yè)中，前有 “直播造人”、“黃鱔自慰”被媒體怒批的斗魚(yú)TV；后有未成年人露體直播被《法制晚報》曝光的美拍。短視頻行業(yè)，有因內容低俗被人民日報點(diǎn)名、被責令整改的快手；也有剛推出國際版走向海外，就因為呈現不適內容，被印尼官方封禁，海外之路就此夭折的抖音。

這些依靠?jì)热萜鸺业纳缃幻襟w平臺們，在影響力、業(yè)務(wù)、商業(yè)化不斷上升的同時(shí)，內容成為了其最堅實(shí)的鎧甲，卻也成為了最薄弱的軟肋。通過(guò)已經(jīng)“涼涼”的五五開(kāi)和陳一發(fā)事件不難看出，在內容安全面前，商業(yè)價(jià)值再高也不能容忍。

因此，負責內容審核的鑒黃師成為了保證內容安全至關(guān)重要的防線(xiàn)，鑒黃師也自然而然成為各大企業(yè)擴招的對象。

2018年4月7日，快手在被責令整改后，面向全國發(fā)布招聘信息，新招3000內容審核編輯，將2000人的審核團隊擴大至5000人。而在海外，截至2017年12月，Facebook負責內容審查的人員就從4500名增加到了7500名，并且計劃在2018年底，該崗位人數達20000人，而海外著(zhù)名平臺YouTube母公司谷歌也將內容審查團隊擴充到了10000人以上。

企業(yè)對于鑒黃師的需求是迫切而廣泛的，但這一職業(yè)帶給從業(yè)者的心理傷害引發(fā)的官司、人員流動(dòng)性大造就了招人難、成本高的局面。而伴隨著(zhù)人工智能技術(shù)的成熟以及商業(yè)化落地到金融、醫療、服務(wù)、文娛等各個(gè)領(lǐng)域，一些科技公司看到了人工智能在鑒黃、內容審核這一應用場(chǎng)景潛在的機遇。阿里巴巴、騰訊、網(wǎng)易、圖普科技等就是代表之一。

AI鑒黃，了解一下

2015年10月，阿里巴巴宣布“綠網(wǎng)”正式上線(xiàn)，該系統的另一個(gè)名字是“黃圖打分器”，即通過(guò)AI技術(shù)鑒別黃色圖片。

同年，騰訊上線(xiàn)了萬(wàn)象優(yōu)圖智能鑒黃服務(wù)。

而被戲稱(chēng)為“養豬場(chǎng)”的網(wǎng)易也不甘落后，推出了網(wǎng)易易盾，提供智能鑒黃、暴恐識別等服務(wù)。

成立于2014年4月的圖普科技，目前已經(jīng)為迅雷、酷狗、我圖網(wǎng)、七牛云、花瓣網(wǎng)等眾多一線(xiàn)互聯(lián)網(wǎng)公司達成合作，為其定制個(gè)性化圖片/視頻識別引擎。

圖 | 來(lái)源：微博

那么，AI又是如何充當鑒黃師的呢？

據悉，AI鑒黃和很多人工智能系統類(lèi)似，將海量的色情圖片作為素材，通過(guò)深度學(xué)習算法進(jìn)行訓練，識別色情信息，并通過(guò)樣本建立模型，最終機器以此為據判定哪些是色情圖片。

圖片與視頻直播不同在于，圖片是靜態(tài)的，而視頻和直播是動(dòng)態(tài)的，但其識別方法并沒(méi)有本質(zhì)區別。鑒別視頻和直播時(shí)都是通過(guò)間隔截圖、關(guān)鍵幀截圖等從視頻內容中提取相應的視頻幀進(jìn)行圖像識別。

目前，Facebook、快手、迅雷、百度等都通過(guò)AI系統對色情、暴力等違法內容進(jìn)行鑒定過(guò)濾。扎克伯格表示，臉書(shū)的AI系統已經(jīng)能夠過(guò)濾掉高達99%的不良內容，但剩下的依舊需要鑒黃師進(jìn)行處理。而根據百度發(fā)布的《2017年度信息安全綜合治理報告》中顯示，AI系統能夠實(shí)現95%以上的信息審核。

盡管已經(jīng)極大的提升了效率，但當前AI并不能完全取代鑒黃師的崗位。

擅長(cháng)在多模態(tài)深度語(yǔ)義理解，和結合上下文多輪語(yǔ)義理解的深思考人工智能CEO楊志明解釋道:“現在，在圖像識別或者視頻，針對于某些特定的目標，比如狗、職務(wù)、人這些識別都已經(jīng)非常準確。但針對圖像或者視頻場(chǎng)景的理解，比如小狗趴在葡萄架下乘涼，整個(gè)場(chǎng)景的理解相對更難。而色情、暴力、血腥等往往正是需要AI對場(chǎng)景進(jìn)行理解。”

此外，楊志明也表示，在技術(shù)層面，人們通常說(shuō)的色情、暴力等本身是一個(gè)抽象復雜的概念。只有先在技術(shù)上將其定義清楚才能做內容上的識別。不過(guò)，技術(shù)人員可以采用知識圖譜來(lái)描述這些概念，比如暴力，可能會(huì )有施暴工具、被害者、施暴者等。在定義清楚之后，再用場(chǎng)景理解，識別的準確率就會(huì )提高很多。

關(guān)愛(ài)鑒黃師身心健康，從AI做起。

結尾：

從春宮圖、妓院、金瓶梅到如今的情色電影、成人產(chǎn)業(yè)，色與食始終是人類(lèi)根本的需求。而隨著(zhù)時(shí)代的發(fā)展，科技對于色與性的介入也將不僅僅停留在A(yíng)I取代鑒黃師的層面。目前，已經(jīng)有不少科技公司正在研發(fā)性愛(ài)機器人、虛擬情人，通過(guò)新材料、AI、VR等多種技術(shù)手段，多層面和維度去滿(mǎn)足人類(lèi)關(guān)于性的需求。

未來(lái)，誰(shuí)又能保證人類(lèi)不會(huì )像電影《Her》里面一樣，愛(ài)上一個(gè)語(yǔ)音助手呢？

文章部分資料來(lái)源：1. 南方都市報 《女鑒黃師：一分鐘看上百張圖 視覺(jué)沖擊大久了扛不住》  2. SuperD超多維科技《AI鑒黃師如何工作？計算視覺(jué)技術(shù)與網(wǎng)絡(luò )視頻審核》。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！