Facebook開(kāi)發(fā)新型AI系統，可檢測仇恨性言論

該系統是通過(guò)十多億個(gè)圖像和視頻幀中實(shí)時(shí)提取不同的語(yǔ)言文本，對平臺內容進(jìn)行監控。

今日，Facebook宣布其開(kāi)發(fā)出了一款新型人工智能系統，能夠用來(lái)檢測仇恨性言論。有美國科技媒體認為，這款AI系統對于Facebook面臨的內容審查困境將會(huì )大有用處。

一直以來(lái)，無(wú)論海內外的社交媒體平臺都面臨著(zhù)內容審查艱難、容易有“漏網(wǎng)之魚(yú)”的局面，作為社交巨頭的Facebook也無(wú)法避免。之前，Facebook曾被指責需要對緬甸、斯里蘭卡和印度的暴力事件負有一定程度上的責任。于是，近幾個(gè)月，Facebook正在采取行動(dòng)，組織緬甸宣傳仇恨內容的傳播。但目前，緬甸國內針對羅新亞穆斯林的種族暴力依舊在持續，盡管Facebook刪掉了18個(gè)賬戶(hù)與52個(gè)與緬甸軍方相關(guān)的網(wǎng)頁(yè)。

本次，Facebook推出的這款AI系統代號為“Rosetta”，能夠幫助計算機閱讀理解每天發(fā)布到Facebook上的數十億張圖像和視頻。這將促使Facebook能夠更加容易發(fā)現平臺上有哪些內容是仇恨言論。該系統適用于Facebook和Instagram，并且，還能夠用于改進(jìn)照片搜索和新聞流表面的內容。據悉，該系統是通過(guò)十多億個(gè)圖像和視頻幀中實(shí)時(shí)提取不同的語(yǔ)言文本，對平臺內容進(jìn)行監控。

近期，Facebook首席運營(yíng)官雪莉·桑德伯格和Twitter首席執行官杰克·多爾西共同到國會(huì )作證，就是因為需要對其公司為保護用戶(hù)所設立的內容審查政策和安全措施進(jìn)行闡述。這也足以看到，其在內容審查方面面臨的困境。

與此同時(shí)，Facebook針對的內容的審核也越來(lái)越嚴格。此前，其只禁止暴力內容，今年7月份開(kāi)始，Facebook已經(jīng)開(kāi)始刪除旨在煽動(dòng)或者加劇暴力的虛假信息。該系統的推出意味著(zhù)Facebook在針對內容審查方面更進(jìn)一步的完善。

最后，Facebook還表示，其正在向自動(dòng)翻譯工具添加新的語(yǔ)言。新近增加的24種新語(yǔ)種包括豪薩語(yǔ)、烏爾都語(yǔ)和尼泊爾語(yǔ)等。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！