Google攤上事了！開(kāi)除知名AI研究員，引上千名學(xué)者和員工抗議

Gebru的支持者表示，谷歌的政策“實(shí)施得不均衡且具有歧視性”。

最近，科技圈的發(fā)生了一件大事，知名AI學(xué)者之一、人工智能倫理研究員Timnit Gebru被谷歌突然開(kāi)除，引得一眾嘩然。

Timnit Gebru畢業(yè)于斯坦福大學(xué)，師從李飛飛，是AI行業(yè)為數不多的黑人女性領(lǐng)導者之一，在A(yíng)I倫理領(lǐng)域，Gebru不僅是基礎研究者，更是許多年輕學(xué)者的榜樣。

她最知名的研究是在2018年發(fā)現，面部識別軟件對黑人女性有高達35%的錯誤率，而對白人男性幾乎完全正確。

然而，因一篇論文不符合谷歌內部評審，Gebru宣稱(chēng)被谷歌單方面辭退。

一篇論文引發(fā)的爭議

大約一周前，Gebru對外宣稱(chēng)，因與他人共同撰寫(xiě)了一篇批評谷歌AI系統的研究論文后，自己被谷歌解雇了。

然而，谷歌對外表示，因論文審查不符合谷歌要求，接受Gebru的個(gè)人辭職申請。

據外媒報道，這篇論文標題為“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”（隨機鸚鵡的危險：語(yǔ)言模型會(huì )太大嗎？），由谷歌的內部團隊和外部研究人員共同撰寫(xiě)，提出科技公司應該做更多事情，以確保AI寫(xiě)作和語(yǔ)音識別不會(huì )加劇歧視。

值得注意的是，論文內容談到了谷歌BERT（自然語(yǔ)言處理系統）在A(yíng)I倫理上的負面影響。

一開(kāi)始，雙方的爭議點(diǎn)在于審查流程的問(wèn)題。根據谷歌公司發(fā)表論文的流程，Gebru應在兩周前提交論文，而不是在最后期限的前一天。

但Gebru的團隊對這一評估進(jìn)行了反駁，稱(chēng)審查政策旨在靈活，大多數人并沒(méi)有遵循目前谷歌AI負責人Jeff Dean制定的結構。該團隊收集的數據顯示，絕大多數的審批都發(fā)生在截止日期之前，41%的審批發(fā)生在截止日期之后。他們寫(xiě)道：“沒(méi)有硬性要求論文必須在兩周內真正通過(guò)這個(gè)審查。”

同時(shí)，Dean認定該論文沒(méi)有達到標準，因為它“忽視了太多相關(guān)研究”，從而要求她撤回這篇論文，或者刪除谷歌員工的署名。

據《泰晤士報》（the Times）報道，Gebru在撤回該論文之前，曾要求與谷歌進(jìn)行進(jìn)一步討論。Gebru表示，如果谷歌不能解決她的擔憂(yōu)，她將從公司辭職。

隨后谷歌告訴Gebru，公司不能滿(mǎn)足她的條件，并將立即接受她的辭職。

Dean還表示，Gebru煽動(dòng)同事不要參與谷歌的DEI(多元化、公平和包容性)項目，他對此感到失望。

不久，Gebru很快就發(fā)現已經(jīng)無(wú)法登陸自己的公司賬戶(hù)，這表示她已經(jīng)被開(kāi)除了。

離職后的風(fēng)波

離任后，總共有超過(guò)1,400名Google員工以及1,800多名其他行業(yè)專(zhuān)家簽署了一封公開(kāi)信，以支持Gebru。

信中寫(xiě)道：“格布魯博士并沒(méi)有被谷歌譽(yù)為杰出的人才和多產(chǎn)的貢獻者，而是面臨著(zhù)防御，種族主義，研究審查以及現在的報復性開(kāi)除。”

為Gebru辯護的前同事和外部行業(yè)研究人員們質(zhì)疑，在這種情況下，谷歌是否武斷地更嚴格地執行了規則。

前Google員工發(fā)推文表示“我支持@timnitGebru”。

共同參與論文的@MMitchell則轉發(fā)Jeff Dean關(guān)于辭退的聲明，并諷刺道：“‘沒(méi)有達到出版的標準……它忽視了太多相關(guān)研究’……谷歌這樣評論我們的論文，但我們的論文卻有超過(guò)128個(gè)交叉學(xué)科的引用……所以（他們就）開(kāi)除了其中一個(gè)作者，真是太奇怪了！”

這件事也加劇了Google管理層與一些普通員工之間的緊張關(guān)系。

在Gebru發(fā)布離職推文的同一天，谷歌被美國國家勞動(dòng)關(guān)系委員會(huì )（National Labour Relations Board）指控報復，該機構在投訴中稱(chēng)，谷歌通過(guò)監視，訊問(wèn)和解雇維權雇員而違反了美國勞動(dòng)法。

Gebru的離職，還引起了已經(jīng)對谷歌在人工智能道德方面的工作感到擔憂(yōu)的人群的反感。去年Google成立了一個(gè)AI道德委員會(huì )，之后便遭到了該小組人員的抨擊。僅一周后，該委員會(huì )被解散。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！