提倡辦公自動(dòng)化的時(shí)代，亞馬遜卻關(guān)閉了AI招聘引擎

只因AI系統對女性有偏見(jiàn)。

10月11日，根據外媒報道稱(chēng)亞馬遜的機器人學(xué)習專(zhuān)家發(fā)現其使用的招聘引擎不喜歡女性。因此，該項目被亞馬遜關(guān)掉了。

據悉，最早在2014年，亞馬遜的這支團隊一直在開(kāi)發(fā)電腦程序用來(lái)篩選審查求職者的簡(jiǎn)歷，核心的目的是將尋找頂尖人才的任務(wù)或者說(shuō)招聘任務(wù)自動(dòng)化。亞馬遜的實(shí)驗性招聘工具使用AI為求職者打分，分數從一星到五星不等。開(kāi)發(fā)該程序的工程師曾表示，亞馬遜想要將這一程序打造成引擎，給該程序100份簡(jiǎn)歷，程序會(huì )列出前五人，其就會(huì )聘用列出的人才。

2015年，亞馬遜發(fā)現他們使用AI系統的時(shí)候并未對軟件開(kāi)發(fā)人員和其他技術(shù)職位求職者進(jìn)行性別中立的評估。采用的模型訓練方式是通過(guò)觀(guān)察過(guò)去10年被提交給亞馬遜公司的簡(jiǎn)歷中找出固有模式，以此篩選審查求職者。但在過(guò)去的10年中，提交給亞馬遜的簡(jiǎn)歷大部分來(lái)自男性，這就導致了亞馬遜使用的AI系統告訴自己男性求職者更受到青睞。

不僅如此，該AI系統還對女性持有一定偏見(jiàn)。該系統在簡(jiǎn)歷中含有“女子象棋俱樂(lè )部隊長(cháng)”這類(lèi)簡(jiǎn)歷的語(yǔ)句中含有“女子”的詞匯非常敏感。此外，該系統還下調了兩所女子學(xué)院的畢業(yè)生評級。

因此，雖然亞馬遜招聘人員表示他們從來(lái)沒(méi)有僅依靠排名來(lái)做出判斷，但在去年年初亞馬遜最終還是選擇了解散團隊，高管們對該項目感到非常失望。

隨著(zhù)人工智能技術(shù)的發(fā)展和商業(yè)化落地的逐漸廣泛，一方面AI技術(shù)顯著(zhù)提升了效率與成本，也帶給了人們更加便捷的生活；但一方面AI作惡、歧視的現象也不斷引發(fā)爭議與討論。

本次AI招聘系統對女性的偏見(jiàn)的本質(zhì)在于機器學(xué)習的局限性?？▋然仿〈髮W(xué)教授尼哈爾·沙赫認為，要實(shí)現利用科技擴大招聘網(wǎng)絡(luò )減少對人類(lèi)招聘者主觀(guān)意見(jiàn)的以來(lái)，開(kāi)發(fā)者還有很多工作要做。在他開(kāi)來(lái)：“如何確保算法是公平的，如何確保算法是真正可以解釋的，實(shí)現這些目標都還十分遙遠。”

但科技公司們仍在努力。

雖然解散了這一團隊，但亞馬遜在愛(ài)丁堡工程中心成立了新的團隊，其所屬的人員也已經(jīng)增加到了12人。其目標是開(kāi)發(fā)能夠迅速在網(wǎng)絡(luò )上搜索并發(fā)現有價(jià)值應聘者的AI系統。目前，該團隊已經(jīng)創(chuàng )建了500個(gè)計算機模型，它們重點(diǎn)關(guān)注特定的工作功能和地點(diǎn)。團隊開(kāi)發(fā)者將教授每個(gè)模型辨認出過(guò)去求職者建立上的5萬(wàn)個(gè)術(shù)語(yǔ)。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！