亞馬遜司機，也困在算法里

未來(lái)，評估你工作表現、決定是否解雇你的，可能就是AI。

跟車(chē)過(guò)近，記1分；闖紅燈，記10分……

別誤會(huì )，這不是交警在進(jìn)行扣分，而是AI在對司機打分。

甚至，一旦AI打分結果“不太樂(lè )觀(guān)”，輕則影響薪酬，重則丟掉工作。

“這是徹底的人格侮辱。”一位無(wú)法忍受被監控，而最終選擇辭職的司機憤懣表示。

送貨司機，正在被車(chē)內攝像頭“監控”

以上評分系統來(lái)自于一份被曝光的機密文件，而這份文件的歸屬者是海外電商物流巨頭亞馬遜。

文件內容顯示，亞馬遜在送貨車(chē)內安裝了4個(gè)攝像頭。

這4個(gè)攝像頭中，1個(gè)直接對準司機，另外3個(gè)則分別面向擋風(fēng)玻璃和兩個(gè)側窗。

這意味著(zhù)，除了汽車(chē)尾部，不管司機在車(chē)身周?chē)裁捶轿?，一舉一動(dòng)都可以被攝像頭捕捉到。同樣的，是否闖紅燈、跟車(chē)距離等駕駛行為也會(huì )被拍下。

行車(chē)過(guò)程中，攝像頭會(huì )始終處于打開(kāi)狀態(tài)，并實(shí)時(shí)監督駕駛員的肢體語(yǔ)言、車(chē)輛速度，當檢測到違規行為，系統就會(huì )使用“語(yǔ)音警報”來(lái)告知駕駛員，并記錄在案。

而依據這些行為，系統會(huì )進(jìn)行評分，比如跟車(chē)過(guò)近等多數情況會(huì )記1分，而闖紅燈等違反停止標志的情況則會(huì )被記10分。

基于這套評分系統，亞馬遜的簽約配送公司每周都會(huì )收到駕駛員的記分卡，最好表現是“驚艷”，最差則會(huì )是“糟糕”。

而配送公司的老板也會(huì )參考這一評分決定司機的薪酬，甚至如果安全分數被評為“糟糕”，司機還有可能丟失續聘資格。

面對攝像頭，司機感覺(jué)到“人格侮辱”，亞馬遜繼續標榜“安全”

這已經(jīng)不是第一次亞馬遜嘗試用AI評估司機了。

而在這一方針的執行上，亞馬遜是循序漸進(jìn)的。

它先是使用開(kāi)發(fā)出了應用程序“Mentor”，該程序會(huì )不斷監控司機的駕駛、電話(huà)使用和位置，并為配送公司反饋得分，以作為評估司機表現的參考。

雖然這一系統的推行遭到了來(lái)自司機和其他一些群體的反對，但是亞馬遜方面并沒(méi)有放棄。

與此同時(shí)，在這套算法系統下，不少已經(jīng)工作數年時(shí)間的亞馬遜司機遭遇了“不合理的”解雇。

比如已經(jīng)遞送包裹近4年，卻在去年被解雇的斯蒂芬·諾曼丁，解雇理由是“算法判定他沒(méi)有做好自己的工作”。

而實(shí)際情況是，諾曼丁之所以沒(méi)有“做好工作”，是因為派單時(shí)間太早，在大樓沒(méi)開(kāi)門(mén)顧客電話(huà)未能接通、亞馬遜送貨柜出現故障打不開(kāi)的前提下，沒(méi)有完成貨物配送。

“這真的讓我很難過(guò)，這事關(guān)我的名譽(yù)。他們說(shuō)我沒(méi)干活兒，但我很清楚我干了。”

這之后，諾曼丁多次嘗試給亞馬遜，甚至貝佐斯發(fā)送郵件，要求撤銷(xiāo)解雇。但無(wú)一例外的，他總是收到系統自動(dòng)回復的郵件。

雖然諾曼丁的故事引起了大眾的關(guān)注，但是亞馬遜并沒(méi)有停止“監控”司機，更是在今年2月份宣布，將在車(chē)內安裝AI攝像頭。并且強制規定，司機要不接受被攝像頭實(shí)時(shí)拍攝，要不就失去這份工作。

該決定一經(jīng)宣布，再次引起了亞馬遜快遞司機的不滿(mǎn)。

比如選擇辭職的Vic，他明確表示，遠程或許行車(chē)數據還尚可接受，但是實(shí)時(shí)獲取個(gè)人視頻就是完全的“人格侮辱”了。

同時(shí)，數據安全也是Vic所擔心的，因為這些數據在當地的交付中心是一個(gè)獨立的亞馬遜承包商，而他們根本無(wú)法確定，亞馬遜是否會(huì )保護司機的匿名性。

在Vic將事情發(fā)布在論壇，并被路透社等廣泛報道后，“亞馬遜用攝像頭監控司機”一事也引起了美國國會(huì )議員的關(guān)注，有5名民主黨參議員聯(lián)名表達了對視頻監控的擔憂(yōu)，并在公開(kāi)信中要求貝佐斯提供有關(guān)攝像頭使用環(huán)境和透明度的更多信息。

對于這些問(wèn)題，亞馬遜方面并沒(méi)有明確給出答案，僅表示攝像頭將能夠為駕駛員提供實(shí)時(shí)警報，從而幫助他們在路上保持安全。

此次秘密文件和評分系統曝光后，亞馬遜發(fā)言人進(jìn)一步表示：“我們在200多萬(wàn)英里的駕駛路徑上試點(diǎn)了這項技術(shù)，結果顯著(zhù)提升了安全性——事故減少了48%，違反停止標志的情況減少了20%，不系安全帶的情況減少了60%，駕駛分心的情況減少45%。”

亞馬遜員工，被困在算法里

在“考察員工”，尤其是基層員工這件事上，亞馬遜可謂是非常喜歡用AI，甚至可以排上頭部。

除了以上提到的，用軟件、攝像頭跟蹤司機動(dòng)態(tài)、記錄司機行為，比如在物流中心的十幾萬(wàn)名員工，他們的一切行為也要接受AI的跟蹤與評估。

依據2019年的報道，亞馬遜內部構建了一套AI系統，可以追蹤每一名物流倉儲部門(mén)員工的工作效率，統計每一名員工的“摸魚(yú)時(shí)間”（因為休息時(shí)間外喝水、上廁所等而太長(cháng)時(shí)間沒(méi)有接觸包裹）。

而一旦系統判定“摸魚(yú)時(shí)間”太長(cháng)，就會(huì )在線(xiàn)生成解雇指令，直接繞過(guò)主管開(kāi)除員工。據悉，2019年曝光時(shí)，已經(jīng)有近900名員工因為被這套AI系統判定“工作效率低”而被解雇。

這一“壓力”下，有調查顯示，74%的亞馬遜倉庫員工根本不敢正常去上廁所，因為太耽擱時(shí)間。

此外，亞馬遜還在利用AI算法管理平臺上的數百萬(wàn)第三方商家，并由此引發(fā)了一些來(lái)自賣(mài)家的投訴，因為他們被系統錯誤地指控銷(xiāo)售假貨和抬高價(jià)格，從而被趕出平臺。

以上種種案例可以看到，亞馬遜在利用AI“監控”員工上已經(jīng)是一個(gè)老玩家了。

至于因為系統誤判而造成的負面影響，甚至引發(fā)社會(huì )性輿論，有前亞馬遜經(jīng)理表示亞馬遜并不在乎：它知道把工作委托給機器會(huì )導致誤判，可能還會(huì )鬧出頭條新聞，但公司認為，繼續相信算法，比雇人逐一調查、改正錯誤便宜得多。

最后

就事論事而言，在“用AI監控員工”這件事上，亞馬遜雖然是典型代表，但卻并不是唯一的。

有數據統計，早在2018年，全球就有22%的企業(yè)在用AI監控員工的活動(dòng)數據；17%的企業(yè)監控員工的電腦使用；16%的企業(yè)則會(huì )記錄員工的電子郵件。

比如沃爾瑪，會(huì )依據包裝袋的聲音和掃條碼的速度，由AI系統來(lái)判定員工是否在認真工作。

再看國內，此前也有一家清潔公司要求員工佩戴智能手表，并通過(guò)手表監測員工的活動(dòng)范圍與勞動(dòng)時(shí)間。

只不過(guò)，從越來(lái)越多的公司開(kāi)始將AI用于公司業(yè)務(wù)、員工管理來(lái)看，這已經(jīng)成為一個(gè)趨勢，而在智能化時(shí)代，這也會(huì )是一個(gè)常規現象。

只是看到這里我們不禁疑惑：用AI監控員工，就只能這樣“壓迫”員工嗎？

這其中并沒(méi)有絕對的答案。就比如要求員工佩戴智能手表，除了前面提到的監測員工活動(dòng)軌跡和勞動(dòng)時(shí)間，還可以實(shí)時(shí)監測員工心肺情況，一旦出現緊急狀況，便能夠第一時(shí)間通報處理。

又比如亞馬遜用于監控司機的攝像頭與后臺系統，從安全性角度出發(fā)，這一系統的實(shí)施警告功能確有其正面效用，確保司機的人身安全，而出于資本家的考量，將司機表現與評分掛鉤也無(wú)可厚非，但完全依賴(lài)AI而“不在乎”結果的準確性，以及隱私安全的保護，卻是不該出現的。

最終，關(guān)于“AI監控員工”的話(huà)題，還是走向了這幾個(gè)字——人性與安全。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！