機器人開(kāi)始“殺人”了

取代人類(lèi)or解放人類(lèi)？This is a good question。

機器人開(kāi)始“殺人”了。

前不久，亞馬遜公司位于新澤西的運營(yíng)中心發(fā)生了這樣一起事故。由于一個(gè)機器人不小心刺破了防熊?chē)婌F，且噴霧恰好從貨架掉了下來(lái)，導致防熊?chē)婌F中所含的大量濃縮辣椒素釋放出來(lái)，造成了十多名員工呼吸困難，24人住院治療，1人情況十分危急。

盡管最終沒(méi)有人因此而喪失生命，但機器人的“謀殺”行為還是再次給人類(lèi)上了嚴肅的“一課”。

機器人“殺人”早有前科

其實(shí)機器人導致人類(lèi)受傷、乃至死亡的實(shí)例早已數不勝數。

早在四十年前的日本廣島，一家工廠(chǎng)的切割機器人在切鋼板時(shí)，發(fā)生異常，將一名值班工人當做鋼板操作，最終導致了工人的死亡；

事故發(fā)生后的第二年，也就是1979年，美國福特公司在密歇根州的鑄造廠(chǎng)中一名裝配線(xiàn)工人被工業(yè)機器人手臂擊中身亡。福特被法院裁定賠償該員工家人1000萬(wàn)美元；

到了1982年，日本山梨縣閥門(mén)加工廠(chǎng)的工人在調整停工狀態(tài)的螺紋加工機器人時(shí)，機器人突然啟動(dòng)，釀成悲??；

更離奇的是，在1989年，前蘇聯(lián)國際象棋冠軍古德柯夫和機器人對弈時(shí)，古德柯夫連下3局春風(fēng)得意，說(shuō)機器人的智力是斗不過(guò)人類(lèi)的。戲劇性的是，機器人對手就在這時(shí)突然向金屬棋盤(pán)釋放了高強度電流，而古德柯夫的手恰好放在棋盤(pán)上。就這樣，知名的國際象棋大師意外的丟了命。

......

而發(fā)生在最近也是最著(zhù)名的事件就是2015年2月英國首例機器人心瓣修復手術(shù)。當時(shí)在手術(shù)過(guò)程中達芬奇機器人出現了“暴走”情況，不僅把患者的心臟縫錯了位置，還戳穿了患者的大動(dòng)脈。由于機器人主機運行時(shí)聲音很大，主刀醫生和助理交流只能完全依靠吼，期間，機械臂還數次打到了醫生的手。

雖然，主刀醫生Nair和助理見(jiàn)狀由機器人手術(shù)回到了傳統人工手術(shù)，但是正當他們要修補機器人犯下的錯誤時(shí)，患者的心臟已經(jīng)非常“衰弱”了。一周后，接受這個(gè)英國首例機器人心瓣修復手術(shù)的患者不幸去世了。

這一事件的爆發(fā)引起了全世界范圍內的關(guān)注，也讓原本能夠縫合葡萄皮、突破人手極限、在人手無(wú)法觸及地方可以進(jìn)行操作的達芬奇機器人，后續的推廣應用造成了重大影響。英國最終經(jīng)過(guò)了三年才搞清楚事故的原因。

主刀醫生Nair承認在這一手術(shù)中自己才做醫用機器人經(jīng)驗不足，心態(tài)過(guò)于著(zhù)急，在手術(shù)之前根本沒(méi)有完成操作的培訓課程。同時(shí)，Nair也承認自己沒(méi)有告知患者是英國首位接受機器人修復二尖瓣手術(shù)的患者，手術(shù)存在很高的風(fēng)險，而采用傳統人工手術(shù)方法存活率會(huì )更高。

雖然由于機器人所引發(fā)的事故四十年來(lái)不曾斷絕，然而，造成諸多悲劇的最終禍首其實(shí)還是人。

這次亞馬遜機器人“謀殺”事件也并不例外。

應用廣泛但問(wèn)題不小的機器人

當前，機器人在物流倉儲行業(yè)的應用已經(jīng)非常廣泛和成熟。如亞馬遜、阿里巴巴、京東、菜鳥(niǎo)網(wǎng)絡(luò )等電商、物流公司都早已通過(guò)大面積使用機器人實(shí)現了從傳統物流到智慧物流的升級。機器人應用的環(huán)節也非常普遍，包括倉儲的分揀、打包、傳送、搬運等。甚至，就連物流配送最難實(shí)現的自動(dòng)化最后一公里，也有京東、美團等試圖通過(guò)無(wú)人車(chē)和無(wú)人機去解決。

與此同時(shí)，倉儲物流市場(chǎng)也呈現出井噴式的發(fā)展，有機構預計，近年來(lái)國內的智能倉儲物流市場(chǎng)規模將超過(guò)1400億元。

本次發(fā)生事故的亞馬遜倉庫，也早在全球范圍內投入使用了超過(guò)10萬(wàn)個(gè)機器人,機器人的穩定性和安全性應該十分可靠,但悲劇還是發(fā)生了。

據悉，亞馬遜在其配送中心部署的這些機器人主要用于整理搬運物品。目前雖然沒(méi)有引發(fā)這次事故原因詳細的報告，但可以預知的是，引發(fā)事故的原因主要集中于幾個(gè)方面。包括員工上崗之前的培訓、機器人設備操作是否遵循守則、以及機器人本身的穩定性和智能化是否達到要求等。

事實(shí)上，人類(lèi)在使用機器人的過(guò)程中往往會(huì )存在一些問(wèn)題：

首先，機器人不夠智能、穩定性差。日本、德國乃至前蘇聯(lián)早年的科技發(fā)展速度較快，因此也較早使用了機器人這種“黑科技”。但無(wú)奈的是，當時(shí)無(wú)論是機器人的設計、穩定性都并不成熟和完善，也因此造成了機器人將工人當成鋼板、機器人意外擊中流水線(xiàn)工人、與國際象棋冠軍對弈突然釋放高強度電流等悲劇。

其次，就是人類(lèi)本身急功近利的心態(tài)、或者操作不當的行為導致的意外事故。比如，英國手術(shù)的實(shí)例。以及同樣發(fā)生在2015年7月德國B(niǎo)aunatal工廠(chǎng)的一場(chǎng)事故。當時(shí)一名工人負責協(xié)助安裝機器人身處在安全籠之中，安全籠將工人與操作金屬的機器人分隔開(kāi)，但意外是另外一名工人也在現場(chǎng)卻未身處安全籠中，所以這名工人被機器人當成了障礙物。由此引發(fā)了悲劇。

此外，還有技術(shù)方面的限制，在無(wú)人駕駛領(lǐng)域也尤其明顯。今年3月，Uber的一輛自動(dòng)駕駛汽車(chē)就意外撞死了一名行人。根據當地警察局局長(cháng)發(fā)言可知，受害人當時(shí)是從陰影中突然出現在馬路上，而任何一種模式下的無(wú)人駕駛都很難避開(kāi)這種碰撞。從技術(shù)角度的解釋就是，無(wú)人駕駛傳感器融合方案的限制，導致在惡劣天氣以及夜晚等情況下視覺(jué)和行人識別有誤甚至無(wú)法識別的現狀。

取代人類(lèi)or解放人類(lèi)？

在1940年，科幻作家阿西莫夫為了防止機器人傷害人類(lèi)提出了“機器人三原則”：

1.機器人不能試圖傷害人類(lèi)，也不能看見(jiàn)人類(lèi)受傷害袖手旁觀(guān)；

2.機器人應該服從人的命令，但不得違反第一原則；

3.機器人應該保護自己，但不得違反第一、第二原則。

然而，這三個(gè)原則邏輯漏洞明顯，也無(wú)法解決實(shí)際問(wèn)題。隨著(zhù)機器人、人工智能的進(jìn)一步應用落地，由其引發(fā)的安全問(wèn)題成為了許多人關(guān)注的焦點(diǎn)。甚至，還有一部分業(yè)內人士為此感到擔憂(yōu)。特斯拉CEO馬斯克就曾經(jīng)在Twitter上表示，“我們要非常小心人工智能，它可能比核武器更危險” 。史蒂夫·霍金也曾說(shuō)，人工智能可能是一個(gè)“真正的危險”，機器人可能會(huì )找到改進(jìn)自己的辦法，而這些改進(jìn)并不總是會(huì )造福人類(lèi)。”

他認為，人工智能的進(jìn)化并不必然是良性的。而一旦機器人達到能夠自我進(jìn)化的關(guān)鍵階段，人類(lèi)就無(wú)法誤測它們的目標是否與人類(lèi)相同。人工智能可能比人類(lèi)進(jìn)化速度更快，人類(lèi)需要確保人工智能的設計符合道德倫理規范，保障措施到位。

因此，在2017年人工智能?chē)H會(huì )議上，馬斯克、蘋(píng)果聯(lián)合創(chuàng )始人沃茲尼亞克、研發(fā)“阿爾法圍棋”的深度思維公司創(chuàng )始人哈薩比斯等科技界名人兼從業(yè)者簽署了公開(kāi)信，呼吁聯(lián)合國應該像禁止生化武器一樣，禁止在戰爭中使用致命的自主武器和“殺人機器人”。

而亞馬遜也曾向美國聯(lián)邦通信委員會(huì )提交過(guò)一份報告，該報告表明亞馬遜正在研發(fā)一種保障機器人安全性的新技術(shù)。該技術(shù)可以通過(guò)定位有效地防止倉儲中心的機器人意外傷人。

其實(shí)，人類(lèi)對機器人的認知和期待可謂千人千面。在普通消費者眼中，機器人發(fā)展太慢，不夠“智能”無(wú)法思考；在部分專(zhuān)家眼里機器人發(fā)展很快，進(jìn)化到最后很可能取代人類(lèi)。

究竟是取代人類(lèi)or解放人類(lèi)？

That is a good question。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！