好好的機器人，怎么就暴走了？

斯坦福大學(xué)人工智能與倫理學(xué)教授杰瑞·卡普蘭大開(kāi)腦洞，在《人工智能時(shí)代》中揭秘了機器人過(guò)去到未來(lái)的“暴走大事件”。

好好的機器人，怎么就犯罪了？

好好的人類(lèi)，怎么就遭受機器人襲擊了？

在人工智能時(shí)代，我們應該如何與機器人和平共處？

斯坦福大學(xué)人工智能與倫理學(xué)教授杰瑞·卡普蘭大開(kāi)腦洞，在《人工智能時(shí)代》中揭秘了機器人過(guò)去到未來(lái)的“暴走大事件”。

第一次機器人暴走事件

時(shí)間：1972年

地點(diǎn)：美國波士頓

歷史上第一次機器人暴走事件就發(fā)生在1972年一家離波士頓不遠的實(shí)驗室里。

馬文·明斯基是MIT人工智能實(shí)驗室聯(lián)合創(chuàng )始人主任，他曾提議，也許某一天醫生可以遠程控制機器人手臂，為病人實(shí)施外科手術(shù)。但是他需要一個(gè)實(shí)際由電腦控制的手臂才能實(shí)現這個(gè)想法。于是他給在斯坦福大學(xué)的朋友約翰·麥卡錫打電話(huà)，麥卡錫就把自己的研究助手借給明斯基幫他完成這個(gè)計劃。維克托·沙因曼是一位機械工程方面的青年才俊，他很快就設計出了一個(gè)原型，這個(gè)原型后來(lái)成了第一個(gè)在商業(yè)上獲得成功的電腦控制手臂PUMA可編程通用裝配機械手）的設計基礎。

理論雖然不錯，但現實(shí)卻在拖后腿。PLWA手臂很沉重，也很難控制，必須要固定在桌子上才能穩定。一天，可能是由于編程錯誤，這個(gè)手臂開(kāi)始前后振動(dòng)。隨著(zhù)沖量越來(lái)越大，桌子開(kāi)始劇烈地晃動(dòng)，后來(lái)竟然開(kāi)始隨著(zhù)手臂的擺動(dòng)在房間中顛簸行進(jìn)。一個(gè)在實(shí)驗室工作的倒霉研究生一開(kāi)始沒(méi)有注意到這個(gè)新生的移動(dòng)機器人正在靠近。當他終于注意到的時(shí)候，已經(jīng)太晚了——他被逼到了一個(gè)角落里。這個(gè)機械“虐待狂”毫不留情地靠近他，他蹲伏在地并大聲呼救。正當他即將成為“歷史腳注”的時(shí)候，一個(gè)同事沖了進(jìn)來(lái)制止了這臺機器，才結束了這場(chǎng)鬧劇。

我是一個(gè)粉刷匠，粉刷本領(lǐng)強

時(shí)間：2022年

地點(diǎn)：英國劍橋

如果讓你設想未來(lái)的機器人油漆工長(cháng)什么樣子？我們很容易就能想象到一個(gè)人形機器人爬在梯子上揮舞著(zhù)刷子，和它旁邊的人類(lèi)同事一起工作的場(chǎng)景。

如果你來(lái)到2022年英國劍橋小鎮，會(huì )發(fā)現機器人粉刷匠其實(shí)是一組飛翔的無(wú)人機中隊，每個(gè)無(wú)人機上面都配備有噴霧嘴并牽引著(zhù)一袋顏料。無(wú)論是因為強風(fēng)還是其他因素，無(wú)人機都能迅速而精確地調整彼此之間的距離，以及它們和木板外墻之間的距離。當個(gè)體機器人供給不足時(shí)，它們就會(huì )飛到涂料桶處自動(dòng)注滿(mǎn)并充電，然后再回到最需要的位置上。分散安裝在項目周邊的一系列攝像頭會(huì )持續監測這群飛翔的小家伙，并且評估工作的進(jìn)度和質(zhì)量。真正指揮這場(chǎng)“機械芭蕾”的設備甚至不需要出現在現場(chǎng)。它可能就是廠(chǎng)商在亞馬遜云上租用的所謂“軟件即服務(wù)”。為什么在一星期只使用幾小時(shí)的情況下，還非要冒著(zhù)被雨淋的危險棄機器人而不用呢？

你的粉刷匠可能仍然在為這些酷炫的裝備償還貸款，他出現后就架起攝像機，在平板電腦上的App中標記目標區域，打開(kāi)涂料桶，然后啟動(dòng)無(wú)人機。整個(gè)房子可能只需要一個(gè)下午（而不是一個(gè)星期）就可以粉刷完畢，而費用只需要今天人工費用的零頭。在這種系統成型的初期，工人可能仍然需要預處理表面、鋪罩布單，但是當產(chǎn)品工程師升級了系統并添加了部件之后，這些工作就沒(méi)有必要了。

坐上無(wú)人駕駛汽車(chē)，你就再無(wú)隱私可言

時(shí)間：2030年

地點(diǎn)：中國北京

2030年的街道上，已經(jīng)很難再見(jiàn)到人類(lèi)司機駕駛的汽車(chē)了，因為它們的事故率實(shí)在太高，人們都已經(jīng)習慣乘坐無(wú)人駕駛汽車(chē)。

當我們在家門(mén)前等候，無(wú)人駕駛汽車(chē)會(huì )來(lái)接我們上班，我們想要喝咖啡，汽車(chē)建議你選擇Peet's。如果在走到這一步的時(shí)候我們停下來(lái)看看屏幕上的地圖，就會(huì )發(fā)現Peet's咖啡既不是一個(gè)最順路的選擇，這家咖啡店也不在你的偏好列表中，而無(wú)人駕駛汽車(chē)本應該根據實(shí)踐中不斷磨合改進(jìn)的機器學(xué)習算法為你選出你最?lèi)?ài)的咖啡館。為什么它會(huì )向你推薦Peet’s咖啡館呢？因為這家咖啡館在無(wú)人駕駛汽車(chē)的推薦結果中花錢(qián)購買(mǎi)了優(yōu)先推薦，就像你打開(kāi)Google（是的，Google已經(jīng)回到中國）最先看到的那些搜索結果一樣，它們也經(jīng)過(guò)了一定的商業(yè)化干預。與網(wǎng)上搜索結果優(yōu)先展現不同的是，你的無(wú)人駕駛汽車(chē)可以用比較隱蔽的方法影響你的決策。

你對于干洗店的選擇也是一樣，你所以會(huì )把衣服送到那家店，完全是因為聽(tīng)從了無(wú)人駕駛汽車(chē)的建議。而這輛車(chē)之所以會(huì )給出這種建議，是因為Suds干洗店給無(wú)人駕駛汽車(chē)的制造者Google公司付了錢(qián)，這樣一來(lái)這家干洗店就能夠成為你所在地區無(wú)人駕駛汽車(chē)的首選。

至于那一家搞優(yōu)惠活動(dòng)的素食餐廳，倒的確是你的最?lèi)?ài)，不過(guò)奇怪的是這輛無(wú)人駕駛汽車(chē)此前從未來(lái)過(guò)這里，它是怎么知道你的喜好的呢？很簡(jiǎn)單，它通過(guò)梳理你的電子郵件獲得了關(guān)鍵詞，在這基礎上評估其中蘊含的感情基調并且獲取相關(guān)信息。同樣，這輛無(wú)人駕駛汽車(chē)也非常明白應該在路過(guò)雜貨店的時(shí)候向你展示哪一些產(chǎn)品信息，因為它已經(jīng)回顧了你過(guò)去的購物行為。

此外，有一次你和朋友在車(chē)里聊天時(shí)提到前一晚上你曾經(jīng)品嘗了一種非常棒的啤酒。你的汽車(chē)聽(tīng)到了你和朋友的對話(huà)，迅速地記下了其中的品牌關(guān)鍵詞，因此當這種啤酒在雜貨店里有售時(shí)就會(huì )自動(dòng)顯示在你的購物清單上。

無(wú)人駕駛汽車(chē)普及的那一天，我們要為便利性所付出的代價(jià)就是處處被監視。

警官，逮捕那個(gè)機器人！

時(shí)間：2045年

地點(diǎn)：美國洛杉磯

奇點(diǎn)年的到來(lái)讓家庭機器人走入每家每戶(hù)。你最近新買(mǎi)了一臺家庭機器人，它能從你的公寓出發(fā)，從10樓坐電梯下樓，去馬路對面的星巴克給你買(mǎi)一杯焦糖星冰樂(lè )。這臺機器人不僅被預編好了一套一般行為準則，還會(huì )通過(guò)觀(guān)察它接觸到的人的行為來(lái)加強自己的導航和社交技能。畢竟，習俗和實(shí)踐需要因地制宜?？赡茉诩~約，你和你遇到的女性握手是適當的行為，但是在伊朗，你和非親屬的女性握手是不被允許的。你可能不知道，你的機器人最近看到了一個(gè)小概率事件，一個(gè)善良的人在警察趕到之前制服了一個(gè)偷錢(qián)包的賊，這個(gè)人贏(yíng)得了周?chē)淮髱蛧^(guān)群眾的贊許和欽佩。

在去給你買(mǎi)咖啡的路上，你的機器人看到了一個(gè)男人和一個(gè)女人扭打在一起，這個(gè)男人在她明確反對的情況下拿走了她的錢(qián)包。機器人根據自己的通用編程和具體經(jīng)驗推測有人正在犯罪，它把男人摔倒在地，一邊控制住他一邊撥打911。

警察趕到之后，那個(gè)男人解釋他和自己的妻子只是在互相鬧著(zhù)玩爭奪車(chē)鑰匙，好決定誰(shuí)來(lái)開(kāi)車(chē)。他的妻子證實(shí)了這個(gè)故事。他們把注意力轉移到了你好心但是倒霉的機器人身上，它盡職地解釋說(shuō)，它只是在你的命令下去買(mǎi)杯飲料而已。這兩個(gè)人憤怒地堅持要警察以傷害罪逮捕你。

這真是糟糕的一天！

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！