李開(kāi)復：我反對馬斯克“AI末日論”，科幻跟科學(xué)是兩碼事

其實(shí)過(guò)去幾個(gè)月，李開(kāi)復和國內外AI專(zhuān)家、圖靈獎國際得主就這個(gè)話(huà)題也有過(guò)不少交流，大家基本都同意扎克伯格、李開(kāi)復的觀(guān)點(diǎn)。

【編者按】本文轉載自微信公眾號量子位

十天前，硅谷鋼鐵俠、特斯拉CEO伊隆·馬斯克在幾十位美國州長(cháng)面前，聲稱(chēng)AI是對人類(lèi)存在的最大威脅，并且呼吁加強對AI的監管。

雖然馬斯克鼓吹這一論調已經(jīng)多年，但這次整個(gè)AI界似乎都站到了他的對面，對他的批評聲不絕于耳，直到Facebook創(chuàng )始人扎克伯格出手，事件到達了高潮。

“我認為那些對AI持否定態(tài)度或者鼓吹末日論的人，其實(shí)根本沒(méi)理解什么是AI。他們的看法太消極了，甚至有些不負責任”，扎克伯格談到馬斯克時(shí)如是說(shuō)。他還補充道“未來(lái)5-10年內，AI將大幅提高我們的生活質(zhì)量。”

這很快成為搶眼的新聞標題，而馬斯克也通過(guò)推特給予了回擊：“我跟小扎聊過(guò)了。他對這事兒（AI）的理解有限”。

不負責任vs理解有限。

應該如何正確看待馬斯克和扎克伯格這次關(guān)于A(yíng)I的隔空交手？AI是個(gè)末日威脅么？量子位就這個(gè)問(wèn)題，請教了李開(kāi)復博士。

李開(kāi)復表示，Facebook有世界頂尖AI團隊，扎克伯格在這個(gè)問(wèn)題上肯定不會(huì )“理解有限”。

李開(kāi)復明確反對馬斯克“AI終將滅絕人類(lèi)”的悲觀(guān)論調。他指出AI現在僅僅是人類(lèi)的工具，離擁有意識的“超級智能（Superintelligence）”還非常遙遠，更別提滅絕人類(lèi)了。

其實(shí)過(guò)去幾個(gè)月，李開(kāi)復和國內外AI專(zhuān)家、圖靈獎國際得主就這個(gè)話(huà)題也有過(guò)不少交流，大家基本都同意扎克伯格、李開(kāi)復的觀(guān)點(diǎn)。

另一方面，李開(kāi)復警告說(shuō)：馬斯克如此高調頻繁地宣揚AI帶來(lái)的威脅，可能會(huì )讓大眾忽視AI正在帶來(lái)的巨大機遇，也會(huì )讓更多更緊迫的AI問(wèn)題沒(méi)有得到關(guān)注，這只會(huì )撿了芝麻丟了西瓜。

李開(kāi)復表示，是時(shí)候就著(zhù)這次辯論，直接評論下馬斯克的“AI末日論”了。

李開(kāi)復回復全文

量子位問(wèn)我關(guān)于這次馬斯克和扎克伯格辯論AI未來(lái)的看法。

坦白講，我不太認同伊隆·馬斯克“AI滅絕人類(lèi)”的觀(guān)點(diǎn)，對于當前AI的發(fā)展看法，我有5個(gè)方面的具體觀(guān)點(diǎn)：

AI只是工具，離超級智能還很遠；基于我投入AI領(lǐng)域的科研、開(kāi)發(fā)、投資相關(guān)工作37年的經(jīng)驗，“超級智能”、“滅絕人類(lèi)”這類(lèi)聳人聽(tīng)聞的說(shuō)法，根本沒(méi)有切實(shí)的工程基礎。

智庫、科學(xué)家應該討論AI安全問(wèn)題、AI對社會(huì )的改變，但是科技圈的意見(jiàn)領(lǐng)袖不應該在這時(shí)誤導大眾AI要控制人類(lèi)，讓人類(lèi)滅亡，這確實(shí)是不負責的說(shuō)法。大部分的人已經(jīng)對AI所知有限，這會(huì )造成更為錯誤不實(shí)的群眾恐慌。

AI可以為人類(lèi)創(chuàng )造大量財富，甚至逐漸解決人類(lèi)溫飽問(wèn)題；我們每個(gè)人也將獲得更多的時(shí)間和自由，來(lái)做我們愛(ài)做的事情。

AI真實(shí)會(huì )帶來(lái)的問(wèn)題是人類(lèi)的失業(yè)，失業(yè)后可能的抑郁和喪志問(wèn)題，還有貧富不均問(wèn)題，人類(lèi)社會(huì )目前所習慣的職業(yè)結構確實(shí)會(huì )發(fā)生顯著(zhù)的改變。

AI會(huì )帶給我們100%確定性的巨大機會(huì )，隨著(zhù)改變也會(huì )產(chǎn)生些必然的問(wèn)題。此時(shí)去用概率極低甚至是零可能性的“超級智能”，誤導大眾恐懼AI，甚至約束AI，反而不去擁抱機會(huì )、解決問(wèn)題，是沒(méi)有道理的。

AI大咖們怎么看？

這其中有我的看法，也有一些已是業(yè)內不少專(zhuān)家的共識。如果我們去問(wèn)頂尖AI專(zhuān)家，絕大多數是同意扎克伯格和我的看法的，比如說(shuō)圖靈獎得主Rodney Brooks。

Rodney Brooks的觀(guān)點(diǎn)是：“有很多人都聲稱(chēng)AI是人類(lèi)存在的威脅：斯蒂芬·霍金、馬丁·里斯爵士……在沒(méi)有親身在A(yíng)I領(lǐng)域工作的情況下，這樣的想法很普遍。我們能夠理解，對于那些不在A(yíng)I領(lǐng)域工作的人，要通過(guò)產(chǎn)品級別的東西來(lái)弄明白一些問(wèn)題有多么困難。他們會(huì )根據一個(gè)領(lǐng)域的一個(gè)AI成果，就一概而論地認為AI會(huì )在多領(lǐng)域超過(guò)人類(lèi)。但是其實(shí)今天的AI，只是在某一個(gè)狹窄領(lǐng)域基于大數據優(yōu)化，只能說(shuō)是個(gè)很厲害的模式識別引擎。要做到通用的、無(wú)所不能的AI根本不知從何開(kāi)始。”

另外，Rodney Brooks也提到，馬斯克想要立法管理AI，但是需要管理的通用AI都不存在，如何立法？

實(shí)際上，今年五月在上海的ACM圖靈獎五十周年大會(huì )論壇討論上，我和三位圖靈獎獲得者討論時(shí)，基本也是類(lèi)似觀(guān)點(diǎn)，描述了人類(lèi)今天并不知道如何做出“超級智能”，也否定了量子計算取代大腦的一說(shuō)。

當然，持“AI末日論”觀(guān)點(diǎn)的除了馬斯克，另一知名的人是斯蒂芬·霍金，霍金是杰出的物理學(xué)教授，但并不意味著(zhù)他在A(yíng)I方面的觀(guān)點(diǎn)也同樣令人認同。

著(zhù)名的AI研究專(zhuān)家Michael Jordan就直言不諱地說(shuō)過(guò)，如果你有物理學(xué)方面的問(wèn)題，可以向霍金求教，但如果是AI方面的問(wèn)題，可能更合適的人選是自己。

吳恩達聽(tīng)到霍金馬斯克等關(guān)于“超級人工智能”的觀(guān)點(diǎn)時(shí)，他直接忍不住地用手蓋住了臉。

吳恩達說(shuō)：作為真的做AI產(chǎn)品的人，我看不到今天的AI可能發(fā)展為邪惡力量的任何可能性。

甚至在聽(tīng)到“奇點(diǎn)理論”之類(lèi)的觀(guān)點(diǎn)時(shí)，吳恩達索性翻白眼，他甚至說(shuō)：聽(tīng)到奇點(diǎn)，我的眼睛就會(huì )自動(dòng)翻白。

另一位知名的AI大咖Geoff Hinton也明確表示，未來(lái)50年內，我不對什么“超級人工智能”的實(shí)際進(jìn)展抱有希望。

所以，我認識的業(yè)界真正做過(guò)突破性計算機和AI科研工作的人，都是更支持扎克伯格的看法的。

實(shí)際上，許多硅谷主流的企業(yè)家、圖領(lǐng)獎的科學(xué)家，已經(jīng)私下對馬斯克和霍金的言論不認可有段時(shí)間了。我之前在《紐約時(shí)報》和《連線(xiàn)》的專(zhuān)欄文章中，其實(shí)也表達了這種“不認可”，只是并沒(méi)有那么直白地針對馬斯克或霍金教授說(shuō)出來(lái)。

我在《連線(xiàn)》的專(zhuān)欄文章中說(shuō)：“一些自稱(chēng)未來(lái)學(xué)家的人開(kāi)始對人工智能做出各種預言，他們談?wù)撝?zhù)’超級智能’、’奇點(diǎn)’、’人機結合’，甚至毫無(wú)根據地聲稱(chēng)’我們其實(shí)就生活在電子游戲當中’。這些反烏托邦的警告令人惴惴不安，這些言論大多出自世界級的科技大拿之口，又透過(guò)科幻小說(shuō)中那些大家所熟悉的橋段和場(chǎng)景而深植人心。”

實(shí)際上就是針對馬斯克一系列的言論觀(guān)點(diǎn)，希望提醒大家，區分“科幻”和“科學(xué)”的不同。

更加直白來(lái)說(shuō)，我認為那些聳人聽(tīng)聞的預言并沒(méi)有切實(shí)的工程基礎?？?ldquo;幻”小說(shuō)主要是幻想，而不是“科”學(xué)。我們目前面臨的真正危機并不在于擔憂(yōu)這樣的情況在遙遠的未來(lái)可能會(huì )發(fā)生，而是解決即將到來(lái)的職業(yè)取代問(wèn)題。

但這一次扎克伯格這樣直白地反對和批評馬斯克，我覺(jué)得或許是真的認為馬斯克的言論實(shí)在過(guò)激了，特別是面對美國重要的政治人物演講時(shí)，如此言之鑿鑿地談AI毀滅人類(lèi)。

更早之前，Michael Jordan也明確批評過(guò)，他說(shuō)：AI科學(xué)家必須絕對誠實(shí)，無(wú)論是對你的出資者、贊助商、員工、同行、同事、公眾，還有面對你自己。當我們誠實(shí)地面對AI時(shí)，有不誠實(shí)或妄想者做出瘋狂的AI預言（而影響了公眾輿論甚至政府政策），這些人讓我們這些務(wù)實(shí)又誠實(shí)的科學(xué)家活得很艱難。

機器人將會(huì )處理一切工作？不認同

我也不認同馬斯克“機器人將會(huì )處理一切工作”的看法，這有點(diǎn)以偏概全了。一方面，我同意AI將取代簡(jiǎn)單的、重復性的工作，但另一方面是我們完全可以給人類(lèi)創(chuàng )造新的工作，而且是AI做不了的工作。

AI做不了的工作是什么呢？我們會(huì )發(fā)現主要是創(chuàng )造力和社交相關(guān)的能力，那么最多10%的工作屬于創(chuàng )造性部分，而90%就必須進(jìn)入社交為核心的服務(wù)型工作。

所以，我們要鼓勵更多年輕人走向創(chuàng )造的路線(xiàn)，無(wú)論是理工科學(xué)的發(fā)明，或者是人文藝術(shù)的創(chuàng )意。AI只能夠優(yōu)化，只有人才能夠創(chuàng )造。

另外，服務(wù)業(yè)會(huì )有很多的機會(huì )，尤其是社交屬性較強，“有愛(ài)”的服務(wù)業(yè)。這包括了已有的行業(yè)：熱情的導游、細心的禮賓、風(fēng)趣的調酒師、有感染力的美發(fā)師、饒富創(chuàng )意的壽司師傅。我們也會(huì )創(chuàng )造新的行業(yè)：可以上門(mén)服務(wù)的營(yíng)養廚師、能夠按照季節更替來(lái)上門(mén)服務(wù)的居家換季師、帶你年邁的父母去醫院的銀發(fā)關(guān)愛(ài)專(zhuān)家。甚至包括了一些志愿者型的工作：血庫的助工、孤兒院的老師、夏令營(yíng)的輔導員、誡癮互助會(huì )的發(fā)起人。

我們需要改變社會(huì )思想和教育，讓做服務(wù)業(yè)的人能夠從中得到滿(mǎn)足。如果服務(wù)業(yè)能夠盡量幫助他人，關(guān)懷他人，解決他人問(wèn)題或苦惱，讓他人開(kāi)心，這樣不就解決自我實(shí)現的問(wèn)題了嗎？（當你做到這幾點(diǎn)的時(shí)候，是不是很開(kāi)心，很自豪呢？）

即便不是90%的人都從事這樣服務(wù)型的工作，假設只有50%做到，還有少數提早退休，專(zhuān)注自己的嗜好，或在網(wǎng)上消磨時(shí)間，只有極少數可能有抑郁或其它問(wèn)題。

這樣社會(huì )也穩定下來(lái)了，不是嗎？

馬斯克應該多聽(tīng)聽(tīng)AI專(zhuān)家的意見(jiàn)

最后，坦白講，我并不認為通過(guò)這次辯論可以馬上改變馬斯克的觀(guān)點(diǎn)，畢竟他對“超級人工智能”如此堅信而著(zhù)迷——甚至影響他的那個(gè)作家改變主意了，他也看起來(lái)不準備改變。馬斯克被OpenAI研究超級人工智能的科學(xué)家圍繞著(zhù)，所以他們必然彼此影響鼓吹著(zhù)末日論。就如扎克伯格被務(wù)實(shí)的Yann LeCun（Facebook AI研究院院長(cháng)）和創(chuàng )造商業(yè)價(jià)值的人工智能專(zhuān)家圍繞著(zhù)，所以也一定彼此影響對AI保持樂(lè )觀(guān)。

雖然伊隆·馬斯克過(guò)去展現出的遠見(jiàn)和戰略思維令人敬佩，對他啟動(dòng)OpenAI的初衷——開(kāi)放AI作為約束AI的一種方法，我也深感認可，但對于馬斯克一直以來(lái)對于A(yíng)I過(guò)于悲觀(guān)和具有毀滅性的論調，我卻非常不認同。

相對來(lái)說(shuō)，我認為在“AI和人類(lèi)未來(lái)”這個(gè)話(huà)題上，我們應該更多聽(tīng)取扎克伯格的看法，扎克伯格的團隊是真實(shí)用了AI，解決了問(wèn)題，創(chuàng )造了價(jià)值。他麾下有Yann LeCun帶領(lǐng)的一流AI研究人才，他們很清楚目前AI能做什么、不能做什么，以及可預見(jiàn)的將來(lái)能做什么。

而且據說(shuō)馬斯克關(guān)于“超級人工智能”的觀(guān)點(diǎn)，受到牛津大學(xué)人類(lèi)未來(lái)研究院院長(cháng)、《超級智能》的作者Nick Bostrom（尼克·波斯特洛姆）的啟發(fā)，但最近這個(gè)影響了馬斯克論點(diǎn)的人，也公開(kāi)表示“反水”了，他認為自己書(shū)中所寫(xiě)的超級人工智能帶來(lái)的悲慘情況，并不意味著(zhù)有可能發(fā)生。

更早之前還有人告訴我，說(shuō)馬斯克之所以如此篤定超級人工智能的威脅，是因為DeepMind當年在尋求收購時(shí)，曾表達了超級人工智能威脅之類(lèi)的觀(guān)點(diǎn)，所以還要求收購了他公司的人，要設立一個(gè)道德委員會(huì )去約束DeepMind未來(lái)的所作所為，免得毀滅人類(lèi)。當時(shí)的潛在收購者之一馬斯克深受影響。

但DeepMind創(chuàng )始人哈薩比斯的要求，可能其實(shí)是在收購案過(guò)程中開(kāi)的一個(gè)“策略”，讓他的團隊看起來(lái)更強大。AlphaGo很強，但離“超級智能”還很遠。并且哈薩比斯后來(lái)自己也承認了，AI威脅人類(lèi)的事情，還太過(guò)遙遠。

所以對于A(yíng)I和人類(lèi)的關(guān)系，我認為馬斯克應該多聽(tīng)聽(tīng)真正的每天把AI當做工作的人的看法。我認為他也可以去和最頂尖的AI專(zhuān)家和圖靈獎得主交流，看看為什么這些專(zhuān)家都不認可他的“超級智能”和“末日觀(guān)”。

馬斯克這么多年確實(shí)有不少偉大的創(chuàng )新創(chuàng )作，而且基本沒(méi)有失敗過(guò)，但并不意味著(zhù)他不需要在“超級智能”這個(gè)問(wèn)題上三思而后“談”。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！