機器中的幽靈：人工智能在金融市場(chǎng)的影響、風(fēng)險及監管

人工智能將帶來(lái)的不是不計后果的速度或失控，而是一個(gè)具有史無(wú)前例深度和廣度的洞見(jiàn)，以及依照信息行動(dòng)并從行動(dòng)中學(xué)習的能力。

【編者按】本文作者：Tom Upchurch、Denis McCauley、 Claire Boston，機器之心編譯，參與：吳攀、原野、天之道LYC、趙天昊、劉宗堯、王紫薇、亞洲、微胖

《機器中的幽靈：金融市場(chǎng)中的人工智能、風(fēng)險及監管》是Euromoney Institutional Investor Thought Leadership 的一項調查報告，他們對全球金融機構中的 424 名高級管理人員進(jìn)行了調查問(wèn)卷，研究人工智能/機器學(xué)習在金融市場(chǎng)的風(fēng)險以及監管問(wèn)題。

本文結構：

一、所有系統向前進(jìn)（Go）

二、從快速思維到智能思維

三、起作用的人工智能

四、從摩爾定律到墨菲定律

五、結論

六、關(guān)于本調查

七、附錄（完整調查結果）

一、所有系統向前進(jìn)（Go）

2016 年 3 月 15 日，一個(gè)名為 AlphaGo 的人工智能程序在圍棋中擊敗了人類(lèi)世界冠軍。圍棋游戲非常復雜，其走法存在的可能性數量總和比宇宙原子數量還高出幾百個(gè)數量級。AlphaGo 最終以 4-1 的成績(jì)取得了絕對的勝利。此外在識別模糊模式、學(xué)習新模式和調整策略以應對變化中的環(huán)境等方面，AlphaGo 也展現出人工智能的一些顯著(zhù)進(jìn)步。

然而，就在 AlphaGo 取得勝利兩周之后，一個(gè)名叫 Tay 的聊天機器人就暴露出了人工智能黑暗的一面。 Tay 原本是為了與人們進(jìn)行友好的網(wǎng)絡(luò )交談，并用微軟服務(wù)協(xié)助人類(lèi)。Tay 獨特的設計特點(diǎn)使她可以從在線(xiàn)交互中進(jìn)行學(xué)習。在 Tay 公開(kāi)發(fā)布后，Twitter 用戶(hù)鋪天蓋地的謾罵和煽動(dòng)性語(yǔ)言接踵而來(lái)，這教給了 Tay 錯誤的東西。該程序被敗壞，變得口噴種族主義、性別歧視和排外言論；這揭示了人工智能設計和編程中潛在缺陷，以及人工智能和自然智能之間令人不安的互動(dòng)。

這兩件事揭示了引入人工智能所存在的矛盾。AlphaGo 這樣的程序展示了人工智能可以如何分析海量數據、識別復雜模式，賦予人類(lèi)新的分析能力。相反地，Tay 的惡意故障提醒著(zhù)我們，這項技術(shù)還遠未達到萬(wàn)無(wú)一失的程度，尤其是當與人類(lèi)交互時(shí)。

人工智能將帶來(lái)的不是不計后果的速度或失控，而是一個(gè)具有史無(wú)前例深度和廣度的洞見(jiàn)，以及依照信息行動(dòng)并從行動(dòng)中學(xué)習的能力。

在對全球金融機構和金融科技企業(yè)的 424 位高管進(jìn)行調查、對該領(lǐng)域的一些頂尖專(zhuān)家進(jìn)行采訪(fǎng)之后，我們發(fā)現，隨著(zhù)人工智能在整個(gè)金融市場(chǎng)開(kāi)疆擴土，這一矛盾也同樣很明顯。

許多人將人工智能看作是可以幫助改善金融機構風(fēng)險管理的工具，比如，進(jìn)行更為深度的投資組合風(fēng)險評估和更透徹、更全面、更清楚的信用風(fēng)險評估。在這些應用中，人工智能將帶來(lái)的不是不計后果的速度或失去控制，而是具有前所未有深度、廣度的洞見(jiàn)，以及依照信息行動(dòng)并從行動(dòng)中學(xué)習的能力。

然而，許多專(zhuān)家也承認人工智能的使用存在一定的風(fēng)險。這部分源于不確定性——畢竟在包括交易、投資組合管理和信用評估等許多應用中，人工智能尚處于實(shí)驗階段。因此，安全、隱私和數據質(zhì)量上還縈繞著(zhù)算法出故障的風(fēng)險和擔憂(yōu)，這導致了對新的監管的呼吁。

而人們甚至更擔憂(yōu)人工智能的監管對策。在監管者是否存在足夠的知識和技能以跟上新的金融技術(shù)的問(wèn)題上，本次調研的參與者明顯缺乏信心。事實(shí)上，調查參與者懷疑監管者才剛剛開(kāi)始了解人工智能對金融市場(chǎng)和公司的潛在影響。目前而言，他們關(guān)注的重點(diǎn)仍然是從教訓中吸取經(jīng)驗（fighting the last war ），識別人類(lèi)直接濫用技術(shù)的違反合規行為。他們注意力開(kāi)始轉向算法的正當性，而這也是未來(lái)幾年制定任何關(guān)于機器學(xué)習規則的重點(diǎn)。

調查中，大量金融機構對監管機構了解人工智能相關(guān)的法律風(fēng)險上沒(méi)有信心。但鑒于人工智能在這些部門(mén)的使用處于初期階段，這可能也并不令人驚訝。比如，由于人工智能驅動(dòng)的模型能夠收集和分析更大體量的數據，數據和隱私風(fēng)險也將隨之增長(cháng)。知識產(chǎn)權糾紛也很有可能增加，因為算法的所有權會(huì )導致企業(yè)和監管部門(mén)之間的摩擦。最后在人工智能出故障和編程錯誤的可能事件中，合同和訴訟風(fēng)險也會(huì )涌現。

人工智能和機器學(xué)習毫無(wú)疑問(wèn)將改變該行業(yè)所需的員工人數和技能性質(zhì)。調查中，有明顯少數的受訪(fǎng)者擔心，在未來(lái)幾年中其對勞動(dòng)力的影響是負面的。但大規模的遷移是一個(gè)長(cháng)期過(guò)程——接近 70% 的人認為，人工智能在 15 年內會(huì )給他們自己的工作帶來(lái)徹底或很大程度上的改變。即使是在金融交易這個(gè)自動(dòng)化已經(jīng)得到了廣泛使用的領(lǐng)域，人類(lèi)角色在算法驗證、監控、合規等領(lǐng)域仍然是很關(guān)鍵的。目前，很少人認為，機器學(xué)習模型可以或應該完全獨立于人類(lèi)控制地驅動(dòng)金融市場(chǎng)業(yè)務(wù)。

二、從快速思維到智能思維

購買(mǎi)《華爾街計算機評論》1987 年 6 月刊的人將會(huì )知道圍繞金融市場(chǎng)中的人工智能的討論不新鮮事。其封面上顯眼地寫(xiě)著(zhù)：「教計算機模擬偉大的思想家」，同時(shí)還搭配著(zhù)一張蘇格拉底為一群計算機聽(tīng)眾講學(xué)的圖片，即使 30 年前就已經(jīng)有基于人工智能的交易應用的計劃了。事實(shí)證明，這些早期應用中許多是更接近理論化的而非實(shí)用化的。

盡管以前有一輪又一輪的炒作，但一些評論家認為，這次對人工智能重燃的興趣是合理的。計算能力的持續快速發(fā)展以及計算成本的顯著(zhù)下降讓人工智能應用更加實(shí)用。社交網(wǎng)絡(luò )、智能手機和可穿戴消費設備的增長(cháng)也帶來(lái)了數據數量和可用性的爆發(fā)——這些都變成了優(yōu)化人工智能算法的養料。

從金融機構、技術(shù)和金融科技公司對人工智能投資的增長(cháng)可以看出這種重燃的興趣。BlackRock、Two-Sigma 、 Renaissance Technologies 等基金管理公司一直忙于在全世界挖角最好的數據科學(xué)家。它們與越來(lái)越多的科技公司競爭和合作，其中包括 Context Relevant、Sentient Technologies 和 Kensho，以及谷歌、Facebook 、微軟等人工智能巨頭。僅在 2015 年，這些公司就在人工智能研究、收購和人才上花費了超過(guò) 85 億美元。

在交易和投資管理中，Aidiya 和 Sentient Technologies 這樣的公司是人工智能交易程序的先驅。它們使用機器學(xué)習技術(shù)和進(jìn)化算法的結合來(lái)濃縮巨量數據以識別隱晦的模式，這是其它公司還未實(shí)現的。和通過(guò)人類(lèi)手動(dòng)部署算法更新的傳統量化交易形式相反，許多人工智能軟件程序能自動(dòng)且獨立于人類(lèi)干預地學(xué)習和更新它們的模型。

人工智能交易程序的另一個(gè)特點(diǎn)是差異化的重要性。正如金融咨詢(xún)公司 The Thalesians 的聯(lián)合創(chuàng )始人 Saeed Amen 說(shuō)的那樣：「機器學(xué)習的好處在于它能讓交易者發(fā)現那些不易察覺(jué)的關(guān)系，因此不用再和其他市場(chǎng)參與者進(jìn)行貼身肉搏去爭奪這些交易機會(huì )?！?/p>

這推動(dòng)了差異化，將人工智能和高頻交易（HFT）等其它形式的算法交易區分開(kāi)。例如，高頻交易是關(guān)于速度的，而機器學(xué)習是關(guān)于見(jiàn)解的深度和廣度的?！高@場(chǎng)機器學(xué)習革命，是從急劇擴大的可用數據和信息中識別復雜的模式，從而做出任何視角來(lái)看都是最優(yōu)秀的決策?！菇鹑谛袠I(yè)新聞和分析工具提供商 RavenPack 首席數據科學(xué)家 Peter Hafez 說(shuō)，「該市場(chǎng)正從更快轉向更智能?！?/p>

創(chuàng )新的潛力將因此變得顯著(zhù)——不僅是在交易中，而且還在投資建議和貸款等金融行業(yè)的其它部分。變化不會(huì )馬上到來(lái)，但它會(huì )來(lái)的。按照比爾·蓋茨的名言警句：「我們總是高估未來(lái)兩年內將發(fā)生的變化和低估未來(lái)十年內將發(fā)生的變化?！刮覀兊恼{查表明，人工智能會(huì )導致類(lèi)似的一系列金融市場(chǎng)變革。

三、起作用的人工智能

1）人工智能和機器學(xué)習將具有多大的顛覆性？會(huì )顛覆哪些領(lǐng)域？

在接下來(lái)的三年中，最顯著(zhù)的變化將出現在交易、財務(wù)分析和信息技術(shù)中，它們分別得到了受訪(fǎng)者 64%、60% 和 60% 的認同（見(jiàn)表1）。很多人也希望，機器學(xué)習能實(shí)質(zhì)性的影響到風(fēng)險評估（59%）、信用評估（57%）和投資組合管理（52％）。風(fēng)險評估和金融研究是企業(yè)在未來(lái)三年內最可能實(shí)驗機器學(xué)習應用的領(lǐng)域。

麻省理工學(xué)院斯隆商學(xué)院金融工程實(shí)驗室主任 Andrew Lo（他同時(shí)也是一家定量投資管理公司的創(chuàng )始人）認為，人工智能的影響將會(huì )非常廣泛：「我認為其將改變金融行業(yè)所有方面，因為該行業(yè)的許多部分都可以使用這些類(lèi)型的算法和使用大型數據池來(lái)實(shí)現自動(dòng)化?！?/p>

除了交易和研究，Peter Hafez 還認為，機器學(xué)習將會(huì )極大助益于消費者的信用評分以及不同類(lèi)型的金融機構的合規職能。他指出，比如說(shuō)，合規經(jīng)理開(kāi)始使用新聞源等非結構化內容以警告他們可疑的交易。

機器學(xué)習技術(shù)已經(jīng)在零售投資咨詢(xún)中實(shí)現了應用。據澳大利亞證券和投資委員會(huì )（ASIC）的專(zhuān)員 John Price 稱(chēng)：「機器人顧問(wèn)（Robo-advisers）」——投資管理網(wǎng)站向投資者提供自動(dòng)化的建議——現已構成了一個(gè)使用人工智能的領(lǐng)域，該領(lǐng)域接受積極的監管審查管轄。英國金融行為監管局甚至走得更遠，該機構在其最新的「金融咨詢(xún)市場(chǎng)評估（FAMR）」報告中建議金融機構使用機器建議向它們的客戶(hù)提供「精簡(jiǎn)化建議（streamline advice）」以提升成本效益。

2）即將來(lái)臨的顛覆

接受本報告采訪(fǎng)的專(zhuān)家認為，對金融市場(chǎng)運行來(lái)說(shuō)，機器學(xué)習的顛覆性并不大，至少在未來(lái)的三到五年內是這樣的。當用于交易時(shí)，一家開(kāi)發(fā)人工智能的公司——Sentient Technologies 的首席科學(xué)家 Babak Hodjat 預測，這種顛覆性影響將是十分巨大的，但并不會(huì )造成根本破壞?！敢驗槟阏龔挠扇撕蛿盗糠治鰧?zhuān)家來(lái)出謀劃策、排兵布局轉移到由機器來(lái)做這些事情。過(guò)程更快了，但是結果相似?！?/p>

而且，大多數專(zhuān)家同意，人工智能技術(shù)會(huì )有很多積極應用。Paul Ebner，BlackRock’s Scientific Active Equity Unit 的一個(gè)高級投資組合經(jīng)理相信，機器學(xué)習能夠幫助大量公司進(jìn)行深入的金融分析，金融交易也會(huì )受益于此。

「較之僅僅利用電子表格數據，機器學(xué)習的分析能再深入好幾步。速度很重要，但是，這種速度不同于高頻交易速度。它可以快速為我們處理許多數據并找到市場(chǎng)最終會(huì )發(fā)現的答案?！?/p>

BlackRock’s Scientific Active Equity unit ——一個(gè)大約百人團隊，包括數據科學(xué)家和機器學(xué)習專(zhuān)家以及傳統金融行業(yè)的數量分析專(zhuān)家( quants )——正在將機器學(xué)習技術(shù)置入不同的工作模式來(lái)預測股價(jià)變化。 Ebner 說(shuō)：「我們正在利用這種工具來(lái)分析各企業(yè)的數據，并預測一些基本因素，最終預測這些企業(yè)股票回報，創(chuàng )建投資組合?！贡热?，在公司公布季報之前，這個(gè)團隊通過(guò)分析公司的貨幣風(fēng)險暴露，更加深入地洞見(jiàn)到它們的預期收益。

調查對象對機器學(xué)習將帶來(lái)的另外一項優(yōu)勢洞若觀(guān)火：64%的回答者認為，機器學(xué)習的使用將給金融市場(chǎng)競爭帶非常積極的影響（見(jiàn)表三）。乍看，結果似乎反直覺(jué)。最優(yōu)秀人才和最先進(jìn)技術(shù)的高昂成本，將導致只有那些荷包夠深的公司才能接觸到人工智能。某種程度上，這是實(shí)話(huà)——只有像 Bridgewater 這樣的公司才雇傭得起 IBM 史詩(shī)般超級計算機 Watson 背后的首席工程師。

然而，一些規模較小的公司，甚至個(gè)人已經(jīng)證明它們可以站在浪潮之巔。部分原因在于，開(kāi)源軟件可以讓規模更小的組織用先進(jìn)的算法和代碼進(jìn)行試驗。一個(gè)最近的例子，2016年3月，兩位退休的對沖基金的金融工程師，此前沒(méi)有使用人工智能軟件工作的經(jīng)驗，設計了根據核磁共振成像( MRI )圖片診斷心臟病的算法。盡管這些創(chuàng )新者對人工智能較為生疏，他們仍然可以從開(kāi)源網(wǎng)站 GitHub下載軟件，設計推動(dòng)產(chǎn)業(yè)變革的應用。

這對金融組織間的競爭意味著(zhù)什么，只有時(shí)間才會(huì )告訴我們答案。然而，當產(chǎn)業(yè)巨頭，比如黑石，做了大量繁重的研究和試點(diǎn)工作，人工智能應用和服務(wù)也能變得讓廣大中小型組織觸手可及。

3）案例研究：理解外匯風(fēng)險暴露，預測收益

進(jìn)行大量出口銷(xiāo)售的公司，天然受制于外匯市場(chǎng)的反復無(wú)常。據 Black Rock 的 Paul Ebner 說(shuō)，2014 年，貨幣流動(dòng)，尤其是美元走堅對公司盈利有異乎尋常的影響。BlackRock 的 Scientific Active Equity 團隊并未因此出現紕漏，部分是由于機器學(xué)習。

進(jìn)行大量出口銷(xiāo)售的公司，天然受制于外匯市場(chǎng)的反復無(wú)常。據 Black Rock 的 Paul Ebner 說(shuō)，2014 年，貨幣流動(dòng)，尤其是美元走堅對公司盈利有異乎尋常的影響。BlackRock 的 Scientific Active Equity 團隊并未因此出現紕漏，部分是由于機器學(xué)習。

4）人工智能的洞見(jiàn)

很清楚的是，人工智能以及數據分析取得的進(jìn)展正在引發(fā)用于決策參考的數據類(lèi)型和數量的不斷膨脹。然而，在根據傳統參考單位，比如價(jià)格、利率或收入位數，做出投資決定之前，人工智能可以將事件（events）和意見(jiàn)（sentiment）當做要素，納入資產(chǎn)價(jià)格預測過(guò)程中。比如，吸收非結構化數據有助于推近意見(jiàn)分析。但是，Hafez 說(shuō)，篩選事實(shí)和解釋觀(guān)點(diǎn)意見(jiàn)一樣重要?！覆粌H僅是指傳統意義上的情感（sentiment），比如指引，也是指某些事實(shí)，這些事實(shí)可以從非結構化內容中提取出來(lái)，并以一種機器可以理解的格式予以交付?！?/p>

如今，機器交易模型通常用來(lái)分析收益評估和公司報告。通過(guò)分析產(chǎn)品發(fā)布、回收，監管批準，收購以及其他市場(chǎng)事件，它們可以及時(shí)捕捉到更多的東西。Hafez 也期待機器學(xué)習模型能夠被輸入來(lái)自圖片、視頻素材等方面的洞見(jiàn)。他說(shuō)，有些公司使用衛星圖跟蹤大型零售商店停車(chē)場(chǎng)的汽車(chē)數量，試圖理解它們收入和收益的大致方向。這意味著(zhù)，人工智能可以改變參數，金融機構憑借這些參數做出投資決策。傳統考慮因素的重要性在下降，因為金融機構收集了海量非結構化數據——它們只能借助人工智能和機器學(xué)習的力量。

分析工具正越來(lái)越善于理解語(yǔ)境——機器學(xué)習另一個(gè)重要的不同之處。Ebner 解釋說(shuō)，他的團隊使用的機器學(xué)習工具能通過(guò)上下文來(lái)理解詞匯使用的微妙之處。比如，在美國證監會(huì )檔案中，單詞「垃圾（garbage）」 是指廢物管理，但是，在投資人博客上，這個(gè)單詞很可能就是用來(lái)批評股票或公司管理用語(yǔ)。我們能打造出根據語(yǔ)言來(lái)源語(yǔ)境不同而不斷學(xué)習、演化的詞典。

人們也正在將相似的技術(shù)引進(jìn)到這樣的領(lǐng)域，幫助消費者處理投訴和咨詢(xún)。RBS 最近已經(jīng)宣布，將引進(jìn)人工智能程序（ Luvo）用于協(xié)助消費者投訴。程序擁有人工個(gè)性，模仿了人類(lèi)特征，比如，友善，共情以及理性。據程序員介紹，Luvo 也能從錯誤中學(xué)習，猜測一個(gè)人的情緒狀態(tài)。由此看來(lái)，人工智能被塑造成朋友，而不是敵人。

四、從摩爾定律到墨菲定律

哪些方面會(huì )出錯？Andrew Lo 認為市場(chǎng)將出現更多的瞬間暴跌，或者其他負面變化，行業(yè)和監管者目前對這些問(wèn)題還沒(méi)有清晰的認識?！高@些策略的性質(zhì)使它們很難被理解。這意味著(zhù)它們產(chǎn)生的影響也將很難預測，就像沒(méi)人能預測出2010年5月6日的暴跌——即使到今天我們仍然不太了解到底發(fā)生了什么」。他也提到了騎士資本（Knight Capital）的覆滅，2012年這家美國主要的交易商由于軟件故障在交易過(guò)程中損失了4.4億美元，直接被推到了破產(chǎn)邊緣：「我不認為我們會(huì )很快處理好這類(lèi)問(wèn)題，因為最終要解決的是人類(lèi)能力和技術(shù)之間的錯配和不協(xié)調。即摩爾定律遇上墨菲定律?！?/p>

技術(shù)并不能將對未來(lái)事件下注等金融活動(dòng)的內在風(fēng)險去除。無(wú)論人們或算法怎么做，這種風(fēng)險仍可能存在。

正如貝克·麥堅時(shí)律師事務(wù)所（Baker & McKenzie）的合伙人 Arun Srivastava 指出的，「金融機構已經(jīng)由于交易員違法違規被處罰了數十億美元。銀行可行的應對方案就是用程序化來(lái)做盡可能多的決策，因此越來(lái)越多的銀行去擁抱人工智能和程序化交易。但降低了操作風(fēng)險的同時(shí)，人工智能方面的內在未知風(fēng)險并沒(méi)有被消除?！?/p>

1）所有一切都在算法里

監管部門(mén)雖然對機器學(xué)習還不太了解，但也將算法視為可能發(fā)生問(wèn)題的領(lǐng)域進(jìn)而重點(diǎn)關(guān)注。加拿大投資行業(yè)監管組織（IIROC）市場(chǎng)監管高級副總裁 Victoria Pinnington 稱(chēng)她目前最大的擔憂(yōu)就是關(guān)于算法的產(chǎn)生過(guò)程，無(wú)論是在機器學(xué)習還是在更廣義的系統化交易背景下，「如果算法有問(wèn)題，」她說(shuō)，「對市場(chǎng)的影響可能就會(huì )相當大?！?/p>

算法可能在各個(gè)方面出現問(wèn)題。一個(gè)最常見(jiàn)的錯誤就是「過(guò)度擬合」，通常發(fā)生在一個(gè)算法過(guò)于復雜并缺乏合理假設時(shí)。在這種情況下它們無(wú)法從大量無(wú)關(guān)數據中（噪聲）分辨出有用的相關(guān)性（信號），而是識別出了「幽靈」參數或似是而非的相關(guān)性。想象一下用一個(gè)敏感的麥克風(fēng)對古典音樂(lè )會(huì )錄音。過(guò)度擬合將把周?chē)谋尘霸胍粢暈榕c管弦樂(lè )隊發(fā)出的聲音同等重要。就像 Babak Hodjat 所警示的，「人們可能錯誤的使用機器學(xué)習并且不做檢驗。如果你使用一個(gè)機器學(xué)習算法但沒(méi)有充分檢驗它，那可能就會(huì )存在一些過(guò)度擬合，使算法今天看上去不錯，但明天就可能會(huì )大錯特錯。這是需要仔細檢查的?！?/p>

程序錯誤風(fēng)險提高了使用新程序的壓力。像之前提到的，差異化對于一個(gè)人工智能交易員的成功是很關(guān)鍵的。做出第一款成功的應用，機構將得到一個(gè)獨一無(wú)二的可以盈利的機會(huì )——一個(gè)沒(méi)有競爭的市場(chǎng)。接下來(lái)的風(fēng)險就是其他機構將在市場(chǎng)上應用這個(gè)成功的策略。谷歌前工程師，目前任機器智能研究機構（Machine Intelligence Research Institute）研究人員的 Nate Soares 在接受金融時(shí)報采訪(fǎng)時(shí)稱(chēng)，「將足夠強大的保障措施編入高級人工智能，只有5%的可能性?！?/p>

2）數據、責任和法律風(fēng)險

機構是否已了解與新型金融科技相關(guān)的法律風(fēng)險目前還有很大不確定性：有47%的被調查者對此沒(méi)信心。Price 先生并不驚訝?！冈蛟谟谶@種技術(shù)還處于初期階段，而且還在不斷進(jìn)步。人們對可能的風(fēng)險感到謹慎和些許不確定也正是反映了這種技術(shù)處于初期階段?！?/p>

一個(gè)風(fēng)險是公司責任。做出糟糕的投資決策可能是由于數據質(zhì)量差、對公司業(yè)績(jì)分析失誤、或算法有瑕疵，這都會(huì )引起投資者大幅虧損。機器學(xué)習模型對信用風(fēng)險做出糟糕的決策時(shí)：出借方可能遭受財務(wù)損失、或潛在融資方的聲譽(yù)受損，責任問(wèn)題就可能出現。當這種情形發(fā)生時(shí)由誰(shuí)承擔責任目前還不明晰——金融機構自身、算法的作者、交易平臺、數據提供者、或是其他人？

機器學(xué)習的智能及數據處理特性也可能使數據保護和隱私風(fēng)險達到另一個(gè)高度。個(gè)人投資數據或敏感的公司數據無(wú)論因為事故（被黑客獲?。┻€是因為制度（被市場(chǎng)管理者和政府獲?。┒淙肫渌耸种?，都是互聯(lián)網(wǎng)時(shí)代的一個(gè)非常常見(jiàn)的風(fēng)險。當機器學(xué)習模型為達到更好效果而收集更多的數據時(shí)，這種風(fēng)險也將隨之增大。機構將越來(lái)越需要了解數據隱私與消費者保護法規之間的緊密聯(lián)系，以及擴大的法律管轄范圍，例如歐盟Cookie指令（EU Cookie directive）。貝克·麥堅時(shí)律師事務(wù)所（Baker & McKenzie）合伙人 Adrian Lawrence 預計獲取數據的能力將對人工智能系統的范圍及影響起著(zhù)核心作用，她稱(chēng)「數據，及使用和獲取數據的各類(lèi)規則及過(guò)程，位于具有顛覆性的金融科技領(lǐng)域的核心位置。即使是最先進(jìn)和最智能的算法及模型在不能有效、安全和合法的獲取詳細、準確、及時(shí)的數據時(shí)，也將變得毫無(wú)用處」。

除了法律風(fēng)險，這些被調查者對于他們所在的機構是否了解人工智能的影響也是明顯缺乏信心。49%的被調查者不能確定他們的機構了解了人工智能的其他重大風(fēng)險。只有32%是確定的?？紤]到這項應用還處于早期發(fā)展階段，這項調查表明人工智能將會(huì )向機構展示出一系列風(fēng)險，而其中的大部分還尚未定義。

3）對人工智能的過(guò)度依賴(lài)

很多專(zhuān)家都認為，人工智能最大的威脅不在于機器學(xué)習這項技術(shù)本身，而在于人們對這項技術(shù)的錯誤使用，以及在沒(méi)有人類(lèi)監督的情況下過(guò)度相信人工智能可以達成某些目標?！溉绻覀兠つ康爻缟锌萍?，」Babak Hodjat 警告到，「事情將會(huì )朝著(zhù)錯誤的方向發(fā)展。如果人工智能的成功意味著(zhù)這項技術(shù)更多的應用在無(wú)監管的狀況下，那我們會(huì )承受更大風(fēng)險?！?/p>

Saeed Amen 擔心業(yè)界會(huì )將機器學(xué)習作為一種黑箱來(lái)使用。如果一旦這成為現實(shí)，他說(shuō)：「它們最終將會(huì )創(chuàng )造出一種連自己都無(wú)法理解的交易系統。這是十分危險的，對于任何的系統模型都是如此。你應該理解交易策略到底是什么?！?/p>

就跟人類(lèi)一樣——程序、電腦和機器也有可能會(huì )變得愚蠢。而危險就在于它們是以很高的速度和很大的數量級在運行。騎士資本那場(chǎng)災難正好說(shuō)明了人類(lèi)要對新型人工智能系統保持監督、理解和控制的重要性。

這又和人工智能技術(shù)的核心相矛盾。當我們處理一些存在固有風(fēng)險的任務(wù)——比如做投資決策或者在未來(lái)可能發(fā)生的事情上押寶——時(shí)，對人工智能的過(guò)度依賴(lài)會(huì )擴大系統風(fēng)險。但同時(shí)它也能提升金融機構對于標的公司盡職調查的深度和質(zhì)量。通過(guò)它們強大的數據處理能力，例如詐騙、洗錢(qián)、賄賂和其他的一些傳統手段難以發(fā)現的腐敗行為也可以輕松被鑒別出來(lái)。

通過(guò)這些例子，調查受訪(fǎng)者似乎希望機器學(xué)習將幫助他們在某些情況下降低風(fēng)險。近六成（58%）的人認為機器學(xué)習將「大大提升」他們的風(fēng)險評估流程。比如，機器學(xué)習技術(shù)可以被用來(lái)警示基金經(jīng)理去關(guān)注他們已投的企業(yè)中新出現的一些弱點(diǎn)（參見(jiàn)上圖「了解外匯風(fēng)險預測收益」）。

來(lái)自 Baker & McKenzie 的 Astrid Raetze 還期望消費信貸風(fēng)險評估可以通過(guò)對客戶(hù)進(jìn)行更全面的風(fēng)險剖析來(lái)加強。Raetze 女士表示，「如果能得到正確的部署，人工智能也可以在一些領(lǐng)域降低一定的風(fēng)險。市場(chǎng)失當行為，反洗錢(qián)（AML）行為和了解你的客戶(hù)（KYC）行為都是地方監管機構可以利用人工智能來(lái)改進(jìn)監管和審查的?！够跈C器學(xué)習的分析也可以識別某些客戶(hù)活動(dòng)的具體方式，甚至可能辨別某種形式的瀆職。這有助于解釋為什么相對于其他領(lǐng)域，受訪(fǎng)者更希望能在未來(lái)三年內，機器學(xué)習能應用在風(fēng)險評估領(lǐng)域。

4）人工智能 VS 知識產(chǎn)權

調查對象似乎一致認為，算法需要更多的監管。超過(guò)一半的人（56%）說(shuō)，給監管機構提供檢查交易的算法將有助于保證金融體系的安全。這說(shuō)明大量的金融監管機構正計劃使算法的源代碼開(kāi)放給當局檢查。

例如，美國商品期貨交易委員會(huì )（CFTC）目前正在試圖推動(dòng)一項關(guān)于自動(dòng)交易的規定（或稱(chēng)為 REGAT）。這項規定最有爭議的點(diǎn)之一是，使商品期貨交易委員會(huì )和美國司法部獲得金融機構的交易算法。

REGAT最直接的對手，Chris Giancarlo（美國商品期貨交易委員會(huì )的共和黨成員）認為，給監管機構這種程度的控制將向較小的市場(chǎng)參與者征收額外的合規成本，并阻礙期貨市場(chǎng)的創(chuàng )新。

此外，Giancarlo 先生主要是擔心本條例將標志著(zhù)有關(guān)當局可以前所未有的入侵私人知識產(chǎn)權。他在最近的一份聲明中表示，「我不知道除了國防和安全之外的任何其他行業(yè)，聯(lián)邦政府是否都有如此容易獲得一個(gè)公司的知識產(chǎn)權和未來(lái)的商業(yè)策略的方式…」。類(lèi)似的監管機制也表現在歐洲 MiFID 市場(chǎng)的監管上，并可能導致類(lèi)似的知識產(chǎn)權沖突的算法。實(shí)際上，Baker & McKenzie的 John Flaim 預測知識產(chǎn)權糾紛的本質(zhì)會(huì )顯著(zhù)改變，他認為，「知識產(chǎn)權所有權將是關(guān)鍵。自本世紀初開(kāi)始，電子商務(wù)專(zhuān)利申請的文件有了顯著(zhù)的增加。但是，美國最高法院發(fā)布的判決導致許多電子商務(wù)的專(zhuān)利在2014年全面失效。許多其他地區，比如歐洲，完全不允許軟件專(zhuān)利。金融行業(yè)因此面臨著(zhù)平衡他們已增加的研發(fā)努力和電子商務(wù)專(zhuān)利的高門(mén)檻?！?/p>

在源代碼存儲庫移交之前，監管機構還需要證明數據保護和網(wǎng)絡(luò )安全的能力。2014年3月，一群中國黑客攻擊了美國人事管理辦公室。他們盜竊了2100萬(wàn)份美國聯(lián)邦雇員的記錄，其中包括美國商品期貨交易委員會(huì )的高級成員。這樣的漏洞在當局獲取算法之前就需要修復，然而，結果的出現使得一些人懷疑，監管當局并未認真準備快速迭代的技術(shù)。

5）監管者跟上進(jìn)度了嗎？

當被問(wèn)及金融監管機構是否「跟上了技術(shù)進(jìn)步」時(shí)，76% 的受訪(fǎng)者持反對意見(jiàn)。近十分之七的受訪(fǎng)者表示，他們對于「監管機構對金融技術(shù)和它們對如今金融服務(wù)部門(mén)的影響有足夠的了解」這一點(diǎn)幾乎沒(méi)有信心。一位受訪(fǎng)者評論道，「監管機構可悲的不能勝任人工智能監管，他們需要增強了解，不然有著(zhù)被邊緣化的風(fēng)險?！?/p>

在競爭數據科學(xué)家和其他擁有機器學(xué)習相關(guān)知識的專(zhuān)業(yè)人員方面，面對大型金融機構，監管機構肯定處于不利地位。這使得他們很難跟上這一領(lǐng)域最新的技術(shù)進(jìn)展。不過(guò)，監管機構開(kāi)始探索機器學(xué)習在金融市場(chǎng)扮演的角色和產(chǎn)生的影響。正如 REGAT 和 MiFID II 一樣，很多探索都發(fā)生在整個(gè)系統交易環(huán)境，而不是針對機器學(xué)習。然而，在美國證券交易委員會(huì )和美國金融業(yè)監管局、英國央行（Bank of England）和新加坡金融管理局（Monetary Authority of Singapore）等監管機構帶領(lǐng)下，監管人員開(kāi)始了解人工智能和機器學(xué)習在金融市場(chǎng)扮演的角色。

在 ASIC，John Price 2015 年初帶頭創(chuàng )立了一個(gè)創(chuàng )意中心，試驗在金融市場(chǎng)上應用機器學(xué)習的不同領(lǐng)域，而且它已經(jīng)向使用這樣技術(shù)的公司/組織提供建議。Victoria Pinnington 在加拿大 IIROC 也正在帶領(lǐng)一個(gè)類(lèi)似的組織。兩邊官員都說(shuō)，他們所在的機構都在與監管機構交流研究結果。

這種互動(dòng)便是調查對象們給監管機構提議的核心所在。當被問(wèn)及監管機構應采取的管理新技術(shù)風(fēng)險的單一措施是什么時(shí)，多數受訪(fǎng)者（32%）認為監管機構應該與一些金融科技公司合作。而有的受訪(fǎng)者（25%）則建議應該在全球范圍內協(xié)調跨市場(chǎng)的監管能力。

調查中，絕大多數的產(chǎn)業(yè)管理者們相信，我們需要針對人工智能和機器學(xué)習的新監管形式。60% 的調查對象相信，現存的規定需要加以改善，而目前的監管是不夠的（見(jiàn)圖 6 ）。但是，監管者并不想在近期起草針對人工智能的特別規定。那些近期出現的規定將關(guān)注算法本身或者稍廣泛的系統性交易領(lǐng)域。在澳大利亞，Price 先生說(shuō)，任何規則制定都應該以原則為基礎，而不是基于規定?！溉魏涡碌囊巹t都不會(huì )說(shuō)『你得去做X、Y 還有 Z』。它們會(huì )規定，比如說(shuō)，要求這些公司必須要擁有足夠完善的風(fēng)險管理程序?！?/p>

6）飛行員與自動(dòng)飛行

幾乎可以確信，隨著(zhù)時(shí)間的流逝，機器學(xué)習將把一些交易員、分析師、還有其他產(chǎn)業(yè)雇員推離他們目前的崗位。68% 的調查對象預期，在十五年內將看到自己工作發(fā)生完全或者顯著(zhù)的改變。每十個(gè)人中就會(huì )有四人擔心三年內它會(huì )對勞動(dòng)力結構帶來(lái)負面影響。

然而，在大多數職位中（包括交易），人類(lèi)還不太可能在短期內就消失。據 Hodjat 先生所言，個(gè)體交易者的角色將會(huì )被削弱一些，但絕不會(huì )完全被抹滅。他指出，特定類(lèi)型的交易技能是無(wú)法被代替的，才華橫溢的專(zhuān)業(yè)人員也會(huì )被需要，比如需要他們構建、驗證算法。這也許會(huì )挫敗一位微軟執行官在 2014 年所作出的預言：「在十年內，將由機器人運行這座城市，投資銀行家們、分析師們、甚至是量化分析師都會(huì )變得多余?！?/p>

Amen 先生也相信，引導人工智能運用走向成功，人類(lèi)直覺(jué)和影響十分重要?！讣词故褂脵C器學(xué)習，你仍需要運用少量的市場(chǎng)理解和直覺(jué)。輸入一個(gè)系統，接下來(lái)十年都不管它，情況不是這樣的；你時(shí)刻都希望想出與市場(chǎng)變化有關(guān)的新點(diǎn)子，這最終還是需要人來(lái)做?！?/p>

Ebner 先生把機器學(xué)習時(shí)代里投資組合經(jīng)理的職位比做飛行員?！肝覀冎?chē)嬖谀撤N結構，而且我們一路上幾乎都在采用自動(dòng)飛行模式，但是，我們可以將一些細節信息輸入導航系統，可以決定什么時(shí)候自動(dòng)飛行，什么時(shí)候手動(dòng)操作。我們正控制著(zhù)這架飛機?！?/p>

五、結論

2016 年年初，一群世界領(lǐng)軍的企業(yè)家，包括 Peter Thiel 和 Elon Musk，宣布他們將要投入十億美金建立一個(gè)叫做 OpenAI 的公司。它的唯一目的就是保護人類(lèi)免受人工智能危害。在一封公開(kāi)信中，這些創(chuàng )始人總結了這項技術(shù)中的緊張關(guān)系，寫(xiě)道，「我們很難測量人類(lèi)級別的人工智能到底會(huì )給社會(huì )帶來(lái)多少好處，同樣難以想象如果以不當的方式構建、使用人工智能，會(huì )對社會(huì )產(chǎn)生什么樣的危害?！?/p>

類(lèi)似的情緒也貫穿了金融市場(chǎng)對人工智能應用的看法。所有人都承認，機器學(xué)習會(huì )有多么顛覆性，對比，我們還有很多需要學(xué)習的地方。同時(shí)，我們也需要去了解它潛在的負面效果。

大多數的受訪(fǎng)者都對未來(lái)人工智能在金融市場(chǎng)的角色表示出謹慎的樂(lè )觀(guān)。這一樂(lè )觀(guān)態(tài)度源自于人們認識到，成功的應用將會(huì )帶來(lái)的巨大機遇。然而，像所有的科技一樣，很大程度上，人工智能使用方式將最終決定它的風(fēng)險跟回報。

六、關(guān)于本調查

1）定義我們的術(shù)語(yǔ)

人工智能是一個(gè)總稱(chēng)，包含了計算機科學(xué)研究的多個(gè)領(lǐng)域，這些領(lǐng)域都試圖讓計算機系統執行那些通常需要借助人類(lèi)智能的任務(wù)，比如視覺(jué)感知和決策。機器學(xué)習是人工智能的一個(gè)分支，它能讓計算機系統根據算法和分析數據，獨立學(xué)習和自適應。人們正將機器學(xué)習布局在金融業(yè)的幾個(gè)領(lǐng)域里，最顯著(zhù)的當屬交易和財務(wù)研究方面，但是，機器學(xué)習也被用于其它方面，比如投資咨詢(xún)。

2）這一研究

調查時(shí)，Euromoney Institutional Investor Thought Leadership 從全世界的金融機構中調查了424 名高級管理人員。其中，超過(guò)四分之一（26%）的受訪(fǎng)者在資產(chǎn)管理公司工作，16% 的受訪(fǎng)者在投資銀行工作，其余的在銀行、保險公司、對沖基金和經(jīng)紀公司工作。大多數的受訪(fǎng)者（57%）在他們的公司擁有 C 級職位；剩下的其他人是不同領(lǐng)域的高級管理人員，包括數據、技術(shù)、法律、合規等。此外，調查對象中大型、中型、小型企業(yè)都有涉及，51% 的公司擁有 100 名或更多的員工。最后，調查樣本是全球范圍的：三分之一的受訪(fǎng)者來(lái)自歐洲，三分之一的受訪(fǎng)者來(lái)自北美，16% 來(lái)自亞洲，剩下的受訪(fǎng)者來(lái)自拉丁美洲、中東和非洲。

除外，還有 11 名高級產(chǎn)業(yè)高管和獨立專(zhuān)家參與了深度訪(fǎng)談。

他們是：

Saeed Amen ：Thalesians 總經(jīng)理、聯(lián)合創(chuàng )始人

Paul Ebner：Blackrock Scientific Activ Equity 高級投資組合經(jīng)理

John G.Flaim：貝克•麥堅時(shí)的知識產(chǎn)權全球總監

Peter Hafez：首席數據科學(xué)家，Raven Pack

Babak Hodijat：Sentient 科技公司的首席科學(xué)家

Adrian J.Lawrence：貝克•麥堅時(shí)的媒體和 IT 合作伙伴

Andrew Lo：MIT 斯隆管理學(xué)院金融工程實(shí)驗室的金融教授、主任

Victoria Pinnington：加拿大投資行業(yè)監管組織（IIROC）市場(chǎng)監管高級副總裁

John Price：澳大利亞證券投資委員會(huì )委員

Astrid Raetze：貝克•麥堅時(shí)的銀行與金融業(yè)務(wù)合作伙伴

Arun Srivastava：貝克•麥堅時(shí)的金融服務(wù)監管合作伙伴

《機器中的幽靈：金融市場(chǎng)中的人工智能、風(fēng)險及監管》是Euromoney Institutional Investor Thought Leadership 的一項報告，受到了貝克·麥堅時(shí)國際律師事務(wù)所的委托。這一研究由 Thought Leadership 指揮完成的。報告中的結果和觀(guān)點(diǎn)只代表 Thought Leadership 公司自己，不完全反映贊助商的觀(guān)點(diǎn)。

調查數據產(chǎn)生了許多關(guān)于人工智能技術(shù)如何被來(lái)自世界各地的管理者們采用、管理和感知的有趣發(fā)現和見(jiàn)解。下面是調查中一些其它有趣的發(fā)現。

3）非洲是人工智能「局外人」？

當被問(wèn)到在接下來(lái)的三年里，人工智能和機器學(xué)習將會(huì )顛覆哪三大部門(mén)時(shí)，幾乎世界各地的金融服務(wù)高管們都選擇信貸、資產(chǎn)管理和股票證券交易受到的影響最大。

特例是那些來(lái)自中東和非洲的調查對象。有趣的是，他們預言了支付系統和虛擬錢(qián)包將會(huì )首先受到顛覆。正當大量的移動(dòng)銀行平臺在非洲鄉村推廣時(shí)，我們能否期待新的人工智能應用將會(huì )更進(jìn)一步的改革非洲的小額銀行業(yè)務(wù)？

4）最高管理層預見(jiàn)了顛覆

我們分析了參與者中高級管理層的回答，他們是一個(gè)有影響力的團體，占到了全部調查人數的 57%。驚奇的是，這些決策制定者們認為，在整個(gè)金融服務(wù)業(yè)中，人工智能最負面的影響將會(huì )體現在勞動(dòng)力結構上。

39% 的調查對象認為人工智能在勞動(dòng)力結構上的影響，要么非常消極要么比較消極。他們也承認，人工智能在市場(chǎng)穩定性上的負面影響，有 38% 的人認為人工智能技術(shù)將會(huì )有負面的或者非常負面的影響。

5）監管和干預上的合作與協(xié)調

當我們要求調查對象給出一個(gè)監管機構應該采取的、解決新科技影響的最重要的辦法時(shí)，大多數人表示，監管機構和金融科技使用者之間的合作是最重要的（32%）。然而，亞洲的調查對象把以一種系統的全球方式，協(xié)同各個(gè)市場(chǎng)的監管能力看做是最重要的措施。不出所料，（38%）調查對象不認為，管理者增加市場(chǎng)監督或者迫使市場(chǎng)參與者們公布更多技術(shù)信息是最佳的解決辦法。

6）對監管者的信任度

全球對監管者的信任度都非常低，但在北美洲尤其的明顯。這個(gè)發(fā)現非比尋常。因為美國的金融監管者已經(jīng)引進(jìn)了全球最先進(jìn)的機構，其中包括金融研究辦公室（the Office for Financial Research），一個(gè)通過(guò)先進(jìn)的數據科學(xué)對金融市場(chǎng)進(jìn)行更為精細分析的組織。

7）人工智能/機器學(xué)習和監管

一些調查對象相信，為了解決由人工智能/機器學(xué)習引發(fā)的問(wèn)題，需要起草、實(shí)施進(jìn)一步的規定。那些專(zhuān)司法律、合規以及規定領(lǐng)域的調查對象，與數據和技術(shù)特定部門(mén)人士一起，最渴望新規定的出臺和實(shí)施。

七、附錄（完整調查結果）

Q1：你認為，三年內，下面的金融服務(wù)部門(mén)會(huì )多大程度上被人工智能和機器學(xué)習技術(shù)改變？

Q2：在未來(lái)三年，你期望人工智能和機器學(xué)習最能顛覆哪一個(gè)金融服務(wù)部門(mén)？（最多選擇三項）

Q3：在未來(lái)三年，人工智能和機器學(xué)習對下面金融市場(chǎng)方面將產(chǎn)生怎樣的影響？

Q4：人工智能和機器學(xué)習會(huì )如何影響金融市場(chǎng)結構？下面哪一條描述，最接近你的預測？

Q5：就中、長(cháng)期而言，你認為，你的工作將多大程度上被人工智能和機器學(xué)習技術(shù)改變？

Q6：在接下來(lái)三年中，下面列出的技術(shù)中，哪一個(gè)對你的公司/組織最為重要？

Q7：您希望貴公司在未來(lái)三年中將人工智能或機器學(xué)習技術(shù)引入哪些領(lǐng)域？（可多選）

Q8：貴公司通過(guò)何種方式開(kāi)發(fā)人工智能或機器學(xué)習的能力儲備？（可多選）

Q9：公司希望借由引入人工智能或機器學(xué)習技術(shù)所達到的最重要的優(yōu)勢是那些（最多三項）？

Q10：公司在嘗試引入人工智能或機器學(xué)習技術(shù)所遇到的最艱難的障礙是那些（最多三項）？

Q11：公司董事會(huì )是否了解新技術(shù)對公司業(yè)務(wù)產(chǎn)生的更加廣泛的影響？

Q12：你是否贊同以下陳述？

Q13：為了應對金融新技術(shù)所造成的影響，監管機構應采取的最重要措施是哪一個(gè)？

Q14：你是否認同以下觀(guān)點(diǎn)？

Q15：監管部門(mén)已經(jīng)充分了解及融技術(shù)及其對當前金融服務(wù)部門(mén)的影響，對于這一判斷，你有多大信心？

Q16：為了降低監管風(fēng)險，監管者應當優(yōu)先在 哪個(gè)領(lǐng)域采納人工智能技術(shù)？

Q17：你認為現有的規定足夠解決人工智能/機器學(xué)習產(chǎn)生的問(wèn)題？

Q18：你所在的組織已經(jīng)很好理解了所有與新技術(shù)有關(guān)的實(shí)質(zhì)法律風(fēng)險嗎？對此，你有多自信？

Q19：你的公司/組織已經(jīng)認識所有其他與金融技術(shù)有關(guān)的風(fēng)險了嗎？對此，你有多自信？

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！