在演講中,Stuart Russell先生澄清了一些AI方面的誤解,指出它是一個(gè)典型的、深度學(xué)習(xí)的架構(gòu),并指出AI對(duì)金融領(lǐng)域的影響。
以下是Stuart Russell先生演講精選。
非常感謝大家邀請(qǐng)我來到這里,非常榮幸,這也是我第一次來到上海。我的女兒在上海住過一年,她很喜歡這個(gè)城市,我也非常高興來到上海。
首先也要澄清一些AI方面的誤解,AI并不是有感知的機(jī)器,并不是我們要擔(dān)心機(jī)器突然醒來憎恨人類,這些AI,并不一定都是深度學(xué)習(xí)的。大數(shù)據(jù),也是我們經(jīng)常見到的詞,但是很多時(shí)候AI并不是和這些概念相關(guān)。另外,它并不是萬能藥,并不是所有的問題可以用人工智能來做,很多問題我們不能理解,我們應(yīng)該怎么做、怎么理解怎么做、怎么解決,但是AI的進(jìn)程,在未來我們非常樂觀,來幫助我們解決。比如在英國、歐洲,有很多的銀行現(xiàn)在都在設(shè)計(jì)人工智能的APP。目前也做了很多研究,AI怎么對(duì)人們提供服務(wù),已經(jīng)發(fā)展了很多,但依然還有很長的路,AI可以繼續(xù)發(fā)展,為人們提供更好的服務(wù)。
從金融方面的經(jīng)典方式,沒有模型經(jīng)典方式的機(jī)器來做。你在電腦里面收集一些已知來源的數(shù)據(jù),比如個(gè)人的信用卡交易結(jié)果,他們是否歸還了信用卡欠款?還是違約了?我們把這些信息收集之后,創(chuàng)建一個(gè)預(yù)測(cè)的分類器。對(duì)于新的用戶來說,收集他們的數(shù)據(jù),預(yù)測(cè)他們是否會(huì)違約,以及基于他們過往的交易,決定給他們多少額度。這也是基于電腦的決策樹、深度神經(jīng)網(wǎng)等技術(shù)來實(shí)行。一旦建立了分類器,客戶有新的事件你就可以來應(yīng)用了。
相比人類的專家來說,我們認(rèn)為AI非常有價(jià)值,可以以非常低的成本做出預(yù)測(cè),這是一個(gè)典型的、深度學(xué)習(xí)的架構(gòu)。在座的各位可能對(duì)公司分析來說,都會(huì)知道一些基本內(nèi)容。中石油,你想對(duì)它的股票進(jìn)行分析,你看它的基本面、看它的交易、市場(chǎng)、相關(guān)風(fēng)險(xiǎn)等等,你要預(yù)測(cè)他們的財(cái)務(wù)結(jié)果。利用AI,對(duì)于個(gè)人也可以進(jìn)行分析。非常重要的就是多少人可以被模型使用。我們可以對(duì)每個(gè)人進(jìn)行分析,收集他們生命周期的靜態(tài)變量,他們的生日、教育、婚姻、子女、工作、住所等,這些參數(shù)和變量,可能對(duì)他們的金融行為都會(huì)有很大的影響,來幫助我們進(jìn)行預(yù)測(cè)。比如他們是否會(huì)搬家,子女的教育是什么樣的情況?他們還有幾年才退休等等,這些人們生命事件,可以影響每個(gè)人的金融交易和他們未來的金融模式、金融行為。我們對(duì)于每個(gè)人可以建立這樣的金融模型,我們也可以進(jìn)行預(yù)測(cè)它的金融交易結(jié)果,來知道他們的金融交易、他們的賬戶、金融的流向、貨幣的兌換,當(dāng)我們收集到這些數(shù)據(jù)的時(shí)候,我們看到這個(gè)人做了這個(gè)交易,就可以監(jiān)測(cè)這些數(shù)據(jù)是否是真實(shí)的、是否是合理的。這種方式的優(yōu)點(diǎn),就是我們可以通過收集的數(shù)據(jù)來解釋決策。我們不能提供給你這個(gè)理財(cái)產(chǎn)品、不可以給你提供借貸,你可以解釋給他們?yōu)槭裁床豢梢赃@么做。
另外,可以通過更少的數(shù)據(jù),做出更精準(zhǔn)的預(yù)測(cè)。還有就是數(shù)據(jù)的錯(cuò)誤率、失落率也會(huì)比較低。也有劣勢(shì),基于模型的方法的,第一個(gè)是它的成本非常高,因?yàn)槟阋薪5膶<液蛯?shí)際數(shù)據(jù)當(dāng)中要做很多的實(shí)驗(yàn),但這是一勞永逸的。也就是說,每個(gè)人出生、去學(xué)校,他們會(huì)結(jié)婚、有子女、退休、過世,人生的事件或多或少是一樣的,建立一個(gè)模型就可以一勞永逸,再用AI的軟件進(jìn)行分析。
轉(zhuǎn)換一下話題,講一下金融行業(yè)以及AI對(duì)金融行業(yè)的影響。我們比較熟悉P2P借貸、銀行的APIs,也就是第三方寫軟件,和銀行直接進(jìn)行交互、幫助銀行操作他們客戶的賬戶。一個(gè)公司A它的借口比較好,相比銀行B更好,那我就要選擇銀行A做我的開戶行。接口、界面非常重要,能夠決定人們選擇哪個(gè)銀行為他提供服務(wù),賬本是在哪個(gè)銀行的,有區(qū)塊鏈和相關(guān)的軟件,我們可以看到很多大銀行就蒸發(fā)掉了,因?yàn)榭赡芩麄儗?duì)個(gè)性化的服務(wù)做得并不是很好,所以在技術(shù)發(fā)展過程當(dāng)中落后了。AI方面,人們會(huì)增加個(gè)人的數(shù)字助理,大家都有助理。通過手機(jī)也可以幫助你提供很多的建議。你的個(gè)人助理,可以幫你自動(dòng)發(fā)起金融交易,預(yù)定酒店、買機(jī)票,確保你的孩子在學(xué)校好好學(xué)習(xí)等等,這些都會(huì)自動(dòng)化來進(jìn)行,也包括了金融交易的自動(dòng)進(jìn)行。銀行的客戶可能并不是真實(shí)的人,而是數(shù)字助手,觸發(fā)某個(gè)事件之后就會(huì)進(jìn)行金融交易。
另外一個(gè)很大的變化,就是交易系統(tǒng)。我們知道在美國的交易所,大多數(shù)的交易都是電腦軟件進(jìn)行的,現(xiàn)在會(huì)越來越多的進(jìn)行電腦軟件自主交易。另外講一下交易系統(tǒng),我們有算法。有些時(shí)候比較簡單,就是套利的。還有越來越復(fù)雜的,比如單個(gè)股票基礎(chǔ)面的分析、能夠自動(dòng)閱讀這些新聞,從彭博、SEC等接口進(jìn)行股票的交易。其中我們見到的一個(gè)很大的問題,這些系統(tǒng)只是從字面上來收集信息。推特被認(rèn)可劫持了,所以一個(gè)推特信息說“奧巴馬受傷了”,機(jī)器得到這個(gè)信息,也不判斷,直接就賣掉這些股票了,低于2分鐘的時(shí)間,超過2萬億的股票被賣掉。如果是人做交易,他們會(huì)進(jìn)行驗(yàn)證,會(huì)打電話給華盛頓的朋友。經(jīng)過20分鐘,市場(chǎng)又自動(dòng)的恢復(fù)了之前的交易狀態(tài),這些都非常重要。機(jī)器可能只是機(jī)械化的收到信息,有些信息可能是故意造假的,機(jī)器自動(dòng)讀取,對(duì)系統(tǒng)會(huì)造成很大的擾亂、對(duì)客戶造成很大的損失。從監(jiān)管來說,也造成了挑戰(zhàn)。
比如亞馬遜網(wǎng)站,一本普通的生物學(xué)的書差不多40美元。有一個(gè)出售1800萬,另外一個(gè)是2300萬,這是因?yàn)橛袃蓚(gè)機(jī)器人,他們覺得這本書非常復(fù)雜,所以他們不斷的把這本書的價(jià)格提升,一直提升到非常高。如果你有自動(dòng)財(cái)務(wù)顧問,他們可能覺得這本書比較合理,它就會(huì)買,這會(huì)對(duì)你的賬戶造成很大的損失。大事件,2到3分鐘,使整個(gè)的市值損失1萬億,這也是程序化不理解市場(chǎng)而造成的“五龍指”,非常快速進(jìn)行交易,對(duì)于市場(chǎng)造成了很大的問題。2014年的時(shí)候,200個(gè)股票的市場(chǎng)下滑更快,0.1秒的時(shí)間,有些股票跌了20%,這對(duì)很多人來說發(fā)展太快了,0.1秒,當(dāng)你把權(quán)利給到機(jī)器,他們不理解他們?cè)谧鍪裁,這對(duì)你造成的損失是無法估量的。從長期來說,我們認(rèn)為AI系統(tǒng)在很長的時(shí)間里面的發(fā)展,最終會(huì)比人類決策優(yōu)化。
現(xiàn)在,我們?cè)谧鯝I的時(shí)候,所有的因素都要考慮進(jìn)去。一些超級(jí)的、智能的機(jī)器,最終可能會(huì)給我們帶來災(zāi)難性的損失。不管是控制,還是研究,我們現(xiàn)在創(chuàng)造了一些系統(tǒng),它可以幫助我們把某些事物進(jìn)行優(yōu)化。對(duì)于這個(gè)領(lǐng)域的定義,并不是非常精確的,它是一個(gè)錯(cuò)誤的定義。我們所需要的AI是什么?這樣的AI系統(tǒng),我們希望它能夠執(zhí)行我們的命令,而且它產(chǎn)生的結(jié)果,一定是我們比較滿意的。比如這個(gè)國王,當(dāng)時(shí)有這樣一個(gè)想優(yōu)化的目標(biāo),但是優(yōu)化之后的結(jié)果并不是他最初想要的,這是我們需要避免的現(xiàn)象。我們?cè)趺礃硬趴梢员苊?這里有三個(gè)想法:
1、機(jī)器人只有一個(gè)任務(wù)、目標(biāo),就是把人類的幸福指數(shù)最大化。
2、機(jī)器人并不知道這里面的含義是什么,因?yàn)椴⒉淮_定,人類什么才是開心的事情,真正讓我們開心的事情是什么?
3、機(jī)器人是通過觀察人們的行為來進(jìn)行學(xué)習(xí)的,人們喜歡什么、不喜歡什么,會(huì)通過我們的行為展示出來。
讀經(jīng)濟(jì)學(xué)會(huì)知道有一個(gè)“博弈論”,如果我們有這樣的一個(gè)博弈,如果人類知道這樣的目標(biāo),機(jī)器人先把這個(gè)目標(biāo)進(jìn)行優(yōu)化,但是機(jī)器人并不知道本來的目標(biāo)是什么。如果有不匹配,是否會(huì)產(chǎn)生問題?
總結(jié)一下,我剛才講了很多AI在金融領(lǐng)域的影響,最基本的,現(xiàn)在已經(jīng)存在了40到50年,它可以幫助我們進(jìn)行數(shù)據(jù)的整合、分析、預(yù)測(cè),還有一些顧問方面的服務(wù)。另外,我們?nèi)绻梢愿玫睦斫馊祟悾趴梢詭椭覀兊玫礁玫慕Y(jié)果。市場(chǎng)上我們看到一些交易的策略,現(xiàn)在越來越有效了,可以幫助我們改進(jìn)市場(chǎng)上的效率。因此,我們要非常了解,怎么才可以更好的把這些機(jī)器人在我們的控制當(dāng)中,不能失控。有一個(gè)諺語“煤礦里的金絲雀”,煤礦中的金絲雀可以幫我們預(yù)測(cè)未來可能出現(xiàn)的問題。煤炭當(dāng)中沒有氧氣了,金絲雀就會(huì)立馬檢測(cè)到,我們需要把它當(dāng)做我們風(fēng)險(xiǎn)檢測(cè)的工具,我們要很好的管理AI存在的風(fēng)險(xiǎn),而且是高速管理和控制。隨著AI的進(jìn)步和推進(jìn),AI的系統(tǒng)怎么樣控制、怎么樣了解人們的價(jià)值,以及AI的價(jià)值,怎么把兩者的價(jià)值結(jié)合起來,將是我們未來要探討的很重要的議題,感謝各位的聆聽。