英(ying)國《衛報》網(wang)站近日刊登了一篇(pian)題為《這(zhe)位人工智能(neng)天才能(neng)防止人工智能(neng)技術(shu)失控(kong)嗎(ma)》《The superhero of artificial intelligence: can this genius keep it in check? 》，作(zuo)者是Clemency Burton-Hill。

　　下面(mian)是(shi)文章的主要(yao)內容。

　　德米(mi)斯·哈薩比(bi)斯(Demis Hassabis)有著溫和的(de)(de)風(feng)度和謙遜的(de)(de)面容，但當他(ta)告訴我說(shuo)，他(ta)正在致力于這(zhe)(zhe)樣一個(ge)使命(ming)——“解(jie)(jie)答智能問題(ti)，然后用它來解(jie)(jie)答一切問題(ti)”，他(ta)顯得很嚴肅。這(zhe)(zhe)話從(cong)其他(ta)任何(he)人嘴(zui)里說(shuo)出來都是可笑的(de)(de)，但從(cong)他(ta)嘴(zui)里說(shuo)出來不一樣。

　　哈薩比(bi)斯(si)是一位(wei)國際象棋大師，也(ye)是一位(wei)視頻(pin)游戲設計師，他創(chuang)辦的(de)(de)人工智能創(chuang)業公(gong)司DeepMind在2014年被(bei)谷歌以6.25億美元的(de)(de)價(jia)格收購(gou)。

　　他(ta)出生于一個(ge)移民家庭(ting)，擁有(you)劍橋大學(xue)和倫(lun)敦大學(xue)的計算機(ji)科學(xue)和認知神經(jing)科學(xue)學(xue)位。

　　哈薩比斯(si)的(de)同事認為他(ta)是一(yi)(yi)名“有(you)遠見”的(de)管理者(zhe)，哈薩比斯(si)認為自己(ji)已(yi)經找到一(yi)(yi)種“進(jin)行高(gao)效科學研究”的(de)方法，并宣稱自己(ji)正(zheng)在領導一(yi)(yi)個“21世紀的(de)阿波羅(luo)計劃”。

　　哈薩比斯(si)相貌很平(ping)常，走在大街上絲(si)毫沒(mei)有回頭率，但互聯網(wang)創(chuang)始人(ren)(ren)蒂姆·伯(bo)納斯(si)-李(Tim Berners-Lee)將(jiang)他稱為這個(ge)星球上最(zui)聰明(ming)的人(ren)(ren)之(zhi)一。

　　人工(gong)智(zhi)能(neng)(neng)(AI)已經(jing)走進人們的(de)生活，許多人都(dou)在使用蘋(pin)果或谷(gu)(gu)歌(ge)的(de)語音(yin)助手。不(bu)久以后(hou)，谷(gu)(gu)歌(ge)的(de)產(chan)品必將從哈(ha)薩比斯的(de)研究中獲(huo)益，產(chan)品個性(xing)化、搜(sou)索、YouTube、語音(yin)和面部識別領域的(de)改(gai)進都(dou)與“AI”有關。從長遠來看，哈(ha)薩比斯正(zheng)在研究的(de)技術不(bu)僅(jin)(jin)(jin)僅(jin)(jin)(jin)與情緒機(ji)器人或智(zhi)能(neng)(neng)手機(ji)有關，其受益者不(bu)僅(jin)(jin)(jin)僅(jin)(jin)(jin)是谷(gu)(gu)歌(ge)，也不(bu)僅(jin)(jin)(jin)僅(jin)(jin)(jin)是Facebook、微(wei)軟、蘋(pin)果等(deng)投入巨資參(can)與人工(gong)智(zhi)能(neng)(neng)產(chan)品研發競賽的(de)大公司(si)。它關乎我們能(neng)(neng)夠想(xiang)象和不(bu)能(neng)(neng)想(xiang)象的(de)一切(qie)。

　　這聽起來很嚇人，確實(shi)如(ru)此。大(da)多(duo)數AI系(xi)統是“狹隘的(de)”，它(ta)們(men)只能(neng)完(wan)成一種特(te)殊的(de)任(ren)(ren)務。所以，IBM的(de)深藍電腦(nao)可以擊敗國(guo)際(ji)象棋冠軍卡斯(si)帕羅夫，但在面對(dui)畫圈(quan)打(da)叉(cha)這種簡單的(de)游戲(xi)時連(lian)一個三歲小孩都不如(ru)。 而哈薩比斯(si)從人類的(de)大(da)腦(nao)獲(huo)得靈感，并試圖建立(li)第(di)一個“通用學(xue)習機器(qi)”，即(ji)一套(tao)靈活、自適應性(xing)的(de)算法，它(ta)可以像生物系(xi)統那樣學(xue)習，從零開始完(wan)成任(ren)(ren)何(he)任(ren)(ren)務，除了原始數據之(zhi)外不需要任(ren)(ren)何(he)別的(de)幫助。

　　這就是(shi)人工通(tong)用智能(AGI)，其重點是(shi)“通(tong)用”。在他的(de)(de)(de)(de)未來愿景(jing)中，超級智能機器將(jiang)能夠與人類專家協(xie)作解決(jue)幾乎所有問(wen)題。“癌(ai)癥、氣候變化、能源(yuan)，基因組學(xue)、宏觀經濟學(xue)、金融系(xi)統、物理(li)，許(xu)多我們想(xiang)要掌握的(de)(de)(de)(de)學(xue)科越來越復雜。”他說，“即使是(shi)最聰明的(de)(de)(de)(de)人，窮期一生(sheng)也難以掌握其中一個領(ling)域。我們如何通(tong)過篩選泛濫的(de)(de)(de)(de)數據(ju)得出合(he)理(li)的(de)(de)(de)(de)觀點?我們可以將(jiang)AGI看作一個能夠自動(dong)將(jiang)非結(jie)構化信息轉化為可用知(zhi)識的(de)(de)(de)(de)過程。我們正(zheng)在努力研(yan)究的(de)(de)(de)(de)是(shi)一種可以解決(jue)任何問(wen)題的(de)(de)(de)(de)超級解決(jue)方案(an)。

　　這種(zhong)超級(ji)智能機器的(de)(de)出(chu)現(xian)也許還需要幾十年(nian)之(zhi)久，但(dan)它似乎離我們越(yue)(yue)來(lai)越(yue)(yue)近。2015年(nian)2月(yue)，DeepMind的(de)(de)一(yi)篇(pian)論文(wen)(wen)世界成為頂級(ji)科學(xue)雜志《自(zi)然(ran)》的(de)(de)封面(mian)文(wen)(wen)章(zhang)，該文(wen)(wen)宣稱“能夠自(zi)學(xue)的(de)(de)AI軟(ruan)件在視頻游(you)(you)戲中已經達(da)到(dao)(dao)人類的(de)(de)水平(ping)(ping)。”在這個(ge)“終端到(dao)(dao)終端”的(de)(de)學(xue)習系統中，一(yi)種(zhong)被稱為Deep-Q Network的(de)(de)算法已經學(xue)會如何(he)理解輸入端的(de)(de)動作(zuo)，并(bing)能作(zuo)出(chu)正(zheng)確的(de)(de)決定(它在一(yi)些經典(dian)的(de)(de)雅(ya)達(da)利2600游(you)(you)戲——包括《太(tai)空侵略者》、拳擊和乒乓球游(you)(you)戲——中達(da)到(dao)(dao)精通水平(ping)(ping)。)這是一(yi)個(ge)震撼世界的(de)(de)技(ji)術(shu)突(tu)破。

　　上個月，DeepMind的另一篇論文又登上了(le)《自然》雜志(zhi)的封(feng)面。在這(zhe)樣短的時(shi)間里連續在《自然》雜志(zhi)上發表兩篇封(feng)面文章，這(zhe)本身就(jiu)是一個了(le)不起的成就(jiu)。這(zhe)一次，DeepMind的試驗走得更遠，它向古(gu)老的競技(ji)游戲圍棋發起了(le)挑戰(zhan)。

　　圍(wei)(wei)(wei)棋(qi)的(de)(de)(de)歷史(shi)超(chao)過2500年，中(zhong)國孔子(zi)的(de)(de)(de)著作(zuo)中(zhong)曾提到過這種游戲。圍(wei)(wei)(wei)棋(qi)的(de)(de)(de)著法(fa)變(bian)化無窮，其變(bian)數(shu)甚至超(chao)過宇宙中(zhong)原子(zi)的(de)(de)(de)移動。國際象棋(qi)的(de)(de)(de)所有變(bian)化可以(yi)計(ji)算出(chu)來，但圍(wei)(wei)(wei)棋(qi)不能(neng)。更難(nan)的(de)(de)(de)是，編程者也不可能(neng)寫出(chu)圍(wei)(wei)(wei)棋(qi)的(de)(de)(de)評(ping)估函數(shu)。相反，圍(wei)(wei)(wei)棋(qi)需要一種類(lei)似(si)于“直覺”的(de)(de)(de)東西，當(dang)圍(wei)(wei)(wei)棋(qi)棋(qi)手被問到他們下(xia)出(chu)一步棋(qi)的(de)(de)(de)原因時，他們往往會這么(me)說：“感覺。”

　　重大里程(cheng)碑(bei)

　　出(chu)于顯而(er)易見的原(yuan)因，電(dian)腦一直(zhi)無法進行(xing)這種類似(si)于直(zhi)覺的判斷。圍棋也(ye)因此長期以來被認為(wei)是AI“最大的挑戰(zhan)”之一。大多數(shu)研究人員預計，要(yao)研究出(chu)能(neng)夠破解圍棋的電(dian)腦至少還(huan)需要(yao)十年(nian)。

　　但是，DeepMind創立的(de)新(xin)人(ren)工算法AlphaGo曾(ceng)在去年(nian)秋天的(de)一次秘密(mi)比(bi)(bi)賽中以5比(bi)(bi)0戰(zhan)績擊敗了歐洲圍棋(qi)冠軍范輝(Fan Hui)。AlphaGo還將(jiang)在今年(nian)三月份挑戰(zhan)世界圍棋(qi)冠軍李(li)世石。英國(guo)帝國(guo)理(li)工學院(Imperial College)認(ren)知機器人(ren)學教授Murray Shanahan將(jiang)AlphaGo的(de)成功稱(cheng)為“一個驚人(ren)的(de)成就(jiu)”，超人(ren)類主義哲學家(jia)Nick Bostrom也將(jiang)之稱(cheng)為“一個重大里程碑”。Nick Bostrom認(ren)為，如果AGI能(neng)夠最(zui)終完成，它的(de)影響將(jiang)是無與倫比(bi)(bi)的(de)。

　　“是(shi)(shi)的(de)(de)(de)，它很酷。”哈薩比(bi)斯(si)同(tong)意。“圍棋是(shi)(shi)一(yi)種(zhong)終極游(you)戲：它是(shi)(shi)游(you)戲的(de)(de)(de)巔(dian)峰之(zhi)作，是(shi)(shi)最(zui)智(zhi)慧(hui)的(de)(de)(de)游(you)戲。它的(de)(de)(de)迷(mi)人(ren)的(de)(de)(de)、美麗的(de)(de)(de)。我們(men)感到興奮的(de)(de)(de)不(bu)僅僅是(shi)(shi)我們(men)已經精通了這種(zhong)游(you)戲，而(er)且我們(men)可以(yi)通過一(yi)套驚人(ren)而(er)有趣的(de)(de)(de)算(suan)法來處(chu)理它。”他認(ren)為圍棋是(shi)(shi)一(yi)門藝術，而(er)不(bu)是(shi)(shi)一(yi)門科學(xue)。“AlphaGo能夠以(yi)人(ren)類(lei)的(de)(de)(de)方式(shi)學(xue)習(xi)圍棋，并在不(bu)斷的(de)(de)(de)對局中(zhong)變得越來越厲害，就像我們(men)人(ren)類(lei)一(yi)樣。”

　　AlphaGo是(shi)他(ta)最(zui)(zui)激動人心的研究(jiu)成果(guo)。“它(ta)(ta)超出了任何人的想(xiang)象，”他(ta)興(xing)奮地說，“但對我(wo)們來說，最(zui)(zui)重(zhong)要的方面是(shi)，它(ta)(ta)不是(shi)一(yi)種采用人工規則的專家(jia)系統。它(ta)(ta)能夠使用通(tong)用機器學習技(ji)術進(jin)行自(zi)我(wo)教育(yu)，最(zui)(zui)終精通(tong)這門游戲。最(zui)(zui)終，我(wo)們希望將這些(xie)技(ji)術應用于諸如氣候建模(mo)或復雜的疾病分(fen)析等重(zhong)要的現實問題。所以(yi)，想(xiang)象一(yi)下它(ta)(ta)下一(yi)步的進(jin)展(zhan)，這讓(rang)人感(gan)到(dao)非常興(xing)奮……”

　　我(wo)(wo)與哈薩比斯(si)首次(ci)相遇是在(zai)2014年(nian)夏天(tian)，即谷歌(ge)收購DeepMind幾個月(yue)之(zhi)后(hou)。從那(nei)以后(hou)，我(wo)(wo)觀察他(ta)在(zai)各種(zhong)環境中工作。在(zai)過(guo)去(qu)八個月(yue)里，我(wo)(wo)在(zai)三個不(bu)同場(chang)合(he)正(zheng)式(shi)采訪過(guo)他(ta)。在(zai)那(nei)段時(shi)間里，我(wo)(wo)看(kan)著他(ta)從谷歌(ge)的(de)(de)(de)(de)AI天(tian)才發展成(cheng)一(yi)個引人(ren)(ren)注目的(de)(de)(de)(de)技(ji)(ji)術傳(chuan)播者。他(ta)找到(dao)了一(yi)種(zhong)有(you)效的(de)(de)(de)(de)方(fang)式(shi)來向(xiang)非科技(ji)(ji)工作者描述(shu)他(ta)的(de)(de)(de)(de)工作。DeepMind的(de)(de)(de)(de)研究(jiu)(jiu)(jiu)成(cheng)果(guo)將新舊人(ren)(ren)工智能(neng)技(ji)(ji)術結(jie)合(he)在(zai)一(yi)起(qi)，例如，DeepMind的(de)(de)(de)(de)研究(jiu)(jiu)(jiu)人(ren)(ren)員將傳(chuan)統的(de)(de)(de)(de)“樹(shu)形(xing)檢索(suo)”和現代的(de)(de)(de)(de)“深(shen)度神經網(wang)絡”結(jie)合(he)起(qi)來分析圍棋的(de)(de)(de)(de)變化。同時(shi)，DeepMind系統也將AI研究(jiu)(jiu)(jiu)的(de)(de)(de)(de)不(bu)同領域(yu)結(jie)合(he)在(zai)一(yi)起(qi)。

　　在DeepQ中(zhong)，他們(men)(men)將深度神經(jing)網絡(luo)和“強(qiang)化(hua)學(xue)習(xi)(reinforcement-learning)”機(ji)制結(jie)(jie)合(he)在一(yi)起。“強(qiang)化(hua)學(xue)習(xi)”是所(suo)(suo)有(you)(you)動物(wu)的學(xue)習(xi)方式，通過(guo)大腦的多(duo)巴胺獎勵系(xi)統(tong)發(fa)生(sheng)作用(yong)。而AlphaGo又向前(qian)邁(mai)出了一(yi)步(bu)，它加上(shang)了另一(yi)個(ge)更深度的、用(yong)于處理長遠規劃的強(qiang)化(hua)學(xue)習(xi)系(xi)統(tong)。接下來，他們(men)(men)將會加入更多(duo)功能，直到(dao)(dao)整(zheng)合(he)所(suo)(suo)有(you)(you)重(zhong)大的人工(gong)智能成果。哈(ha)薩比(bi)斯說：“關鍵(jian)是結(jie)(jie)合(he)所(suo)(suo)有(you)(you)這些不同的領(ling)域，因為我們(men)(men)感興趣的是可(ke)以(yi)將從一(yi)個(ge)領(ling)域中(zhong)學(xue)到(dao)(dao)的知識應(ying)用(yong)到(dao)(dao)另一(yi)個(ge)領(ling)域的算(suan)法。”

　　哈(ha)薩比斯自(zi)己(ji)就是(shi)一(yi)(yi)(yi)個(ge)(ge)跨領域(yu)的(de)(de)天才(cai)(cai)。從他的(de)(de)簡歷(li)來看，他的(de)(de)好奇心很廣泛，包括棋(qi)盤游戲、視(shi)頻(pin)游戲、電(dian)腦(nao)編程、認知(zhi)神經科(ke)學(xue)，一(yi)(yi)(yi)直到人工智能。事實上，他今天的(de)(de)位(wei)置是(shi)一(yi)(yi)(yi)系列(lie)光輝成就的(de)(de)結果，他是(shi)一(yi)(yi)(yi)個(ge)(ge)百年一(yi)(yi)(yi)遇的(de)(de)天才(cai)(cai)。他8歲(sui)編寫自(zi)己(ji)的(de)(de)電(dian)腦(nao)游戲，13歲(sui)成為(wei)國際(ji)象棋(qi)大(da)師，17歲(sui)開(kai)發(fa)出最早的(de)(de)人工智能視(shi)頻(pin)游戲Theme Park，20成為(wei)劍橋大(da)學(xue)獲得(de)兩門學(xue)科(ke)優等成績的(de)(de)學(xue)生，2011年創(chuang)立(li)DeepMind。他還獲得(de)過(guo)智力(li)奧運會精英(ying)項(xiang)目“Pentamind”的(de)(de)五次(ci)冠軍，創(chuang)下世界(jie)紀錄。

　　“我(wo)很容易感到無聊。世界是如此有(you)趣，有(you)這么多很酷的(de)事情可做。”他(ta)說(shuo)。“如果我(wo)是一個體(ti)育(yu)運動員，我(wo)希望成(cheng)為一個十項全能選手”。

　　現(xian)在，DeepMind公(gong)司(si)擁有近200名員工，他們(men)來自超過(guo)45個國家。哈薩比斯決定將自己的公(gong)司(si)總部保留在英國，盡管谷歌希望(wang)將它遷往(wang)硅(gui)谷。

　　“我是(shi)在(zai)倫敦長大的(de)。”他說。“我非常喜(xi)歡這個城市。我堅(jian)持住在(zai)這里的(de)理由是(shi)：我覺得倫敦沒有(you)理由不能(neng)擁有(you)一個世界級的(de)AI研究機構。

　　除了哈薩(sa)比斯之外，全球還有(you)很多頂級科(ke)學(xue)家(jia)和科(ke)技巨頭在關注AI的(de)(de)(de)發(fa)展(zhan)，如斯蒂(di)芬·霍金、比爾·蓋茨、伊隆·馬(ma)斯克(ke)、楊(yang)·塔里(li)安(Jaan Tallinn)等。與哈薩(sa)比斯不同的(de)(de)(de)是(shi)，這(zhe)些巨頭對(dui)AI的(de)(de)(de)發(fa)展(zhan)表(biao)示很大(da)的(de)(de)(de)擔憂(you)。他們(men)的(de)(de)(de)擔憂(you)包(bao)括AGI武器和“技術奇(qi)異點(technological singularity)”的(de)(de)(de)幽靈(ling)——它(ta)將(jiang)導致“智能(neng)爆炸”，屆時機器將(jiang)能(neng)夠不斷地進行自我完善(shan)，超越人腦的(de)(de)(de)智力，從而(er)脫離人類(lei)的(de)(de)(de)控制。如果這(zhe)樣(yang)的(de)(de)(de)超級智能(neng)災難最(zui)后(hou)發(fa)生(sheng)了，人類(lei)將(jiang)悔恨(hen)自己(ji)當初為什(shen)么沒有(you)退出AI開發(fa)競賽。霍金在最(zui)近(jin)的(de)(de)(de)一(yi)次談話中表(biao)示：“AI的(de)(de)(de)成(cheng)功創(chuang)建，將(jiang)是(shi)人類(lei)歷史(shi)上最(zui)大(da)的(de)(de)(de)事(shi)件。不幸的(de)(de)(de)是(shi)，它(ta)也可(ke)能(neng)是(shi)最(zui)后(hou)一(yi)個歷史(shi)事(shi)件。”

　　“好吧，我(wo)(wo)希(xi)望不(bu)會這樣。”哈薩比斯說。在(zai)(zai)他看來(lai)，關于AGI的(de)(de)(de)危言聳聽不(bu)僅忽略了(le)它可能(neng)在(zai)(zai)不(bu)久之后為(wei)人(ren)(ren)類帶來(lai)的(de)(de)(de)福祉，而(er)且(qie)不(bu)合時(shi)宜。“要創建達到(dao)人(ren)(ren)腦水平(ping)的(de)(de)(de)人(ren)(ren)工智(zhi)(zhi)能(neng)，我(wo)(wo)們(men)還需要幾十年時(shi)間”他提醒我(wo)(wo)說，“我(wo)(wo)們(men)還處在(zai)(zai)樓梯的(de)(de)(de)第一級(ji)上(shang)，我(wo)(wo)們(men)的(de)(de)(de)AI系統現在(zai)(zai)還只能(neng)玩游戲。”他承(cheng)認我(wo)(wo)們(men)現在(zai)(zai)也有應該考慮的(de)(de)(de)風險，但堅稱這些風險不(bu)是像科幻小說中描寫的(de)(de)(de)那樣：超級(ji)智(zhi)(zhi)能(neng)機器無情地驅(qu)逐人(ren)(ren)類。

　　此(ci)外，他堅持認為，在減輕AGI的(de)(de)潛在危(wei)險方面(mian)，DeepMind也是領(ling)先的(de)(de)。該公司(si)的(de)(de)研(yan)究雖然不像阿波羅(luo)計劃那樣(yang)受(shou)到官方審查(cha)，但它的(de)(de)運作相當透明。DeepMind會(hui)在網上公開技(ji)(ji)術(shu)代碼(ma)，而(er)且(qie)谷歌收購該公司(si)的(de)(de)一(yi)個條件是禁(jin)止將它的(de)(de)技(ji)(ji)術(shu)運用在軍(jun)事或情報領(ling)域。

　　哈薩比斯和(he)他(ta)的(de)(de)同事(shi)們(men)積極推動(dong)(dong)了2015年在波多黎各舉行(xing)的(de)(de)一(yi)個關于(yu)AI的(de)(de)開(kai)創性會(hui)議，并在公開(kai)信上簽名承諾將AI技術用在有益的(de)(de)事(shi)情上，“避免潛在的(de)(de)陷(xian)阱(jing)”。最(zui)近，他(ta)們(men)還推動(dong)(dong)在紐約舉行(xing)的(de)(de)另一(yi)個類似會(hui)議。

　　DeepMind公司內部的(de)倫(lun)理(li)委員(yuan)會和(he)顧問委員(yuan)會目前已經建立。“哈薩比斯完全熟(shu)悉(xi)有(you)(you)關(guan)AI安全問題的(de)爭論(lun)，”帝(di)國理(li)工學(xue)院認知機器(qi)人學(xue)教授穆雷·沙(sha)納漢(Murray Shanahan)說。“他肯定(ding)不(bu)是幼稚，他也沒有(you)(you)把頭埋(mai)進沙(sha)灘里。”

　　“在推動關于(yu)安全問題(ti)的(de)對(dui)話方(fang)面，DeepMind一直是行業中的(de)領(ling)導者(zhe)。”穆(mu)雷說，“從長期(qi)來看，研究者(zhe)需要解決這(zhe)些挑戰。”

　　我詢問哈(ha)薩比斯主要的(de)長期挑戰是什么。“隨著這些AI系統變得越來(lai)越復雜，我們需要思考如何優化它們。”他回(hui)答道，“這項(xiang)技術本身是中性的(de)，但它是一(yi)個學習(xi)系統，因(yin)此它不可避免(mian)地會打上設計(ji)者的(de)價值(zhi)體(ti)系和文化的(de)印記(ji)，所以我們必須(xu)非常仔細地考慮價值(zhi)觀(guan)問題。”

　　關于超級智能(neng)的問(wen)題，他說：“我(wo)們(men)(men)(men)需要確(que)(que)保(bao)(bao)我(wo)們(men)(men)(men)的研究目(mu)標(biao)(biao)(biao)是有確(que)(que)定(ding)性的，確(que)(que)保(bao)(bao)沒有什么模糊不(bu)清的地方，它們(men)(men)(men)將隨著時間的推移趨于穩(wen)定(ding)。但是，在(zai)我(wo)們(men)(men)(men)所有的系統(tong)中(zhong)，最高(gao)目(mu)標(biao)(biao)(biao)仍然會(hui)(hui)由它的設計師設定(ding)。系統(tong)可(ke)能(neng)會(hui)(hui)拿(na)出自己(ji)的方式去實現這一目(mu)標(biao)(biao)(biao)，但它并不(bu)能(neng)創建(jian)自己(ji)的目(mu)標(biao)(biao)(biao)。””

　　他的(de)(de)語(yu)氣讓人放心。“你看，這些都是有趣的(de)(de)、難以(yi)應對(dui)的(de)(de)挑戰。如同所有強大的(de)(de)新(xin)技(ji)術一樣，AI技(ji)術的(de)(de)使用必須符(fu)合倫理(li)和負責任，這就(jiu)是為什么(me)我們正在積極呼吁辯論，所以(yi)，當那個時刻到來時，我們已經做好準備。”

　　什么時(shi)刻(ke)?超(chao)級智能(neng)(neng)機器出(chu)現(xian)的(de)(de)(de)時(shi)刻(ke)，或當它(ta)們超(chao)越人(ren)類的(de)(de)(de)時(shi)刻(ke)?他(ta)笑(xiao)了。“不(bu)，不(bu)，不(bu)，我(wo)的(de)(de)(de)意(yi)思(si)(si)是(shi)在(zai)那之(zhi)前的(de)(de)(de)某個時(shi)刻(ke)!”(我(wo)覺得(de)他(ta)是(shi)在(zai)開玩(wan)笑(xiao)，但(dan)在(zai)2011年他(ta)的(de)(de)(de)同事肖恩(en)·萊格曾說(shuo)過：“我(wo)認(ren)為，人(ren)類很可能(neng)(neng)會滅絕，技術將有可能(neng)(neng)起到推動作用(yong)。)哈(ha)薩比(bi)斯補充說(shuo)：“我(wo)的(de)(de)(de)意(yi)思(si)(si)是(shi)，當這些系(xi)統不(bu)僅能(neng)(neng)玩(wan)游戲(xi)而且變得(de)更(geng)加強大的(de)(de)(de)時(shi)刻(ke)，當它(ta)們的(de)(de)(de)能(neng)(neng)力(li)超(chao)過解(jie)決如醫(yi)療保(bao)健等重要(yao)現(xian)實問(wen)題的(de)(de)(de)時(shi)刻(ke)。然后，我(wo)們需(xu)要(yao)確保(bao)我(wo)們知道它(ta)們的(de)(de)(de)能(neng)(neng)力(li)將達到什么地步(bu)。“他(ta)笑(xiao)著(zhu)看著(zhu)我(wo)。“那時(shi)，我(wo)們應該停下來。”

　　哈(ha)薩比斯(si)(si)是(shi)(shi)友好(hao)的(de)(de)(de)，非常有(you)說服力。他所說的(de)(de)(de)一切似乎是(shi)(shi)合理的(de)(de)(de)，并沒(mei)有(you)顯(xian)得(de)傲慢。也許AGI仍將在我們(men)的(de)(de)(de)控(kong)制(zhi)之下。但(dan)(dan)很(hen)(hen)多(duo)人(ren)仍持懷疑態度(du)。“很(hen)(hen)顯(xian)然(ran)，如(ru)(ru)果一種人(ren)工(gong)智能在所有(you)方面(mian)大大超過(guo)人(ren)腦，那(nei)它就不(bu)再是(shi)(shi)‘輔助設(she)備’了。”特斯(si)(si)拉創(chuang)始人(ren)馬斯(si)(si)克爭(zheng)論道。他最近宣(xuan)稱(cheng)人(ren)工(gong)智能技術的(de)(de)(de)發展是(shi)(shi)在“召喚惡(e)魔(mo)”。 馬斯(si)(si)克是(shi)(shi)DeepMind的(de)(de)(de)原始投(tou)(tou)資者(zhe)之一，但(dan)(dan)他不(bu)是(shi)(shi)為了錢。他對(dui)我說：“我把錢投(tou)(tou)入DeepMind的(de)(de)(de)唯一原因是(shi)(shi)為了更好(hao)地了解AI的(de)(de)(de)發展和危險。如(ru)(ru)果我們(men)在研究AI時不(bu)夠謹慎，如(ru)(ru)果發生了災難，銀行存(cun)款沒(mei)有(you)任(ren)何意(yi)義。”

　　“馬斯克是全(quan)球最聰明的(de)(de)人之一(yi)，與(yu)他(ta)交談令人吃(chi)驚(jing)。”哈薩比斯表示。“實際(ji)上我覺(jue)得像(xiang)他(ta)這樣的(de)(de)人僅僅因為(wei)AI是一(yi)件大事(shi)(shi)而參(can)與(yu)AI的(de)(de)投資是一(yi)件很酷的(de)(de)事(shi)(shi)情。”他(ta)說。但(dan)是，當(dang)其他(ta)領(ling)域科學家隨意(yi)公(gong)開發表針對(dui)AI的(de)(de)批評時，哈薩比斯顯得有(you)些激動。

　　“總的來說，我發現那(nei)些AI行業外部人(ren)士沒(mei)(mei)有充(chong)分理(li)解AI。他們(men)(men)(men)往往并(bing)沒(mei)(mei)有與很多(duo)AI專家交談過，所以他們(men)(men)(men)的思想實(shi)驗會(hui)(hui)失(shi)控，因(yin)(yin)為(wei)它們(men)(men)(men)是基(ji)于不(bu)正確的假設(she)。”他再(zai)次(ci)提到自(zi)己(ji)的內(nei)部倫理(li)委員(yuan)會(hui)(hui)和顧問委員(yuan)會(hui)(hui)，它們(men)(men)(men)的成員(yuan)是科學(xue)界(jie)(jie)和哲學(xue)界(jie)(jie)的領軍人(ren)物，這(zhe)(zhe)些人(ren)將(jiang)監視AGI技術未來的應用(yong)。哈薩比斯(si)堅定地(di)相信自(zi)己(ji)目前所做的事情。“因(yin)(yin)為(wei)以前沒(mei)(mei)有人(ren)嘗試過這(zhe)(zhe)樣的技術，我們(men)(men)(men)有很多(duo)東西需要探索，現在(zai)(zai)還(huan)不(bu)是因(yin)(yin)為(wei)公(gong)眾討論而停(ting)下來的時候。”他說，“在(zai)(zai)這(zhe)(zhe)個階段，我們(men)(men)(men)要做的是加快研究速度，研究出(chu)實(shi)際的算法(fa)和應用(yong)。”

　　哈薩(sa)比(bi)斯(si)最近(jin)在劍橋與霍金進行了(le)一(yi)次私人會面。“與他(ta)會見本身就(jiu)是一(yi)個夢幻般(ban)的(de)榮譽。”他(ta)興奮地(di)說(shuo)，并拿出(chu)他(ta)的(de)一(yi)張自拍照(zhao)。“按照(zhao)計劃，我(wo)們只(zhi)有一(yi)個小時(shi)的(de)時(shi)間(jian)交談(tan)，但他(ta)提了(le)那么(me)多問題，我(wo)們最后(hou)談(tan)了(le)四(si)個小時(shi)。他(ta)錯過了(le)午餐，所以他(ta)的(de)陪同(tong)人員并不十(shi)分樂意我(wo)和他(ta)在一(yi)起(qi)。“

　　哈薩(sa)(sa)比(bi)斯指出(chu)，霍金在(zai)與他會(hui)面之后，一直沒有在(zai)媒體上發表(biao)“任何有關AI的(de)激烈言論(lun)”。最奇(qi)怪(guai)的(de)是，在(zai)BBC的(de)Reith講座上，霍金也(ye)沒有將人工(gong)智能列入“人類(lei)的(de)潛在(zai)威脅”名單。哈薩(sa)(sa)比(bi)斯表(biao)示，聽(ting)取(qu)更(geng)多(duo)關于(yu)AI系統的(de)言論(lun)也(ye)許是有幫助的(de)。”他說，“如果(guo)你理解了AI工(gong)程，這一切都顯得更(geng)能理解。”

　　但是(shi)(shi)，他(ta)(ta)(ta)是(shi)(shi)否真的相(xiang)信霍金(jin)已經改變了觀點(dian)?“是(shi)(shi)的，我(wo)想他(ta)(ta)(ta)很放心。他(ta)(ta)(ta)很有幽默感。在我(wo)離開(kai)之前，我(wo)對他(ta)(ta)(ta)說：‘所以，你(ni)覺得(de)怎樣呢?’他(ta)(ta)(ta)在鍵盤上輸(shu)入：‘我(wo)祝你(ni)好運(yun)。’他(ta)(ta)(ta)的眼睛閃(shan)著(zhu)亮光，補充說：‘但不要太多(duo)’。”哈(ha)薩比斯笑著(zhu)說，“我(wo)將(jiang)這看(kan)成一場勝(sheng)利。”