盲目的樂觀可能是最致命的大規(guī)模殺傷性武器。

——皮埃羅·斯加魯菲

雷·庫茲韋爾的系列著作讓“奇點”的概念得以普及，并引爆了這一輪人工智能的熱潮。奇點理論認(rèn)為，我們即將迎來機(jī)器時代：機(jī)器的智能程度遠(yuǎn)遠(yuǎn)超過人類，以至于人類既無法控制機(jī)器，也無法理解它們的想法。

面對奇點論的未來預(yù)言，人們分成了兩派：樂觀的憧憬與悲觀的恐慌。而本文所關(guān)注的則是，我們?nèi)绾螐钠纥c宗教預(yù)言式的理論回歸到人工智能技術(shù)的現(xiàn)實中來。

奇點論正在成為人工智能時代的新宗教嗎

奇點論的信眾與當(dāng)今世界三大宗教的相似之處非常明顯，卻被很多人所忽視。根據(jù)奇點論的預(yù)言，世界末日將以奇點的形式到來，不過，不用擔(dān)心，我們都將通過意識上傳復(fù)活，奇點論中所稱的超級計算機(jī)將使之成為可能。

那些贊成奇點理論的論調(diào)和(非常微弱的)論證的確很容易讓我們想起宗教預(yù)言，只不過這一次來拯救人類的彌賽亞不再是受外在神圣力量差遣而來的，而是我們自己制造的產(chǎn)品。所以，從某種意義上說，這是一門信仰人類自己創(chuàng)造的神的宗教。

奇點理論的魅力之處在于它用倒敘法講述了宗教的歷史。傳統(tǒng)意義上的宗教會力圖從源頭上解釋神秘的宇宙復(fù)雜性，生命的奇跡，以及意識產(chǎn)生的目的。甚至當(dāng)今一些非常杰出的科學(xué)家也贊成“神創(chuàng)論者”的觀點，相信世界是由超人類智慧創(chuàng)造出來的。這種理論通常被稱為智能設(shè)計(intelligent design)，但其更合適的叫法應(yīng)該是超智能設(shè)計(super-intelligent design)，因為智能(intelligent)一詞僅僅指人類智能。宗教的重點恰恰在于相信人類智能永遠(yuǎn)無法制造的東西存在，它會設(shè)想人類能夠發(fā)現(xiàn)的所有自然法則都不足已解釋宇宙、生命、以及靈魂所蘊(yùn)含的奧秘。任何可以借由數(shù)學(xué)規(guī)律解釋的事物，人都能完成，因此也不需要超自然力量的存在。相反，上帝是一種先于人類智能產(chǎn)生、并創(chuàng)造人類智能的奇點，而且無限優(yōu)于人類智能。

幸運的是，這個至高的神有能力，同時也愿意給予我們永生的機(jī)會。通常意義上，這種永生就是信徒最終希望從其信仰中得到的東西。而目前奇點論所提出的假設(shè)——由于超智能機(jī)器的發(fā)展即將出現(xiàn)奇點——幾乎就是這個故事的翻版。過去的奇點(神)被用來解釋那些令人費解的問題，而新的奇點(智能機(jī)器)卻無法解釋。人類智能既無法理解過去上帝在創(chuàng)造人類智能時的方式，也無法理解將來人類智能創(chuàng)造超智能機(jī)器的方式。

計算機(jī)的運算速度會影響人類的智能水平嗎

奇點論過于樂觀的預(yù)測建立在計算機(jī)運算速度的指數(shù)增長以及體積的不斷縮小的基礎(chǔ)之上。 1965年戈登·摩爾(Gordon Moore)預(yù)測，計算機(jī)的處理能力將每18個月提高一倍(“摩爾定律”)，到目前為止，他的預(yù)測不斷得到事實的驗證。今天，智能手機(jī)的魅力并不在于它們可以完成20世紀(jì)60年代電腦不能完成的事情(后者幾乎可以做同樣的事情)，而在于它們體積小、價格便宜、速度快。只花很少的錢就可以下載手機(jī)應(yīng)用，意味著更多的人可以使用手機(jī)應(yīng)用。這會帶來巨大的社會效應(yīng);但它并不意味著軟件技術(shù)已實現(xiàn)概念性的突破。很難說現(xiàn)存的哪個軟件程序是五十年前Fortran語言無法編寫的。如果當(dāng)時沒有編寫這一程序，其原因可能是成本過于高昂或者一些所需的硬件尚未問世。

誠然，目前計算機(jī)的發(fā)展的確很快，速度更快、體積更小、價格也更加親民。即便假定這種趨勢會繼續(xù)“以指數(shù)速度發(fā)展下去”(正如奇點專家們即將宣稱的那樣)，就理所當(dāng)然地認(rèn)為這種(硬件)進(jìn)步能夠支撐機(jī)器智能領(lǐng)域產(chǎn)生令人震驚的差異，無疑是基于一種非直接的假設(shè)：計算機(jī)在速度、體積、價格上的巨大進(jìn)步將首先影響人類水平的智能，然后才是更高水平的智能。畢竟，假如你將很多很多很多的愚笨的神經(jīng)元組合在一起，也許可能會得到像愛因斯坦那樣聰明的大腦。如果將上百萬塊的超高速GPU組合放到一塊，也可能獲得超人類智能。但這只是可能。

無論在何種情況下，我們都最好為摩爾定律可能失效的那一天做好充足的準(zhǔn)備。雖然摩爾定律被公認(rèn)在可預(yù)見的未來還會繼續(xù)發(fā)揮作用，但它看起來并非前途無量。這不僅僅因為即將遇到技術(shù)瓶頸。摩爾定律背后的本意是要表明晶體管設(shè)備的制造“成本”將持續(xù)下降。即使這個領(lǐng)域找到了一種可以繼續(xù)在芯片上蝕刻數(shù)量翻倍的晶體管的方法，這種方法的成本也會很快開始增長：畢竟處理微晶體管的技術(shù)本身就造價不菲，更何況散熱也已成為超密集電路上亟待解決的主要問題。2016年，英特爾的威廉·霍爾特(William Holt)宣布英特爾將不再生產(chǎn)超越7納米技術(shù)的芯片產(chǎn)品，并警告說將來為了節(jié)約能源，降低熱量(即成本)，處理器可能會變得更慢。如果摩爾定律不再有效，那么“暴力型人工智能”---例如深度學(xué)習(xí)---還會不會繼續(xù)發(fā)展?

從某種意義上說，今天的奇點預(yù)言家們認(rèn)為機(jī)器“智能”是一個永遠(yuǎn)保持加速發(fā)展且不會變緩的學(xué)科。

同樣，我認(rèn)為除了小型化以外， 機(jī)器的“智能”并沒有什么長進(jìn)(它們的智能與阿蘭·圖靈發(fā)明的“通用機(jī)”的智能毫無二致)。摩爾定律(它的確保持了指數(shù)發(fā)展的態(tài)勢)與機(jī)器智能沒有任何關(guān)系，它僅僅表示了人類究竟能在一塊微小的集成電路上“擠進(jìn)”多少個晶體管。真正發(fā)生改變的就是今天人們以低廉的成本將異常強(qiáng)大的計算機(jī)做成手掌大小的智能手機(jī)，也就是所謂的小型化。而將小型化等同于智能就好像將改進(jìn)的錢包等同于財富。

人類變成機(jī)器，還是機(jī)器變成人類

目前，我們最應(yīng)該擔(dān)心的不是機(jī)器智能的迅速提高，而是人的智力可能會下降。

通常我們對圖靈測試的解讀為：什么時候我們可以說機(jī)器已經(jīng)和人類一樣聰明?但是圖靈測試還有另外一面，即人類智能，換句話說，機(jī)器還有另一種方式通過圖靈測試：讓人類變笨。我們把圖靈點看作機(jī)器和人類一樣聰明的點。機(jī)器智能提高到人類的水平或者人類智能下降到機(jī)器的水平，都可以到達(dá)圖靈點。

人類總是非常依賴他們發(fā)明的工具。例如，當(dāng)他們發(fā)明了文字，人類的記憶力下降。另一方面，他們收獲了一種存儲更多知識和更快傳播知識的方法。人類歷史上的所有其他發(fā)明都不例外：使人類丟掉一種技能，同時也讓人類get一個新技能。整個人類社會都在經(jīng)歷“變笨”的過程，電器與現(xiàn)在的數(shù)字設(shè)備極大地加快了這一過程。從某種意義上說，技術(shù)遞給笨人工具，讓他們變得更笨，但仍然可以幸福地生活。

在數(shù)字時代，普通人只需動動手指，就可以獲取各種知識。原來知識的來源是特定領(lǐng)域的“聰明”人。現(xiàn)在，即使不是該領(lǐng)域的專家，也能輕松運用知識。因此，用戶缺乏深入學(xué)習(xí)知識的動力，他可以 “借用”別人的“聰明才智” 。用戶“智能”不升反降(當(dāng)然，操作設(shè)備的才干除外，但是，設(shè)備越來越易用，到最后用戶只要會按下開機(jī)鍵就萬事大吉)。不可避免的，人類對機(jī)器的依賴性越來越高，而機(jī)器對人類的依賴性恰好相反。

我經(jīng)常主持/組織灣區(qū)的會議，投影儀是會議必不可少的一個設(shè)備。我很懷疑如果演講人的電腦不能正常連接到房間的音頻/視頻設(shè)備，他/她是否還能發(fā)表演講。過去的幾千年，人類在沒有任何技術(shù)的幫助下發(fā)表演講。顯然這樣的時光已經(jīng)一去不復(fù)返了。你能想象蘇格拉底對柏拉圖說“對不起，如果你的筆記本電腦里沒裝PowerPoint，我就不能和你對話”么?

或許圖靈測試是一個自我實現(xiàn)的預(yù)言： 我們(聲稱)打造“聰明”機(jī)器的同時，我們也在把人變笨。

總之，人們以及媒體的宣傳對人工智能技術(shù)或奇點論的過分樂觀并無道理可言，因為A.I.尚不能解決很多現(xiàn)實中的問題。過分的樂觀主義不能替代切實可行的解決方案。從歷史上來看，盲目的樂觀可能是最致命的大規(guī)模殺傷性武器。