我聽說未來的計算機人工智能會變得比我們還要聰明得多，它們將奪走我們所有的工作和資源，而人類將會滅絕。這是真的嗎？
這是我每次談?wù)撊斯ぶ悄軙r最常碰見的問題。提問者是認真的；他們的擔心部分源自于一些會問自己同樣問題的專家。這些人都是當今世上中最聰明的一部分群體，比如史蒂芬·霍金、埃隆·馬斯克、馬克思?泰格馬克（譯注：Max Tegmark，MIT 物理學家，著有《平行世界，平行生命》）、薩姆·哈里斯（譯注：Sam Harris，《自由意志》一書作者、神經(jīng)科學家、哲學家）和比爾·蓋茨，而他們認為這種情況很可能是真的。最近，在一個有關(guān)人工智能問題的討論會上，一組由九位最知名的人工智能大師組成的專家小組一致認為，這種超人類智能是不可避免的并且離我們并不遙遠，可在這里查看他們的討論：
然而，超人類人工智能接管人類的情況是有五個假設(shè)作為前提的，如果一一對其進行檢查的話會發(fā)現(xiàn)它們并不基于任何證據(jù)。這些說法在未來可能是真的，但到目前為止還沒有證據(jù)作為依托。即將成真的超人類智能背后的這些假設(shè)是：
如果對一個超人類人工智能接管人類的預期是建立在五個沒有證據(jù)基礎(chǔ)的關(guān)鍵假設(shè)之上，那么這個想法更類似于一個宗教信仰——一個神話（myth）。在下面的段落中，我分別擴展了對這五個反假設(shè)的證據(jù)，并舉例說明，事實上一個超人類人工智能就是一種神話。
一
關(guān)于人工智能最常見的誤解始于對自然智能的普遍誤解。這種誤解認為智能是單一維度的。大多數(shù)技術(shù)人員往往以 Nick Bostrom 在他的書《超級智能（Superintelligence）》中所使用的方法——作為表示幅度增加的一個逐字的單維線性圖——來描繪智能。其中一端是低智能，比如某種小動物；另一端是高智能，比如一個天才——就好像智能是一個以分貝來表示的聲音大小等級。當然，之后就很容易進行延伸想象，智能的響度繼續(xù)增長，最終超過我們自己的高智能，成為一個超越人類的超級響亮的智能方式——一聲咆哮！——甚至可能越出圖表的范圍。
這種模型的拓撲結(jié)構(gòu)相當于一個梯子，因而智能的每一個梯級就是一層層地遞增。劣等動物位于我們下面的較低層，而更高級別的智能（也即人工智能）將不可避免地超越我們而登上更高的階梯。這種情況發(fā)生的時間尺度并不重要；重要的是排名——這是智能增加的指標。
這個模型的問題在于其本身是虛構(gòu)的，就像進化的階梯。在達爾文之前人們假定自然世界有一架生物存在（being）階梯，其中低等動物居于人類下面的階梯上。即使在達爾文之后，一個非常普遍的概念是進化階梯，其中魚類進化成爬行動物，然后進入哺乳動物階段，繼而進化為靈長類動物，最后進入人類階段，每一次進化都比之前更加高級（當然也更加聰明）。所以智能的階梯與存在的階梯是平行的。但這兩種模式都提供了一個完全不科學的觀點。
一張更精確的物種自然進化圖是一個向外輻射的圓盤，就像由德克薩斯大學的 David Hillis 首次設(shè)計的這張圖（上圖）那樣，它是基于 DNA 的。這個深度宗譜曼陀羅以最原始的生命形式從中間開始，然后在一段時間之后向外分支。時間向外移動，使得居于該星球上最近期的生命物種構(gòu)成了此圈圓周的周長。這幅畫著重強調(diào)了一個難以理解的進化方面的基本事實：現(xiàn)世存在的每一個物種的進化程度都是相等的。人類與蟑螂、蛤、蕨類植物、狐貍和細菌一起存在于這個外環(huán)上。其中的每一個物種都經(jīng)歷了一個跨度三十億年的成功繁殖的完整鏈條，這意味著現(xiàn)在的細菌和蟑螂與人類的進化程度是同等高級的。并不存在階梯。
