作者：（英）尼克·波斯特洛姆 出版社：中信出版集團

　　在你的顱腔里，有個(gè)器官能夠閱讀。這個(gè)器官就是人的大腦，它具有其他動(dòng)物大腦沒(méi)有的一些能力，而我們在地球上的主宰地位便歸功于這些獨特的能力。其他動(dòng)物有更強壯的肌肉或更銳利的爪子，但是我們有更聰明的大腦。我們在一般智能方面的些許優(yōu)勢使我們創(chuàng )造了語(yǔ)言，發(fā)展了科技，并建立了復雜的社會(huì )組織。這種優(yōu)勢隨著(zhù)時(shí)間的延續而不斷提高，因為每一代人的成就都建立在前人的成就之上。

　　如果有一天我們發(fā)明了超越人類(lèi)大腦一般智能的機器大腦，那么這種超級智能將會(huì )非常強大。并且，正如現在大猩猩的命運更多地取決于人類(lèi)而不是它們自身一樣，人類(lèi)的命運將取決于超級智能機器。

　　然而我們擁有一項優(yōu)勢：我們清楚地知道如何制造超級智能機器。原則上，我們能夠制造一種保護人類(lèi)價(jià)值的超級智能，當然，我們也有足夠的理由這么做。實(shí)際上，控制問(wèn)題——也就是如何控制超級智能，似乎非常困難，而且我們似乎也只有一次機會(huì )。一旦不友好的超級智能出現，它就會(huì )阻止我們將其替換或者更改其偏好設置，而我們的命運就因此被鎖定了。

　　在本書(shū)中，我將努力詮釋可能出現的超級智能帶來(lái)的挑戰，以及我們如何更好地應對。這很可能是人類(lèi)面對的最重要和最可怕的挑戰。而且，不管我們成功還是失敗，這大概都是我們將要面對的最后一個(gè)挑戰。

　　本書(shū)并不認為，我們即將在人工智能方面取得重大突破，或者能夠準確預測突破會(huì )在何時(shí)發(fā)生。突破有可能會(huì )在21世紀的某些時(shí)候實(shí)現，但是我們并不能確定。本書(shū)的前幾章討論了取得突破的可能途徑，并談?wù)摿撕螘r(shí)能夠突破的問(wèn)題。然而，本書(shū)的主要部分討論的是智能爆發(fā)以后會(huì )發(fā)生什么。我們會(huì )研究智能大爆發(fā)的動(dòng)力學(xué)，超級智能的形式和能量，以及具有決定性?xún)?yōu)勢的超級智能體有哪些戰略選擇。然后，我們探討的重點(diǎn)轉向控制問(wèn)題，并提出為了讓我們生存并且獲得有利的結果，我們如何選擇初始數據的問(wèn)題。在本書(shū)的結尾，我們將畫(huà)面拉遠，思考我們的研究所呈現的更大的圖景。最后提出了一些建議，指出為了增加避免存在性災難的概率，我們現在可以做些什么。

　　我希望本書(shū)可以開(kāi)辟出一條道路，以使其他研究者能夠更加快速和便捷地到達這個(gè)領(lǐng)域的前沿，從而以全新的視角加入這項研究，進(jìn)一步擴展我們的認識。非科技專(zhuān)業(yè)的讀者不必因為書(shū)中偶爾出現的數學(xué)知識或專(zhuān)業(yè)術(shù)語(yǔ)感到氣餒，因為往往可以通過(guò)上下文的解釋看懂主要觀(guān)點(diǎn)。

　　我已經(jīng)盡可能地在全書(shū)中指明細微差別和不確定性——書(shū)中遍布著(zhù)太多的“可能”、“或許”、“也許”、“也有可能”、“看起來(lái)”、“大概”、“非�？赡堋�、“幾乎肯定”這樣的詞。我相信我的書(shū)中可能有一些較嚴重的問(wèn)題和誤導性，但是我認為目前書(shū)中提到的其他觀(guān)點(diǎn)更加糟糕，包括默認觀(guān)點(diǎn)或者所謂的“零假設”，這些觀(guān)點(diǎn)認為我們可以暫時(shí)安全地或合理地忽略超級智能出現的可能性。