作者：尼克·波斯特洛姆 出版：中信出版社

    如果真的出現超越人類(lèi)智力水平的生命體或物質(zhì)，它會(huì )以怎樣的方式出現，人類(lèi)的命運將會(huì )如何？或許對大多數人來(lái)說(shuō)這樣的問(wèn)題過(guò)于科幻，遙遙無(wú)期而不值得去過(guò)多思考，至少部分人會(huì )認為這不應放在一個(gè)嚴肅的科學(xué)命題的角度來(lái)討論。但是，事實(shí)情況可能并非人們想象的如此樂(lè )觀(guān)。牛津大學(xué)的學(xué)者尼克·波斯特洛姆在《超級智能》中從科學(xué)角度全面論述了超級智能出現的可能與形式，以及它對人類(lèi)社會(huì )可能帶來(lái)的影響和應對方案。從波斯特洛姆的論述來(lái)看，超級智能已不再只是影視和文學(xué)中的想象物，而是一種近在咫尺的可能，他由此認為，我們必須對超級智能的產(chǎn)生有深入的思考和認識，如果只是坐視它的出現而毫無(wú)準備，那么人類(lèi)社會(huì )和人類(lèi)本身的命運將面臨極大的挑戰。

    留給我們的時(shí)間不多了

    自從現代計算機發(fā)明以來(lái)，人工智能概念在上世紀五十年代很快被提出，作為一種尖端科技，制造與人類(lèi)智力水平相當的機器或軟件一直在緩慢而艱難的推進(jìn)，中間曾經(jīng)歷兩次大的起伏。一次是在上世紀七十年代，由于硬件技術(shù)的限制，大規模數據存儲和加工都遠遠跟不上人工智能理論的需求，科學(xué)家和投資人對研究的未來(lái)變得異常悲觀(guān)，而在計算機技術(shù)快速發(fā)展后的八十年代末，由于在可控成本內基本上只能實(shí)現運行單一程序的小規模系統，讓人工智能研究再次陷入低潮，直到九十年代才緩慢復蘇。

    雖然研究進(jìn)程磕磕絆絆，但波斯特洛姆還是向我們列舉了諸多人工智能上的成就，比如1997年擊敗國際象棋世界冠軍卡斯帕羅夫的深藍，自動(dòng)出入境程序中的人臉識別系統，還有美國軍隊在海灣戰爭中運用的智能計劃日常安排程序等等。不過(guò)這些成就都有致命缺陷——此類(lèi)獨立系統都只能在有限范圍和領(lǐng)域內實(shí)現單一的認知，無(wú)法像真正的人類(lèi)智慧一樣具有普遍的問(wèn)題解決能力，這類(lèi)系統所以也被稱(chēng)為“弱人工智能”。

    那么，是否有可能獲得具備人類(lèi)智能水平的“強人工智能”呢？波斯特洛姆給出了肯定的回答。他認為，計算機硬件技術(shù)一直保持著(zhù)高速發(fā)展，而且很多領(lǐng)域呈幾何增長(cháng)態(tài)勢，并且單一系統的人工智能應用已比較發(fā)達，延伸和擴散得很快，再加上軟件工程和計算機神經(jīng)系統科學(xué)等領(lǐng)域的突飛猛進(jìn)，今天人工智能發(fā)展的成熟度整體上已很高，在未來(lái)40年內會(huì )有50%的可能出現等同人類(lèi)智能的系統，最晚也會(huì )在本世紀末出現。而從“強人工智能”到超級智能的出現會(huì )有三種情況：一是瞬間爆發(fā)，也就是在短短幾分鐘，幾個(gè)小時(shí)，幾天的時(shí)間內，人工智能會(huì )突破“跨界點(diǎn)”，之后將完全按自己的想法行動(dòng)；二是緩慢爆發(fā)，跨界時(shí)間會(huì )被拉長(cháng)到幾十甚至上百年。三是溫和爆發(fā)，也就是中等時(shí)間長(cháng)度，預計爆發(fā)時(shí)間在幾個(gè)月或幾年內。波斯特洛姆發(fā)現，智能的增長(cháng)率與智能爆發(fā)的反抗度成反比關(guān)系。反抗度也就是智能水平增長(cháng)及實(shí)現環(huán)境的阻礙，在一般情況下，在越接近人類(lèi)智能水平時(shí)反抗度越高，而越過(guò)這個(gè)坎人工智能的增速將呈現下坡式的加速狀態(tài)。所以達到人類(lèi)智能水平后出現超級智能的時(shí)間最有可能的是瞬間和溫和兩種，而不是大家認為最有可能的緩慢出現。據此而論，留給人類(lèi)的準備時(shí)間其實(shí)并不多了。

    如何以及邁向怎樣的超級智能

    波斯特洛姆認為，超級智能的實(shí)現路徑?jīng)Q定了最后它會(huì )以何種形式出現，也決定了它所帶來(lái)的問(wèn)題和我們可能面臨的機遇。而就目前的技術(shù)水平而言，有五個(gè)通往超級智能的路徑，一個(gè)是狹義上的人工智能，即通過(guò)編寫(xiě)完全模擬人類(lèi)思維的程序，并兼具學(xué)習進(jìn)化能力。這種方式最大的關(guān)鍵在于遺傳算法對計算機能力的需求和計算機技術(shù)的發(fā)達程度，只要這兩個(gè)關(guān)鍵因素得到突破，這將是最可能在瞬間完成跨界的方式之一。這種方式也留下了一個(gè)契機：無(wú)需模仿人類(lèi)心智，也就是說(shuō)對于人類(lèi)情感無(wú)能為力，如何賦予其道德情感，這會(huì )是個(gè)巨大的問(wèn)題，也為人類(lèi)如何挑戰留下了機會(huì )。第二種是全腦仿真，通過(guò)精細掃描人類(lèi)大腦，將原始數據輸入計算機，然后構建起一個(gè)完全模仿人類(lèi)大腦的智能程序，這其實(shí)是前一種方法的延續，其問(wèn)題與挑戰也類(lèi)似。第三種生物認知，通過(guò)人工育種實(shí)現優(yōu)生來(lái)求得智能上的突破，顯然這種方式不僅面臨極大的道德挑戰和倫理風(fēng)險，且耗時(shí)非常長(cháng)，不確定性也非常多，實(shí)現的可能性最小。第四種是人腦與計算機交互，植入技術(shù)是最常見(jiàn)的交互方式，這極為復雜，且可替代性很強，所以也不理想。第五種是通過(guò)網(wǎng)絡(luò )和組織讓人類(lèi)的大腦相連，在適當時(shí)候這種網(wǎng)絡(luò )會(huì )成為集體超級智能，比如互聯(lián)網(wǎng)，這種方式最不確定，無(wú)人知曉其確切原理，只能靠機緣。

    不難發(fā)現，最有可能出現的超級智能是人工智能和全腦仿真，尤其是前者。那么最后會(huì )得到何種超級智能呢？波斯特洛姆認為有三種，高速、集體、素質(zhì)超級智能。由于網(wǎng)路和組織方式獲得超級智能難以實(shí)現，最終我們可能見(jiàn)到的是一個(gè)比人類(lèi)更為聰明，并且結算能力超快的智能體。

    問(wèn)題及應對

    由于超級智能出現的時(shí)間可能較短，在世界范圍內可能只有單一項目會(huì )突破“跨界點(diǎn)”，那么也就是只有一個(gè)單一的超級智能體會(huì )擁有決定性戰略?xún)?yōu)勢。先不說(shuō)超級智能對社會(huì )、經(jīng)濟、人類(lèi)位置帶來(lái)的影響，它可能的最大威脅是導致地球上智能生命的滅亡或使其失去發(fā)展潛能，在波斯特洛姆看來(lái)這已不是妄談。因為超級智能的突然出現是缺乏人類(lèi)情感和最終的價(jià)值觀(guān)體系的，在此情況下超級智能自身存在的目標可能是隨機或簡(jiǎn)單的，但有一點(diǎn)可以確定，即出于工具性目的，它將會(huì )把無(wú)限攫取資源看成自身目標的保障，占有和消耗資源最多的人類(lèi)無(wú)疑會(huì )在邏輯上成為被限制的“物”。

    波斯特洛姆通過(guò)背叛轉折和反常目標實(shí)現形式來(lái)論證了這種可能的必然性。他提出，要克服這個(gè)結果，只有在超級智能出現以前做好準備，對其可能出現的能力設法預防性控制，對其動(dòng)機選擇設法限制。能力控制有遏制系統性能和信息傳輸的盒子方法，采取代碼獎賞使其目標循環(huán)的激勵方法，以及設置絆網(wǎng)探測危險行動(dòng)后關(guān)閉的方法。動(dòng)機限制則可采取直接或間接的規則載入，或在選擇可能的超級智能體前，將其設置為類(lèi)似人類(lèi)和對人類(lèi)友好，或者直接限定超級智能體突變前的目標。