 |
作者：尼克·波斯特洛姆
出版：中信出版社 |
如果真的出現(xiàn)超越人類智力水平的生命體或物質(zhì),，它會(huì)以怎樣的方式出現(xiàn),，人類的命運(yùn)將會(huì)如何,？或許對大多數(shù)人來說這樣的問題過于科幻,，遙遙無期而不值得去過多思考，至少部分人會(huì)認(rèn)為這不應(yīng)放在一個(gè)嚴(yán)肅的科學(xué)命題的角度來討論,。但是,，事實(shí)情況可能并非人們想象的如此樂觀,。牛津大學(xué)的學(xué)者尼克·波斯特洛姆在《超級智能》中從科學(xué)角度全面論述了超級智能出現(xiàn)的可能與形式，以及它對人類社會(huì)可能帶來的影響和應(yīng)對方案,。從波斯特洛姆的論述來看,，超級智能已不再只是影視和文學(xué)中的想象物，而是一種近在咫尺的可能,，他由此認(rèn)為,，我們必須對超級智能的產(chǎn)生有深入的思考和認(rèn)識，如果只是坐視它的出現(xiàn)而毫無準(zhǔn)備,，那么人類社會(huì)和人類本身的命運(yùn)將面臨極大的挑戰(zhàn),。
留給我們的時(shí)間不多了
自從現(xiàn)代計(jì)算機(jī)發(fā)明以來，人工智能概念在上世紀(jì)五十年代很快被提出,，作為一種尖端科技,，制造與人類智力水平相當(dāng)?shù)臋C(jī)器或軟件一直在緩慢而艱難的推進(jìn)，中間曾經(jīng)歷兩次大的起伏,。一次是在上世紀(jì)七十年代,，由于硬件技術(shù)的限制，大規(guī)模數(shù)據(jù)存儲(chǔ)和加工都遠(yuǎn)遠(yuǎn)跟不上人工智能理論的需求,，科學(xué)家和投資人對研究的未來變得異常悲觀,，而在計(jì)算機(jī)技術(shù)快速發(fā)展后的八十年代末,，由于在可控成本內(nèi)基本上只能實(shí)現(xiàn)運(yùn)行單一程序的小規(guī)模系統(tǒng),，讓人工智能研究再次陷入低潮，直到九十年代才緩慢復(fù)蘇,。
雖然研究進(jìn)程磕磕絆絆,，但波斯特洛姆還是向我們列舉了諸多人工智能上的成就，比如1997年擊敗國際象棋世界冠軍卡斯帕羅夫的深藍(lán),，自動(dòng)出入境程序中的人臉識別系統(tǒng),，還有美國軍隊(duì)在海灣戰(zhàn)爭中運(yùn)用的智能計(jì)劃日常安排程序等等。不過這些成就都有致命缺陷——此類獨(dú)立系統(tǒng)都只能在有限范圍和領(lǐng)域內(nèi)實(shí)現(xiàn)單一的認(rèn)知,，無法像真正的人類智慧一樣具有普遍的問題解決能力,，這類系統(tǒng)所以也被稱為“弱人工智能”。
那么,，是否有可能獲得具備人類智能水平的“強(qiáng)人工智能”呢,？波斯特洛姆給出了肯定的回答。他認(rèn)為,，計(jì)算機(jī)硬件技術(shù)一直保持著高速發(fā)展,，而且很多領(lǐng)域呈幾何增長態(tài)勢，并且單一系統(tǒng)的人工智能應(yīng)用已比較發(fā)達(dá),，延伸和擴(kuò)散得很快,，再加上軟件工程和計(jì)算機(jī)神經(jīng)系統(tǒng)科學(xué)等領(lǐng)域的突飛猛進(jìn),，今天人工智能發(fā)展的成熟度整體上已很高，在未來40年內(nèi)會(huì)有50%的可能出現(xiàn)等同人類智能的系統(tǒng),，最晚也會(huì)在本世紀(jì)末出現(xiàn),。而從“強(qiáng)人工智能”到超級智能的出現(xiàn)會(huì)有三種情況：一是瞬間爆發(fā)，也就是在短短幾分鐘,，幾個(gè)小時(shí),，幾天的時(shí)間內(nèi)，人工智能會(huì)突破“跨界點(diǎn)”,，之后將完全按自己的想法行動(dòng),；二是緩慢爆發(fā)，跨界時(shí)間會(huì)被拉長到幾十甚至上百年,。三是溫和爆發(fā),，也就是中等時(shí)間長度，預(yù)計(jì)爆發(fā)時(shí)間在幾個(gè)月或幾年內(nèi),。波斯特洛姆發(fā)現(xiàn),，智能的增長率與智能爆發(fā)的反抗度成反比關(guān)系。反抗度也就是智能水平增長及實(shí)現(xiàn)環(huán)境的阻礙,，在一般情況下,，在越接近人類智能水平時(shí)反抗度越高，而越過這個(gè)坎人工智能的增速將呈現(xiàn)下坡式的加速狀態(tài),。所以達(dá)到人類智能水平后出現(xiàn)超級智能的時(shí)間最有可能的是瞬間和溫和兩種,，而不是大家認(rèn)為最有可能的緩慢出現(xiàn)。據(jù)此而論,，留給人類的準(zhǔn)備時(shí)間其實(shí)并不多了,。
如何以及邁向怎樣的超級智能
波斯特洛姆認(rèn)為，超級智能的實(shí)現(xiàn)路徑?jīng)Q定了最后它會(huì)以何種形式出現(xiàn),，也決定了它所帶來的問題和我們可能面臨的機(jī)遇,。而就目前的技術(shù)水平而言，有五個(gè)通往超級智能的路徑,，一個(gè)是狹義上的人工智能,，即通過編寫完全模擬人類思維的程序，并兼具學(xué)習(xí)進(jìn)化能力,。這種方式最大的關(guān)鍵在于遺傳算法對計(jì)算機(jī)能力的需求和計(jì)算機(jī)技術(shù)的發(fā)達(dá)程度,，只要這兩個(gè)關(guān)鍵因素得到突破，這將是最可能在瞬間完成跨界的方式之一,。這種方式也留下了一個(gè)契機(jī)：無需模仿人類心智,，也就是說對于人類情感無能為力，如何賦予其道德情感,，這會(huì)是個(gè)巨大的問題,，也為人類如何挑戰(zhàn)留下了機(jī)會(huì),。第二種是全腦仿真，通過精細(xì)掃描人類大腦,，將原始數(shù)據(jù)輸入計(jì)算機(jī),，然后構(gòu)建起一個(gè)完全模仿人類大腦的智能程序，這其實(shí)是前一種方法的延續(xù),，其問題與挑戰(zhàn)也類似,。第三種生物認(rèn)知，通過人工育種實(shí)現(xiàn)優(yōu)生來求得智能上的突破,，顯然這種方式不僅面臨極大的道德挑戰(zhàn)和倫理風(fēng)險(xiǎn),，且耗時(shí)非常長，不確定性也非常多,，實(shí)現(xiàn)的可能性最小,。第四種是人腦與計(jì)算機(jī)交互，植入技術(shù)是最常見的交互方式,，這極為復(fù)雜,，且可替代性很強(qiáng)，所以也不理想,。第五種是通過網(wǎng)絡(luò)和組織讓人類的大腦相連,，在適當(dāng)時(shí)候這種網(wǎng)絡(luò)會(huì)成為集體超級智能，比如互聯(lián)網(wǎng),，這種方式最不確定,，無人知曉其確切原理，只能靠機(jī)緣,。
不難發(fā)現(xiàn),，最有可能出現(xiàn)的超級智能是人工智能和全腦仿真,，尤其是前者,。那么最后會(huì)得到何種超級智能呢？波斯特洛姆認(rèn)為有三種,，高速,、集體、素質(zhì)超級智能,。由于網(wǎng)路和組織方式獲得超級智能難以實(shí)現(xiàn),，最終我們可能見到的是一個(gè)比人類更為聰明，并且結(jié)算能力超快的智能體,。
問題及應(yīng)對
由于超級智能出現(xiàn)的時(shí)間可能較短,，在世界范圍內(nèi)可能只有單一項(xiàng)目會(huì)突破“跨界點(diǎn)”，那么也就是只有一個(gè)單一的超級智能體會(huì)擁有決定性戰(zhàn)略優(yōu)勢,。先不說超級智能對社會(huì),、經(jīng)濟(jì),、人類位置帶來的影響，它可能的最大威脅是導(dǎo)致地球上智能生命的滅亡或使其失去發(fā)展?jié)撃�,，在波斯特洛姆看來這已不是妄談,。因?yàn)槌壷悄艿耐蝗怀霈F(xiàn)是缺乏人類情感和最終的價(jià)值觀體系的，在此情況下超級智能自身存在的目標(biāo)可能是隨機(jī)或簡單的,，但有一點(diǎn)可以確定,，即出于工具性目的，它將會(huì)把無限攫取資源看成自身目標(biāo)的保障,，占有和消耗資源最多的人類無疑會(huì)在邏輯上成為被限制的“物”,。
波斯特洛姆通過背叛轉(zhuǎn)折和反常目標(biāo)實(shí)現(xiàn)形式來論證了這種可能的必然性。他提出,，要克服這個(gè)結(jié)果,，只有在超級智能出現(xiàn)以前做好準(zhǔn)備，對其可能出現(xiàn)的能力設(shè)法預(yù)防性控制,，對其動(dòng)機(jī)選擇設(shè)法限制,。能力控制有遏制系統(tǒng)性能和信息傳輸?shù)暮凶臃椒ǎ扇〈a獎(jiǎng)賞使其目標(biāo)循環(huán)的激勵(lì)方法,，以及設(shè)置絆網(wǎng)探測危險(xiǎn)行動(dòng)后關(guān)閉的方法,。動(dòng)機(jī)限制則可采取直接或間接的規(guī)則載入，或在選擇可能的超級智能體前,，將其設(shè)置為類似人類和對人類友好,，或者直接限定超級智能體突變前的目標(biāo)。
