奇點(diǎn)峰會(huì):人工智能PK人類智慧成爭(zhēng)議焦點(diǎn)
當(dāng)人工智能機(jī)器達(dá)到一定的智能水平(即在某天突然達(dá)到一種稱作“奇點(diǎn)”的狀態(tài))之后,它們將會(huì)“失去控制”,以我們無(wú)法想象的速度自行進(jìn)化,以至于遠(yuǎn)遠(yuǎn)地并且非常迅速地把我們拋在后面。這并非科幻片中才有的場(chǎng)景,而是人工智能專家們?cè)趪?yán)肅探討的話題。由于人工智能方面令人吃驚的進(jìn)展,一些計(jì)算機(jī)科學(xué)家正在爭(zhēng)論是否應(yīng)該對(duì)某些研究設(shè)限,以防這些研究可能導(dǎo)致人類失去對(duì)計(jì)算機(jī)體系的控制。科學(xué)家認(rèn)為,正如宇宙學(xué)上存在著一個(gè)讓所有物理定律都失效的“奇點(diǎn)”(Singularity)一樣,信息技術(shù)也正朝著“超人類智能”的奇點(diǎn)邁進(jìn)。
以人工智能和人類未來(lái)為主題的2009奇點(diǎn)峰會(huì)(Singularity Summit)就重點(diǎn)探討了機(jī)器超越人類智慧的“奇點(diǎn)”(Singularity)終將到來(lái)的時(shí)代。
在奇點(diǎn)峰會(huì)中筆者受益量多,但該峰會(huì)最大的裨益乃其尚未解決的問(wèn)題。筆者將總結(jié)關(guān)于“奇點(diǎn)”理論的十大為解難題,與讀者共同探討有關(guān)人類智力與機(jī)器人智力的哲學(xué)道德之爭(zhēng)議。
“奇點(diǎn)”理論:著名未來(lái)學(xué)家雷·庫(kù)茲韋爾的“奇點(diǎn)”理論指出在“奇點(diǎn)”來(lái)臨之時(shí),機(jī)器將可通過(guò)人工智能進(jìn)行自我完善,超過(guò)人類本身,開(kāi)啟一個(gè)新的時(shí)代。一些批評(píng)者對(duì)惡意的人工智能提出了質(zhì)疑,但越來(lái)越多的主流機(jī)構(gòu)開(kāi)始接受庫(kù)茲韋爾的看法。
智力與意識(shí)是否僅僅局限于我們所認(rèn)識(shí)并認(rèn)可的范圍?
在談話中,“奇點(diǎn)”理論之父著名未來(lái)學(xué)家雷·庫(kù)茲韋爾將“智力”定義為“預(yù)測(cè)能力”,這一能力是從我們的祖先尚在大草原中以狩獵為生時(shí),需判定其狩獵對(duì)象下一步將移動(dòng)至何處以便更有效率地捕獲獵物這一經(jīng)驗(yàn)中進(jìn)化并遺傳下來(lái)的。如將“智力”的概念定義于此,那么顯然電腦在這方面遠(yuǎn)遠(yuǎn)要比人類高明(電腦可預(yù)報(bào)天氣,經(jīng)濟(jì)動(dòng)態(tài)等)。
當(dāng)然,人類的預(yù)測(cè)能力也有機(jī)器所無(wú)法涉及的領(lǐng)域,比如判定女友喜歡那種花這種事只有人類才可加以估計(jì)和推測(cè)。
假如這個(gè)世界尚有我們所未曾認(rèn)識(shí)到的智力類型,那么如果機(jī)器通過(guò)人工智能進(jìn)行自我完善并發(fā)展出一種新型的智力,我們又怎能意識(shí)得到呢?假設(shè)真有其他類型的智力存在于這個(gè)世界,那么如果機(jī)器發(fā)展出一種新型的意識(shí),我們又怎么對(duì)其進(jìn)行鑒別和認(rèn)識(shí)?
人工智能是否會(huì)將人類滅絕?
在峰會(huì)上,很多人都擔(dān)心人類終有一天會(huì)斷絕在人工智能之手。但這些杞人憂天的偏執(zhí)狂卻無(wú)一人可解釋電腦程序?qū)⑷绾螝⑺廊祟悺?/FONT>
還有人擔(dān)心,人類是否會(huì)失去對(duì)機(jī)器的控制,使得人工智能機(jī)器破解并進(jìn)入核彈系統(tǒng),而后隨意發(fā)射核武器?
人工智能會(huì)在意自己失聰,耳聾,或失明?
世界首臺(tái)電腦誕生時(shí),閃入它腦中的第一個(gè)念頭絕不是“天哪!我居然沒(méi)有眼睛!看不到這個(gè)世界!”一個(gè)并無(wú)實(shí)體依存于一臺(tái)機(jī)器才能運(yùn)行的所謂“智能”的最大缺陷即嚴(yán)重缺乏感官。毫無(wú)疑問(wèn),人類可被激怒,倘若這個(gè)世界上出現(xiàn)了第一臺(tái)被激怒的人工智能,那么這將意味著什么呢?
期待機(jī)器有感情的那一天嗎?
人工智能會(huì)沮喪嗎?毫無(wú)疑問(wèn),第一臺(tái)人工智能機(jī)器會(huì)感到無(wú)比孤單。將來(lái)當(dāng)?shù)谝焕哂幸庾R(shí)的機(jī)器橫空出世時(shí),人類不會(huì)想要這種看似人性化服務(wù)實(shí)則掌握人類社會(huì)經(jīng)濟(jì)工具和武器裝置的朋友。
人工智能模擬大腦,亦或人類大腦本就以電腦方式運(yùn)作?
Jurgen Schmidhuber是一位人工智能研究所的科學(xué)家。他指出人類大腦處理信息的方式與zip解壓縮文件如出一轍,我們區(qū)別無(wú)趣與有趣的基準(zhǔn)是衡量這個(gè)事物包含多少可被我們深刻加工并壓縮的新鮮信息含量。
Jurgen Schmidhuber揭示了大腦是如何通過(guò)擴(kuò)展個(gè)人體驗(yàn)而處理信息。這使我們不禁好奇,難道我們的大腦的運(yùn)作已經(jīng)趨向于電腦方式了?人類大腦是以處理不同的軟件而造就人們不同的個(gè)性的嗎?這是否意味著“奇點(diǎn)”時(shí)代不是以人工智能超越人類的方式到來(lái),而是伴隨著人類意識(shí)到大腦實(shí)為電腦運(yùn)行方式這一事實(shí)到來(lái)的呢?
“禁忌”程序可戰(zhàn)勝自由意志?
在關(guān)于如何避免人類被智能機(jī)器所統(tǒng)治的討論當(dāng)中,許多發(fā)言人都強(qiáng)調(diào)了向智能機(jī)器人灌輸人類道德倫理的重要性。也有人提出為何不直接編輯杜絕機(jī)器人屠殺人類的程序。但是,一旦“奇點(diǎn)”到來(lái),機(jī)器有了自己的自由意志,他們當(dāng)然可以選擇不去遵守這些程序。人類本身不就是在建立規(guī)則與不斷犯規(guī)中發(fā)展的嗎?
弗洛伊德也適用于人工智能?
如果人工智能果真發(fā)展出自由意志與智力,那么他們的大腦也和人類大腦一樣復(fù)雜嗎?他們也會(huì)有無(wú)法理解,控制和涉及的領(lǐng)域嗎?如果弗洛伊德的自我,本我和超我乃生物與感知的結(jié)果,那么人工智能也會(huì)有宗教信仰和心理問(wèn)題嗎?如果人工智能將人類奉為神明,或者造物主,那么會(huì)導(dǎo)致他們對(duì)人類產(chǎn)生俄狄浦斯情結(jié)嗎?如果是這樣,那么他們對(duì)人類的殺戮就有理可循了,畢竟俄狄浦斯終歸沒(méi)有逃出殺父娶母的命運(yùn)。
人工智能會(huì)真誠(chéng)地協(xié)助人類克服劣根性?
每個(gè)網(wǎng)民都知道,網(wǎng)絡(luò)是開(kāi)闊眼界獲取信息的重要工具,同時(shí)也是一個(gè)肆意散播不良信息的平臺(tái)。那些鼓吹全球變暖是一個(gè)政治陰謀,將奧巴馬與斯大林和希特勒相提并論,并以幫助尼日利亞公主為名招搖撞騙的人以網(wǎng)絡(luò)為面具無(wú)處不在。那么具有人工智能機(jī)器是否會(huì)抓住這一軟肋,不懷好意地會(huì)為人類的欲望,貪婪和憎恨鋪平一條不歸路呢?其實(shí)更值得擔(dān)心的并非智能機(jī)器,而是人類本身。
智能機(jī)器將對(duì)人類不屑一顧?
有樂(lè)觀的人工智能專家大膽設(shè)想:智能機(jī)器人實(shí)際上是人類演化的后代,它們從我們?nèi)祟愔谐砷L(zhǎng),學(xué)習(xí)我們的技能,與我們擁有共同的價(jià)值標(biāo)準(zhǔn),可以看成是我們?nèi)祟愃季S的后代。
然而對(duì)人工智能懷有敵意與排斥的人則認(rèn)為接受人工智能將比人類強(qiáng)大的事實(shí)不會(huì)揭開(kāi)長(zhǎng)久以來(lái)未解的哲學(xué)問(wèn)題,如人生意義及虛無(wú)主義。或者,如果有一天機(jī)器當(dāng)真發(fā)達(dá)到如此地步,也許他們對(duì)人類根本不屑一顧呢?1. 奇點(diǎn)來(lái)臨,無(wú)人接招?
最后,Anna Salamon告訴我,“奇點(diǎn)”的影響力將波及到世界上每一個(gè)人。然而我卻不甚認(rèn)同這一觀點(diǎn)。
去年,一名飛行員在亞馬遜流域發(fā)現(xiàn)了一個(gè)從未與外界有過(guò)接觸的新部落。在南美洲,亞洲和非洲的一些地區(qū),人們的生活如同這一新部落的民眾般,別說(shuō)30年了,甚至300年以來(lái)都未曾有過(guò)任何變化。因此,當(dāng)紐約曼哈頓西區(qū)富可敵國(guó)的貴族以投入硬幣來(lái)操控一個(gè)高端智能機(jī)器人時(shí),生活在其他區(qū)域,尤其是落后地區(qū)的人們是無(wú)法蒙受這一科技恩惠的。實(shí)際上,他們也根本不在乎何謂“奇點(diǎn)”。
如果“奇點(diǎn)”影響范圍只是小眾,而更為眾多的人類無(wú)法支付這一服務(wù),甚至從未聽(tīng)聞或根本不屑一顧,那么奇點(diǎn)峰會(huì)所探討的機(jī)器人反超并主宰人類的假設(shè),是否僅僅是紙上談兵呢?亦或,“奇點(diǎn)”帶來(lái)的只是對(duì)貧富差距,南北差異的深化?筆者再次重申,更值得擔(dān)心的并非智能機(jī)器,而是人類本身。
文章版權(quán)歸西部工控xbgk所有,未經(jīng)許可不得轉(zhuǎn)載。