當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之后，它們將會“失去控制”，以我們無法想象的速度自行進化，以至于遠遠地并且非常迅速地把我們拋在后面。這并非科幻片中才有的場景，而是人工智能專家們在嚴肅探討的話題。由于人工智能方面令人吃驚的進展，一些計算機科學家正在爭論是否應該對某些研究設限，以防這些研究可能導致人類失去對計算機體系的控制。科學家認為，正如宇宙學上存在著一個讓所有物理定律都失效的“奇點”(Singularity)一樣，信息技術也正朝著“超人類智能”的奇點邁進。

　　以人工智能和人類未來為主題的2009奇點峰會(Singularity Summit)就重點探討了機器超越人類智慧的“奇點”(Singularity)終將到來的時代。

　　在奇點峰會中筆者受益量多，但該峰會最大的裨益乃其尚未解決的問題。筆者將總結關于“奇點”理論的十大為解難題，與讀者共同探討有關人類智力與機器人智力的哲學道德之爭議。

　　“奇點”理論：著名未來學家雷·庫茲韋爾的“奇點”理論指出在“奇點”來臨之時，機器將可通過人工智能進行自我完善，超過人類本身，開啟一個新的時代。一些批評者對惡意的人工智能提出了質疑，但越來越多的主流機構開始接受庫茲韋爾的看法。

　　智力與意識是否僅僅局限于我們所認識并認可的范圍？

　　在談話中，“奇點”理論之父著名未來學家雷·庫茲韋爾將“智力”定義為“預測能力”，這一能力是從我們的祖先尚在大草原中以狩獵為生時，需判定其狩獵對象下一步將移動至何處以便更有效率地捕獲獵物這一經驗中進化并遺傳下來的。如將“智力”的概念定義于此，那么顯然電腦在這方面遠遠要比人類高明（電腦可預報天氣，經濟動態等）。

　　當然，人類的預測能力也有機器所無法涉及的領域，比如判定女友喜歡那種花這種事只有人類才可加以估計和推測。

　　假如這個世界尚有我們所未曾認識到的智力類型，那么如果機器通過人工智能進行自我完善并發展出一種新型的智力，我們又怎能意識得到呢？假設真有其他類型的智力存在于這個世界，那么如果機器發展出一種新型的意識，我們又怎么對其進行鑒別和認識？

　　人工智能是否會將人類滅絕？

　　在峰會上，很多人都擔心人類終有一天會斷絕在人工智能之手。但這些杞人憂天的偏執狂卻無一人可解釋電腦程序將如何殺死人類。

　　還有人擔心，人類是否會失去對機器的控制，使得人工智能機器破解并進入核彈系統，而后隨意發射核武器？

　　人工智能會在意自己失聰，耳聾，或失明？

　　世界首臺電腦誕生時，閃入它腦中的第一個念頭絕不是“天哪！我居然沒有眼睛！看不到這個世界！”一個并無實體依存于一臺機器才能運行的所謂“智能”的最大缺陷即嚴重缺乏感官。毫無疑問，人類可被激怒，倘若這個世界上出現了第一臺被激怒的人工智能，那么這將意味著什么呢？

　　期待機器有感情的那一天嗎？

　　人工智能會沮喪嗎？毫無疑問，第一臺人工智能機器會感到無比孤單。將來當第一例具有意識的機器橫空出世時，人類不會想要這種看似人性化服務實則掌握人類社會經濟工具和武器裝置的朋友。

　　人工智能模擬大腦，亦或人類大腦本就以電腦方式運作？

　　Jurgen Schmidhuber是一位人工智能研究所的科學家。他指出人類大腦處理信息的方式與zip解壓縮文件如出一轍，我們區別無趣與有趣的基準是衡量這個事物包含多少可被我們深刻加工并壓縮的新鮮信息含量。

　　Jurgen Schmidhuber揭示了大腦是如何通過擴展個人體驗而處理信息。這使我們不禁好奇，難道我們的大腦的運作已經趨向于電腦方式了？人類大腦是以處理不同的軟件而造就人們不同的個性的嗎？這是否意味著“奇點”時代不是以人工智能超越人類的方式到來，而是伴隨著人類意識到大腦實為電腦運行方式這一事實到來的呢？

　　“禁忌”程序可戰勝自由意志？

　　在關于如何避免人類被智能機器所統治的討論當中，許多發言人都強調了向智能機器人灌輸人類道德倫理的重要性。也有人提出為何不直接編輯杜絕機器人屠殺人類的程序。但是，一旦“奇點”到來，機器有了自己的自由意志，他們當然可以選擇不去遵守這些程序。人類本身不就是在建立規則與不斷犯規中發展的嗎？

　　弗洛伊德也適用于人工智能？

　　如果人工智能果真發展出自由意志與智力，那么他們的大腦也和人類大腦一樣復雜嗎？他們也會有無法理解，控制和涉及的領域嗎？如果弗洛伊德的自我，本我和超我乃生物與感知的結果，那么人工智能也會有宗教信仰和心理問題嗎？如果人工智能將人類奉為神明，或者造物主，那么會導致他們對人類產生俄狄浦斯情結嗎？如果是這樣，那么他們對人類的殺戮就有理可循了，畢竟俄狄浦斯終歸沒有逃出殺父娶母的命運。

　　人工智能會真誠地協助人類克服劣根性？

　　每個網民都知道，網絡是開闊眼界獲取信息的重要工具，同時也是一個肆意散播不良信息的平臺。那些鼓吹全球變暖是一個政治陰謀，將奧巴馬與斯大林和希特勒相提并論，并以幫助尼日利亞公主為名招搖撞騙的人以網絡為面具無處不在。那么具有人工智能機器是否會抓住這一軟肋，不懷好意地會為人類的欲望，貪婪和憎恨鋪平一條不歸路呢？其實更值得擔心的并非智能機器，而是人類本身。

　　智能機器將對人類不屑一顧？

　　有樂觀的人工智能專家大膽設想：智能機器人實際上是人類演化的后代，它們從我們人類中成長，學習我們的技能，與我們擁有共同的價值標準，可以看成是我們人類思維的后代。

　　然而對人工智能懷有敵意與排斥的人則認為接受人工智能將比人類強大的事實不會揭開長久以來未解的哲學問題，如人生意義及虛無主義。或者，如果有一天機器當真發達到如此地步，也許他們對人類根本不屑一顧呢？1. 奇點來臨，無人接招？

　　最后，Anna Salamon告訴我，“奇點”的影響力將波及到世界上每一個人。然而我卻不甚認同這一觀點。

　　去年，一名飛行員在亞馬遜流域發現了一個從未與外界有過接觸的新部落。在南美洲，亞洲和非洲的一些地區，人們的生活如同這一新部落的民眾般，別說30年了，甚至300年以來都未曾有過任何變化。因此，當紐約曼哈頓西區富可敵國的貴族以投入硬幣來操控一個高端智能機器人時，生活在其他區域，尤其是落后地區的人們是無法蒙受這一科技恩惠的。實際上，他們也根本不在乎何謂“奇點”。

　　如果“奇點”影響范圍只是小眾，而更為眾多的人類無法支付這一服務，甚至從未聽聞或根本不屑一顧，那么奇點峰會所探討的機器人反超并主宰人類的假設，是否僅僅是紙上談兵呢?亦或，“奇點”帶來的只是對貧富差距，南北差異的深化？筆者再次重申，更值得擔心的并非智能機器，而是人類本身。