自從1920年捷克作家卡雷爾·恰佩克在他的劇本《羅素姆的萬能機器人》(Rossum’s Universal Robots)中，第一次使用robot這個詞，描繪了被機器人統治的世界以后，全球的劇作家們就開始各種放飛想象。
 

從奠定了“機器人三定律”的阿西莫夫小說，到與人類纏斗不休的《終結者》系列，亦或是充滿哲學浪漫色彩的《愛死亡機器人》，關于機器的善惡二元論，為科幻世界貢獻了無數經典，也成了智能科技領域中最接地氣、人人都能討論兩句的主題之一。
 

機器人真的會擁有自主意識嗎？又會對人類社會產生怎樣的影響？粒子機器人的出現，似乎又將這道難解之謎推演到了新的階段。
 

      從“細胞”開始，推開機器人覺醒的未來之門

最近，哥倫比亞大學教授、機器人研究權威專家Hod Lipson提出，機器將會有自我意識，這件事是確信無疑的。只不過“這件事情將在10年之后發生，還是100年之后發生”，科學家本人也不知道。
 

我們知道，以往在設計機器智能系統的時候，技術人員總是會試圖讓它們模擬和還原人類的行為。于是我們看到，機器在copy人類的過程中，學會了如何看、如何下棋，甚至還會像人一樣控制肢體來上一段花式體操。看起來，似乎機器的能力已經比絕大多數普通肥宅要強的多了。但為什么小說和電影里那么多牛氣沖天的機器人，生活中卻一個也沒有呢？
 

別說對著人類突突突的機器人軍團了，想花錢找個機器人管家替我擦桌子洗碗整理家務，都常常被科普“想太多”……而這都源于機器人的自我意識缺失。它只能完成人類告訴它的事情，并且還十分費勁。至于強智能系統需要的自我模擬、自我建模，更是遙遠的天方夜譚。
 

怎么現在突然就說機器人要產生自主意識了？乍聽之下簡直震驚我全家，接下來是不是該組織人類反抗軍了？咳咳，抱歉剛看完《終結者》后遺癥有點大……關于機器人覺醒，或許要從其最新的成果——仿生群體粒子機器人說起。
 

和人們想象中擁有機械身體、超智慧大腦的人形智能機器人不同，Hod Lipson所說的機器意識，很可能最先從粒子機器人集群中誕生。
 

今年三月，hod lipson團隊發明的新興粒子機器人登上了《自然》雜志封面，讓“機器的自我意識”出現了松動，這一發現也在學界引起了軒然大波。其創新性主要來自兩個方面：一是這些由“粒子”（即圓盤狀單元）組成的機械系統，不需要人類的強集中控制，也能依靠自主性伸縮和隨機運動完成復雜的任務；二是這種系統很可能產生覺知，通過思考“我為什么在這里”進而做出自我模擬、自我復制，從而可以在設備故障、特殊作業環境中順利完成任務。
 

聽到這里，大家可能會在松一口氣的同時也干到了一絲迷惑：
 

這種機器人系統看起來和草履蟲也差不太多，并不是很有威脅的樣子，那么傳說中的“黑客帝國”到底會不會來呢？
 

       模擬人類心智的一小步，機器人的一大步

我們知道，人工智能研究是建立在人腦如何工作的基礎之上的，而意識則是其中十分高級的一環。粒子機器人集群的進步，說明機器人學來到了哪個階段呢？
 

首先，在擔憂機器威脅人類社會之前，我們會率先品嘗到技術進步帶來的甜蜜時刻。
 

之所以這么說，是因為前面的發現，正在將機器能夠模擬的心智能力推向更高維度。根據目前的科學研究，人類的心智主要包括四大能力，其中視覺感知和推理能力，已經被神經網絡模型復制到了現實世界，計算機視覺、AI大腦正在成為新的生產力引擎。
 

而情感和社會關系，比如不同文化圈的人類能夠感受到愛恨悲喜等相通的感情，能夠根據合作、競爭、友誼、家人等不同的社會關系來產生動機并預測行為。
 

后面兩種能力才是機器人和科研人員苦求而不得的高級智能。機器如果擁有它們，會發生什么呢？至少目光所能及的未來很值得心動。
 

（霍德·立普森（Hod Lipson）教授 photo by Hatnim Lee）
 

以粒子機器人為例，這種非常初級的“極可能擁有意識”的機器系統，能夠帶來的社會價值都是巨大的。
 

一方面，機器人如果能夠模擬其它的人類和機器人，那也就會啟動機器人之間的社會行為，進而可以認知環境、預測未來并主動采取行動。
 

如果機器某個零件壞了，它就可以自己修復，這使得機器的利用效率和適用范圍大大提升。比如工廠里的機器、家里的吸塵器等，一些部件壞掉就會讓整個機器無法運作。未來由這些納米級機器人組成的機器，就能夠不斷循環，單個足見壞掉之后依然可以使用，幫助使用者不斷節省成本。
 

另一方面，能夠為未來科技打開新的想象空間與可能性。比如太空科技，生物醫藥等，隨著粒子機器人技術向毫米、納米級演進，未來應用到人類的血管中幫助處理病灶，亦或是在月球上機器人可以根據任務的需求改變自身的形態。任何自動化智能系統，包括在技術瓶頸中苦尋出路的無人駕駛等，一旦它們能夠有自我意識，從毀壞中恢復，就能夠更快地改進，這都是并不遙遠得機器智能未來。
 

      青山遮不住，畢竟東流去：機器的善惡誰說了算？

接下來，我們再來聊聊第二個問題——如果機器有意識，它一定會是惡的嗎？
 

在回答這個問題之前，我們不妨先聊聊計算機的進步。眾所周知，今天的計算機已經比上個世紀更加聰明且強大，但類似《2001太空漫游》等科幻電影中大型主機反叛人類的擔憂，卻越來越少了。今天，我們也許會擔心網絡漏洞所引發的混亂或是人為惡意制造的病毒，卻很少會想象出現什么電腦殺手或秘密組織。

人類為什么對智能機器人這么緊張呢？除了在智力、能力、體力上對人類個體的碾壓之外，恐怕一個很大的恐懼來自于未知與不確定性：一旦機器擁有獨立的人格和認知，會不會傷害人類呢？
 

問題來了，為什么機器人想要這么做呢？為了更多的服務器資源，還是傷害流水線工人會使其得到快感？在沒有足夠“獎勵”的前提下機器會自己變壞嗎？顯然還要問人類自己。
 

很多人認為，機器人覺醒會像《西部世界》中女主角德洛瑞絲一樣，意識到自己是被人類奴役和玩弄的，進而開始復仇。即使這一天真的會到來，我想以目前人類與機器人之間的關系，也不至于會變得劍拔弩張吧。
 

哪個“變態科學家”會甘愿冒天下之大不韙，丟給智能機器這樣“反人類”的數據集，而不擔心先被機器虐的是自己呢？
 

事實上，像波士頓動力那樣動輒對機器人拳打腳踢，只是為了訓練其適應性和靈活性的必要方式。就連這樣的操作，也因為人類自身的同理心和同情心，而變得越來越少了。讓AI在仿真環境里打游戲、讓機械手臂玩魔方、去山坡上溜機械狗……都是時下訓練的新方式，真有覺醒那一天，AI應該也給人類造一個沙盒游戲場快樂玩耍“投桃報李”才對嘛。
 

再進一步，如果出現了這樣的人類“恐怖分子”，比如利用AI行騙、犯罪，將機器人改造成爆炸裝置之類的，在技術上能否及時發現并遏制呢？
 

對于這一點，智能科學正在向網絡安全界學習，引入一些成熟的防范機制，比如人工智能開發中的紅色團隊、人工智能系統中的正式驗證，以及負責任地披露人工智能漏洞等等。
 

去年，由OpenAI、牛津大學、劍橋大學等14家機構和高校共同發布的《人工智能惡意使用》報告中，也進一步號召人工智能領域形成規范和道德框架。
 

在這樣道德、技術、法律等多方面的做功下，機器人的自主意識還會對人類帶來危險嗎？嚴謹如Hod Lipson也只是回答——沒那么簡單。
 

“應該說任何這樣的問題都沒有一個簡單的答案，但是我們必須走上這樣一個歷程，并且一步一步的往前走，我們現在要公開討論它應該可以做些什么，不可以做些什么，要不斷地進行研究。”
 

（Hod Lipson在接受采訪）
 

對技術的擔憂，就如同初次觸摸火種的驚懼，永恒地懸在人類心頭。今天絕大多數人提到AI，已經沒有了初見深藍和阿爾法狗的恐懼，開始重點關注其如何為經濟釋放能量。
 

從這個角度看，智能機器人的“黃金時代”還沒能到來，它正如所有“前輩們”一樣，經歷著幻想、質疑、混沌。所以，在這個技術尚且十分初級的階段，來探討其覺醒后是善是惡，似乎是一件很形而上的事情，但關乎我們每個人的未來，也孕育在這樣與技術進步相勾連的思索與拷問之間。