科幻作家劉慈欣：AI何時控制人類？已悄悄開始了

【環球網科技 記者 林迪】

“現在，我們說人類被自己創造的某種力量控制了，或者統治了，比如AI。但此前沒有過嗎?也許在上古時代就出現過。”近日，科幻作家&IDG資本首席暢想官劉慈欣在2018IDG資本私享會上如是說。

劉慈欣指出，“《人類簡史》里提出一個觀點——我們馴化了野生的小麥成為農作物，還是野生的小麥馴化了我們。仔細想一想，可能后者更合乎情理。農民要照顧小麥，很辛苦，要給它澆水、除蟲、耕地，辛辛苦苦就是為了讓它一代代繁衍下去，而且繁衍的越多越好，某種程度上就是小麥控制了人類，但是我們意識不到這一點。你說人工智能什么時候控制人類，可能現在已經悄悄開始了。”

距離真正的人工智能還很遠

真正的智能是什么呢?他解釋稱，大家都知道“圖靈測試”，測試者與被測試者(一個人和一臺機器)隔開的情況下，通過一些裝置(如鍵盤)向被測試者隨意提問。進行多次測試后，如果有超過30%的測試者不能確定出被測試者是人還是機器，那么這臺機器就通過了測試，并被認為具有人類智能。

(有些人認為)現在很多機器已經通過圖靈測試了，但我不這樣認為，真正的智能是什么呢?這個機器能通過圖靈測試，但他假裝通過不了，這是真正的人工智能。還有比如說AlphaGo贏了柯潔，這個也不叫人工智能，它就該這樣，那就是他最擅長的東西。真正的人工智能是什么，他贏不了柯潔，惱羞成怒，拿起棋盤往柯潔腦袋上砸。目前來看，人工智能走到這一步，還有很遠。

人們對AI的擔心“跑偏”了

現在人們對人工智能的未來最擔心的，其實有點走偏了，即智能機器逐漸代替人的工作。而這提出了兩個可能性：

一個可能性很黑暗、很可怕——我們和機器的關系理不順，大量的人失業找不到工作，社會越來越動蕩，上世紀的盧德運動，一幫人砸毀機器，現在可能就是破壞網絡、砸毀電腦。長期的動蕩下去，這是一種可能性。

另一種是光明的可能性——人和機器終于理順了關系。建立了新的社會分配制度，讓機器代替了大部分事務，同時給每一個人更富足、更優裕的生活，工作時間大幅度的減少，甚至不用工作。這是兩種可能性，他們認為前面一種很黑暗的可能性，后面一種是很光明，我認為恰恰相反。

如果前一種可能性發展下去，整個人類因為AI搶了工作，亂七八糟，到處打砸搶，社會動蕩。雖然不是一個好事，但是至少社會還能正常發展下去，因為人類歷史上這種事情多了。如果真的出現后面那種事情，我們的社會分配制度、經濟制度、政治制度發生徹底的變化。

值得一提的是，他指出，“從目前來看，最需要人做的工作是基礎科研。但有一個很令人擔憂的趨勢，傳統的研究思路越來越多被大數據所取代，而對大數據的分析不是靠人分析，是靠機器分析，就是科研中相當一部分工作是由機器來完成的。這種情況如果發展下去十分可怕。”

人類的終極目標是什么？

他指出，大致有兩個終極目標：一個是讓整個人類的文明延續下去，延續到整個宇宙當中，擴展到宇宙當中。另外一個目標是，讓我們每一個人過得都很幸福，充分發揮我們每個人的人生、人性，個體充分得到尊重。但是這兩個目標有時候是矛盾的，所以得先把搞清楚到底是哪個。

但是人類的終極目標是什么，現在確實沒有搞清楚這個問題。

“給歲月以文明還是文明以歲月，就是涉及到終極目標不同。”他認為，是“給文明以歲月”，而不是“給歲月以文明”。我們真正給歲月以文明，真正我們文明發展起來，發展到遍布整個太陽系甚至整個銀河系的時候，我們根本不會滅絕，當生存問題完全不需要考慮的時候，我們最后就可能面臨大災難，就滅絕了，什么都談不上了。

“死”在科幻小說中和在主流文學中很不一樣。科幻小說中的死，某種事物最后的滅亡包括人類最后的滅亡，不一定是悲劇的。因為這是它的必然結果，就像我以前常舉的一個例子，寫一篇小說，描寫兩個人白頭到老、幸福生活了一輩子，這不是悲劇。最后加一句，他們都死了，一百歲，仍然不是悲劇，因為整個人類社會也是一樣的。

如果我們真的“給歲月以文明”的話，人類文明會存在相當相當長的時間，這個時間長到我們難以想象。

關于外星文明

提到外星人，他表示，“地球上的文明離的都不遠，我們都近在咫尺，可以相互融合。最重要的一點，我們都是同一個物種，能夠相互交流。我們和外星物種之間的差別可能比我們跟地球上一顆小草的差別都大。”

“我常常想，我們遇見外星文明的第一個問題，可能大家根本想不到，就是如何判斷我們遇到的外星文明是有智慧的?如果面對一只螞蟻，它能看到我們是有智慧的嗎?它覺得人既不會打洞，也不會保護蟻后，也不會從外面抓昆蟲，每天就在一個長方形上的東西(手機)上點來點去，也沒有點出什么新玩意兒，這對螞蟻來說可能不是一個智慧的生命。”他解釋道。

劉慈欣總結稱，“外星人到來也是一樣，我們和他們的差別比螞蟻和我們的差別要大得多。所以真正和外星文明的接觸，對人類可能是一個極其殘酷的問題，它的殘酷性可能我們遠遠想不到。不是你和他應該怎么交流，而是人類可能連這個起碼的資格都沒有。”

關鍵詞： 科幻作家