知識星球（點選上方公眾號，可快速關註）
來源：新京報 – 李鐘豪
從某種程度上來說，人類任何關於超級人工智慧的想象，都是在對人本身的邊界進行探尋和拓展。
前兩天，被造車不掙錢的焦慮追著跑的埃隆·馬斯克（Elon Musk）突然“非常嚴肅地（原話：I am super super serious）”宣佈要開糖果工廠，大佬的突然轉身也迅速引來粉絲吐槽：“憋整那沒用的了，趕緊把西部世界搞起來，我們不要糖，不要電動車也不要火箭，就想要tmd西部世界！”
而這位粉絲心心念唸的“西部世界”正是出自著名黃暴電視臺HBO的同名原創劇集。最近《西部世界》第二季帶著“CHAOS TAKES CONTROL（混沌接管一切）”的副標題強勢回歸，開局三集便以9.3分的超高分牢牢佔據豆瓣熱門電視劇榜首位，同時也在IMDb和爛番茄收穫了8.9分和100%新鮮度的好評。本季接續上一季的內容，繼續講述西部世界樂園中飽受折磨的強AI機器人“host”覺醒自我意識並反抗人類的故事。
Dolores在第二季第三集中明確表示自己要“支配這個世界（To dominate this world）”
《西部世界》的故事直指這些年來狂飆突進的AI技術與人類的關係。它將時間設定在四十年後的近未來，這段時間也將會是AI技術高速發展的“視窗期”，AI能否實現跨越式發展？甚至脫離人類控制？《西部世界》把這個現實問題，以一場視覺盛宴的方式，擺在了我們面前。
就像馬斯克回覆這位粉絲時所問的，“What do you think we’re living in?”（你以為我們住在什麼地方？）儘管是調侃，但也從另一個側面透露出這位大佬對現實的隱憂。
從“神諭”到“演演算法”，它們其實是一回事
《西部世界》第一季中，女主角Dolores的成長和變化是一條重要的主線。作為被創始人Arnold“特別照顧”的物件，她從被創造出來那天起就擁有定期和Arnold進行思想交流的機會，Arnold與Dolores的對談就如同創人的上帝直接同人進行對話，引導著她一步步進化並形成自我意識。
而這種對話機制的效用正是基於二分心智（Bicameral Mind）理論而產生。這一理論由美國心理學家Julian Jaynes提出，他認為人類直到大約3000年前才具有完全的自我意識，在此之前，人類依賴二分心智生存，即當人類遭遇困境時，一個半腦會聽見另一個半腦的指引，這種聲音也就是所謂的“神的聲音”，也就是說人在這時是意識不到什麼是“我”的。
而隨著人類尤其是人類語言系統的進步和發展，二分心智逐漸崩塌，人的行為由“神的指引”轉為“自主選擇”這才產生了自我意識。
對Dolores這樣的機器人來說，Arnold的話正是“神諭”的體現，她的行為和思維都是由設計者的設計和引導而來。機器人腦中的“神諭”正是程式設計人員編寫的程式所賦予它們的任務，而當機器人的創造者想要創造真正擁有自我意識的“新生命”時，就賦予這些機器人意外、羈絆、記憶和反思的可能，引導它們的二分心智走向崩塌，從而產生自我意識。相對應地，當Dolores開始與自己對話而非與Arnold對話時，就可以認為她的自我意識已經形成。
Dolores在第二季中完成了從聽從“神諭”到發現自我聲音的轉變
值得一提的是，二分心智理論至今沒有被證實，也沒有被證偽，是一種小眾的心理學理論，但它恰好與現今AI技術利用的機器學習演演算法、神經網路演演算法有異曲同工之妙。
機器學習簡而言之就是透過特定的程式和演演算法對大量資料進行處理、分析，進而進行判斷和決策的過程，其本質還是人類編寫程式然後機器完成任務。這就和二分心智理論中人類意識產生前的“神諭”階段非常相似。
而神經網路演演算法則是基於對人類大腦神經元結構的模仿，讓機器去計算、感知和認知，進行輸入和輸出，但這種計算與人類大腦最大的區別就是隻有前饋而沒有反饋環節，而反饋正是能讓人進行想象、內省和反思的關鍵，這也正是《西部世界》中開啟機器人心智的鑰匙。
然而有些諷刺的是，讓人類可以松一口氣的技術難關恰恰是人類沒有認清自身的反饋機制，對自身認知的障礙也同樣是保證自身安全的一道天然的保險。
從《西部世界》到《駭客帝國》
其實是一部“AI反殺”的末日預言
如果說《西部世界》展現了四十年後機器人覺醒後的反抗之路，那麼另一部科幻鉅作《駭客帝國》則設計了一個機器已經接管一切的未來世界，在這個世界裡，人類反而成為了機器文明運作的能源和完善程式碼、系統架構的工具。兩部作品恰恰建立在相似的哲學架構之中，對人類創造的AI技術充滿擔憂。
《駭客帝國》的前傳動畫短片集與《西部世界》有著驚人的相似性：大量機器人被生產出來並被人類奴役，極少數機器人逐漸覺醒自我意識，開始與被利用和最終被報廢的命運抗爭，覺醒的機器人團結起來並最終與人類開戰。
“這些殘暴的歡愉必將以殘暴結局”是貫穿全劇的核心臺詞
而在《駭客帝國》的正篇中，主人公Neo與人類反抗軍既是在為人類的生存和自由而鬥爭，同時也是在更高的維度上對機器文明進行系統升級，這又與《西部世界》的男主角William在樂園中的自我發現之旅神似。
《駭客帝國》中，Neo無意中聯絡上了人類反抗組織“Zion”，“你並不孤單”的回覆也讓他走上了覺醒和反抗機器文明之路。
如果更大膽一些，我們甚至可以將兩個故事串聯起來，構成一個關於人類未來的末世預言：
四十年後，AI技術取得巨大進展，搭載強AI的智慧機器人不堪奴役奮起反抗，憑藉強大的生存和戰鬥能力對人類取得壓倒性的優勢，並建立機器文明。
但由於AI在創造力和想象力上有所侷限，機器文明的發展遇到了無法避免的瓶頸，它們必須藉助人類的思考樣式對系統進行升級，於是人類被“圈養”起來為機器文明所用。
人類中的少數意識到自己生活在機器文明所創造的幻象當中，於是奮起反抗，並最終與機器文明達成和解，求得生存權利。
人類還不能創造的“自由意志”
鎖死AI發展的最後一道保險？
儘管影視圈的藝術家們對人類的未來充滿擔憂，但至少現在人類還不必擔心自己被機器人取代。
不難發現，無論是《西部世界》還是《駭客帝國》，創作者都將人類與AI相區別的關鍵放在了“自由意志”這個命題上。而圍繞人工智慧、機器人的命題展開的故事往往也都是基於這個命題。
為後世創作者奉為金科玉律的“阿西莫夫機器人三定律”，即“機器人不得傷害人類，或看到人類受到傷害而袖手旁觀；在不違反第一定律的前提下，機器人必須絕對服從人類給與的任何命令；在不違反第一定律和第二定律的前提下，機器人必須儘力保護自己”，也正是在限制機器人自由意志的基礎上又給予機器人充分生存可能的規則。
而人類能否賦予人工智慧自由意志？如果可以做到，這樣做是否會直接威脅人類自身的生存？正是當人類在不遠的未來，不可避免地走到技術與倫理的交叉路口時，必須要面對的問題。
而在現階段，無論是機器學習演演算法，還是神經網路演演算法，甚至是所謂代表未來的深度學習演演算法，都不能夠讓《西部世紀》中的Dolores為瞭解放自我舉槍誅殺自己的創造者，也不能讓《駭客帝國》中的機器構成足以捏碎人類社會的文明，更不可能讓AI像Neo一樣在決定自己未來的紅藍藥丸之間作出自主選擇。
從某種程度上來說，人類任何關於超級人工智慧的想象，都是在對人本身的邊界進行探尋和拓展。至少在今時今日，製造出與人類相同或超越人類的人工智慧就如同人自己舉起自己一樣困難。“被AI拋棄（奴役）”也自然是一個偽命題。
但這個命題的一側是野心，另一側是擔憂，也正是這種動態的制衡，使AI技術進步，也讓人類自身走向進化。
覺得本文有幫助？請分享給更多人
關註「演演算法愛好者」，修煉程式設計內功
