AI 大戰一觸即發，馬斯克：「你怎麼能確定，超級智慧不會毀滅人類？」｜《AI霸主》

AI 大戰一觸即發 

時間是 2015 年。過去 5 年間，德米斯．哈薩比斯穩步帶領他的團隊達成研究里程碑，持續邁進通用人工智慧的目標，當時這個領域沒有什麼競爭對手，幾乎沒有其他人嘗試做同樣的事。DeepMind 的目標非常激進，因此實際上它可以像獨占企業一樣運作。 

全球沒有其他成熟公司嘗試開發超越人類的通用人工智慧，哈薩比斯可以依照自己的步調進行研究。這也使得 DeepMind 的創辦人與員工，更容易將自己視為以使命為導向的實驗室，而非一家企業。他們在心理上可以接受公司被Google 收購，但是他們仍舊認為自己是在「解決智慧問題」，目標是克服人類最重要的難題，他們不像其他公司那樣被迫陷入無止境的競爭輪迴中。他們追求的是獨一無二。然而，現在矽谷有可能出現改變整個局面的競爭對手。開發通用人工智慧的追求，即將變成一場競賽。 

哈薩比斯知道愈多關於 OpenAI 的事情，就愈是火大。他是全球第一位認真嘗試開發通用人工智慧的人，五年前，這還是非常少數派的想法，他等於冒著得罪科學界的風險在做這件事。但現在糟糕的是，這個新的競爭者有可能會利用他的想法。OpenAI 在網站上列出七位共同創辦人，哈薩比斯仔細看名單之後才意識到，其中有五個人過去幾個月曾在DeepMind擔任顧問或是實習生。據與他共事過的人透露，哈薩比斯簡直氣瘋。哈薩比斯曾與員工公開討論要如何採取不同策略，才能成功開發通用人工智慧，例如，打造自主代理或是教導人工智慧模型熟練西洋棋或是圍棋等遊戲。可是現在，卻有五位熟知所有細節的科學家要成立另一個組織，和他打對台。 

嚴格來說，哈薩比斯其實不需要擔心這麼多。在 DeepMind 之外，還有許多研究人員正在進行自主代理、虛擬環境與遊戲等類似的研究。五位曾待過  DeepMind 的研究人員當中，有一位是知名的人工智慧科學家伊爾亞．蘇茨克維 (Ilya Sutskever)，他的專長是深度學習，而不是 DeepMind 的核心技術「強化學習」。蘇茨克維在 OpenAI 擔任首席科學家，和其他共同創辦人一樣，對於通用人工智慧的可能性深信不疑。 

但是哈薩比斯依舊怒氣難消，尤其夜深人靜之時，焦慮感便向他襲來。山姆．奧特曼竟然厚顏無恥的雇用熟知 DeepMind 機密的專家！ 

哈薩比斯結束一天的工作後，通常會回家與家人共進晚餐，然後再開始第二階段的工作，大約持續到凌晨 3、4 點，他會閱讀科學論文或是發送電子郵件。知情人士透露，哈薩比斯會在某些電子郵件或是深夜會議中強烈表達他的憂慮，他擔心奧特曼複製 DeepMind 的策略，並且試圖挖角他的研究人員。 

奧特曼承諾，會將科技開放給一般大眾使用，對此哈薩比斯表示質疑。「我當時認為，把開源當成是萬靈丹，其實有點天真。」他後來說：「當你開發出愈來愈強大的雙用途科技，如果壞人利用這個科技做壞事怎麼辦？……你其實不太能控制一個人如何使用科技。」雖然 DeepMind 在許多知名期刊上發表數篇研究論文，但是對於程式與人工智慧科技的所有細節仍是守口如瓶。例如，他們沒有公布精通《打磚塊》遊戲的人工智慧模型。 

根據曾經在 DeepMind 與 OpenAI 工作的人士透露，DeepMind 高層後來得知，馬斯克在矽谷逢人便詆毀哈薩比斯，更讓哈薩比斯覺得難堪。例如，這位億萬富翁在 OpenAI 辦公室與所有新員工談話時，鄭重警告他們要注意 DeepMind在英國的研究，並暗示哈薩比斯這個人不可靠。他對於哈薩比斯設計《邪惡天才》這款遊戲的動機表示懷疑；在這款遊戲中，玩家扮演反派角色，試圖製造某種末日裝置來統治世界。他認為創造這種遊戲的人本身可能就有點瘋狂。OpenAI 的員工把這則笑話發揚光大，拿《邪惡天才》的遊戲截圖做成哏圖，在聊天服務平台 Slack 上相互分享。根據知情的前OpenAI 員工的說法，馬斯克曾說哈薩比斯是「人工智慧界的希特勒」。 

不論馬斯克為何轉向攻擊 DeepMind，其實都在煽動兩個組織一步一步陷入激烈的競爭。他對人工智慧的看法也變得愈來愈偏執與悲觀。不過，這正好符合他總是把事情推向極端的性格。例如，面對氣候變遷的問題，他原本只需要與石油公司對抗就好，他偏偏要把人類變成星際物種；當他認為推特過於「政治正確」時，原本只需要買下部分股權就能解決問題，他卻決定買下整間公司。或許馬斯克習慣採取戲劇化的行動，喜歡誇大，相信自己是人類救星。但是在投資DeepMind 幾年後，這位大亨深陷於人工智慧末日論的教條中。 

圖片來源：Flickr

根據《紐約時報》報導，馬斯克曾在深夜與妻子聊到這個話題，他擔心沉默寡言的 Google 共同創辦人賴瑞．佩吉收購他之前投資的 DeepMind 之後，開發出更先進的人工智慧系統。 

馬斯克與佩吉原本是很要好的朋友。他們會參加同一場私人晚宴與研討會，對未來懷抱奇幻的夢想。根據彭博社記者艾胥黎．范思 (Ashlee Vance) 撰寫的《鋼鐵人馬斯克》，如果馬斯克待在舊金山期間沒有安排住宿，他會打電話給佩吉，詢問能否睡在他家沙發上。 

他們會一起打電玩遊戲，討論未來的飛機或是其他科技。馬斯克開始擔心，變得愈來愈隱遁的佩吉太過善良。在馬斯克的傳記中提到，Google 共同創辦人可能會意外製造出某種邪惡的東西，例如「有能力毀滅人類的人工智慧強化機器人戰隊」。馬斯克聽起來像是在開玩笑，但事實上他是認真的。 

就在佩吉以 6.5 億美元收購 DeepMind 的幾個月後，馬斯克在某個探討人工智慧的網路論壇上張貼一則訊息，隨後又立即刪除。他說，沒有人知道人工智慧的發展究竟有多快速。「除非你直接接觸像是 DeepMind 這樣的團隊，否則你根本不知道發展得有多快。」他很懷疑某些「領先的人工智慧公司」能否阻止數位超級智慧逃進網路，造成嚴重破壞。 

馬斯克繼續陷入人工智慧末日論的兔子洞裡，同時投入更多金錢與時間在這個議題上。他捐贈 1000 萬美元給生命未來研究所 (The Future of Life Institute)，這家非營利組織致力於推動更多研究，以防止人工智慧毀滅人類。後來，這個團體在波多黎各舉辦一場研討會，馬斯克也參加，同時與會的還包括賴瑞．佩吉、哈薩比斯，以及其他所有認真看待通用人工智慧開發的人。 

研討會晚宴結束後，馬斯克與佩吉發生口角，而且兩人愈吵愈兇，愈來愈多與會者開始圍觀他們在吵什麼。佩吉說，馬斯克對於人工智慧的看法太過偏執，他必須記住，人類逐漸朝向數位烏托邦演化，我們的心智將變得數位化、有機化。如果他繼續對於人工智慧的發展大驚小怪，就會拖累接下來的所有行動。 

「但是，你怎麼能確定，超級智慧不會毀滅人類？」馬斯克質問。 

根據《紐約時報》報導，佩吉當場大聲吼回去：「你這是物種歧視。」他顯然是在為未來的後人類辯護。在佩吉看來，馬斯克過度關注人工智慧可能引發的災難，忽略那些未來將由矽所構成的生命體的需求。 

一方面，馬斯克持續關注 DeepMind 的發展，同時也頻繁與其他財力雄厚的未來預言家交流，他的想法變得愈來愈偏激。但是，另一方面，他開始出現「錯失恐懼症」，這種令人困擾的恐懼心理影響矽谷某些重大決策與資金流向……