結帳
購物車有 0 項商品,共 0
天下文化首頁 主題 緩步掌控世界和多元權力機制
科學自然

發表日期

2018.05.08
收藏文章 0

文章摘錄自

Life 3.0
在人工智慧崛起的現在,你希望看見什麼樣的未來?當超過人類智慧的人工智慧出現時,人類會變成怎樣?人工智...
定價 550
優惠價 79折,435
$550 79$435
加入購物車

緩步掌控世界和多元權力機制


 
圖片來源:unsplash

以上提到人工智慧爆炸性發展的可能情境,橫跨光譜兩端,從我認識的每個人都想極力避免的情境,到我有些友人會樂觀看待的另一端。無論哪一種情境,說穿了都包含兩個共同的特性:迅速掌握世界:從不如人類進展到超級人工智慧,過程只花了短短幾天,而不是好幾10年。
 
只有1種結局:結果千篇一律,都是由單一主體掌控了整個地球。
 
這2個特性到底有沒有可能發生,一直是充滿爭議的話題,2個陣營都不乏知名的人工智慧專家和理論大師,可以提出不同的論點針鋒相對。看在我眼中,這就表示,其實我們還不知道將來究竟會如何發展,所以需要保持開放的態度將各種可能性都納入考量。
 
本章接下來的篇幅將用來分析其他可能的情境,包括:緩步掌控世界、多元權力機制、生化人和意識移轉這4種可能。
 
「迅速掌握世界」和「只有一種結局」這兩個特性之間有著巧妙的互動關係,尼克.伯斯特隆姆等人也道出了其中奧妙:迅速掌握世界」將促成「只有一種結局」的結果。我們不難看出,迅速掌握世界的手法,帶給歐米茄團隊或普羅米修斯關鍵性的策略優勢,在其他人有辦法模仿並造成實質競爭之前,早早將整個地球納為囊中物。相反的,如果他們用好幾十年的時間,以慢速度掌控世界,重要的科技突破只能漸進釋出,這個延長的過程會讓其他對手有充分的時間迎頭趕上,結果就更難產生能夠主導一切的單一主體。如果競爭對手的人工智慧軟體,也有辦法達成MTurk平台上的任務項目,套用經濟學裡的供需法則,完成這些任務的代價就會一路下跌到一文不值的程度。那就不會有任何一家公司,能用秋風掃落葉的姿態海撈一票,自然會讓歐米茄團隊失去取得權力的必要財源。這個道理也適用於歐米茄團隊其他快速累積財富的管道:他們要獲取超高額利潤,就一定要仰賴在科技水準上取得的壟斷地位,否則在充滿競爭的市場裡,在競爭對手幾乎可以免費提供和你一樣的產品時,想要每天累積一倍的財產根本是天方夜譚(換成每年累積一倍也一樣做不到)。
 
賽局理論和權力架構
 
在我們這個宇宙中,什麼是生命的自然型態?是單極還是多元?是集權還是分權?走過先前138億年的演化後,這兩個問題的答案恐怕是「以上皆是」:我們可以找到明顯多元的情況,但是其中卻有一種有趣的分層機制。把各種能進行資訊處理的個體都納入考量:從細胞一直算到人體、組織、國家等等,不難發現這些個體都會在分層管控的權力機制中,進行既合作又競爭的運作。細胞發覺合作的好處後,推展到極致,便形成人體這樣多細胞的生物體,並讓渡一部分權力給大腦中樞。有些人發覺合作的好處後,不論是形成部落、公司還是國家,也都會讓渡一部分的權力給酋長、老闆和政府。不同的團體,有時候也會選擇讓渡一部分的權力給監理機制,以改善彼此協調的成效,例如共享航權的航空聯盟,乃至於歐盟這種超越國家的大型組織皆屬之。
 
數學有個名為「賽局理論」的分支領域,用簡潔的方式,說明不同個體之間的合作,如果能達到所謂的「納許均衡」(Nash equilibrium),也就是此時任何一方如果改變原本的合作策略,結果只會更糟的話,彼此就會有進行合作的誘因。為了避免有人用欺騙的方式破壞有利於團體的合作,參與者就會有意願讓渡一部分權力給更高層級,在必要時出手懲罰虛與委蛇的投機份子。譬如說,如果人民願意讓政府擁有執法的權力,則每個人都能得到集體的利益。同樣的,身體裡的細胞如果賦予免疫系統警戒的力量,殺死任何明顯採取不合作運動細胞(被病毒感染的細胞,或產生癌病變的細胞)的權力,則體內的細胞也都能得到共同的好處。類似的階層組織如果要維持穩定,不同層級之間的個體也要能達成納許均衡才行—要是政府沒辦法提供充分的好處讓民眾願意遵守規定,民眾就有可能不再合作而推翻政府。
 
在千變萬化的世界裡,不同形式的階層組織可能達成各種不同形式的納許均衡,有些可能朝向上下一條鞭的方向發展,有些可能讓其中的個體自由進出(像是大多數企業裡的員工),有些則可能極力避免讓個體出走(像是宗教團體),甚至是根本無法離開(比方說是北韓的人民,而你體內的細胞就更不用說了)。有時候,維繫階層組織的方式是透過威脅和恐嚇,有時候則誘之以利;有些階層組織,會讓下層個體以民主投票的方式影響上層的行為,有些階層組織則僅限於用勸說或傳遞訊息的方式,才會讓下情上達。
 
 
 
 
科技會如何改變這世界階層組織的特性?歷史經驗顯示,科技進步就大趨勢而言,會更有利於遠距個體之間的統整協調。這個道理不難理解:新的運輸科技會提高遠距統整的實用價值(拉長物質或生命體的移動範圍,能夠同時提升兩地之間的共同利益),而新的通訊科技則有助於統整協調的工作。當細胞學會向周遭的細胞傳遞訊號,多細胞的生物體就有可能成形,連帶建立起新的階層;當演化過程發展出傳遞用的循環系統,和溝通用的神經系統後,大型的生物就有機會浮上檯面。發明語言讓溝通更具成效後,我們人類就能流暢的建立村落層級的階層組織,之後再倚靠運輸、通訊和各種科技不斷的突破,古文明的帝國遂於焉誕生。而全球化也是階層組織經過好幾10億年來,最新生成的一種形式。
 
通常這股科技帶動的趨勢,會讓大型個體在整合出更大的結構之際,保有相當的自主空間和獨特性,不過也有人認為個體整合進階層組織後,就會喪失一定程度的多樣性,成為可以無差別替換的零組件。監視系統這樣的技術,可以讓較高層級擁有更多驅使下屬的權力,其他像是密碼學和連線上網的技術,則有助於促成言論自由和教育的普及,則會帶來相反的作用力,讓階層中的個體有更多發揮的空間。
 
我們目前所處的世界是多重納許均衡的多元世界,位於階層最頂端的是相互競爭的國家和跨國企業集團,科技水準也足以在單極世界中達到穩定的納許均衡。想像在另一個平行宇宙,地球上所有人都使用同一種語言、生活在同一種文化,彼此間的價值觀和富裕程度也相去不遠,並且由單一的全球政府負責扮演聯邦體制中的國家角色,其中沒有軍隊、只用警力維持治安。我們現有的科技水準,應該足以推動這個平行世界的運作—只是我們地球人應該沒有能力,或沒意願轉換到另一種維持平衡的體系中吧。  

 

如果我們在現有世界階層組織的架構中,加入超級人工智慧,會怎樣攪亂既存的均衡態勢?首先,運輸和通訊技術一定會有明顯的突破性發展,所以歷史的大趨勢勢必會自然延續下去,在更遼闊的空間裡統整出新的階層架構—或許最終能橫跨整個太陽系、星系、超星系,乃至於整個廣袤的宇宙,這部分就留待第6章再行論述。
 
同時也會有去中心化的基本作用力持續運作:並不是每件事情都有必要跨越遠距離進行統整協調,這就好像史達林也不會想規定,每個蘇聯人該怎麼洗澡一樣。對超級人工智慧而言,物理定律會給定運輸和通訊技術所能發展的極限,這會讓階層中的最高層級不太可能事必躬親,巨細靡遺管到星球區域內大大小小的事務。仙女座星系的超級人工智慧不可能有效提點你日常生活該怎麼過,因為你起碼得等超過五百萬年(這是以光速讓訊息在地球與仙女座星系來回一趟所需的時間)才能接收到它的指示。不過要是把尺度縮小在地球範圍內,並以光速傳達訊息的話,來回一趟只需要0.1秒(相當於人類思考的時脈),所以掌控地球的人工智慧的確可以比照人類思考的速率,真正達到遍及全球的思考。
 
再換到另一個尺度來看,對於可以每十億分之一秒就執行一次運算(相當於現在一般電腦的時脈)的小規模人工智慧來講,0.1秒在它眼中就有如4個月帶給你的感受,所以掌控地球的人工智慧如要對小型人工智慧事事下指導棋,其荒謬性並不下於在你隨便採取任何行動之前,都要先等哥倫布年代的帆船往返大西洋替你傳達上級裁示一樣。
 
對任何想要掌控地球的人工智慧而言,物理因素產生的資訊傳遞時效限制,形成了棘手的挑戰,更遑論要掌控整個宇宙了。普羅米修斯當初在逃離牢房前已經設想過,要如何避免自己變得支離破碎,因此散布在世界各地電腦的人工智慧模組,都帶有重組成單一完整個體的誘因,並以達成此目標為行動方針。不過就跟歐米茄團隊要處理普羅米修斯不見得會接受控制一樣,普羅米修斯也必須設法讓每個分身不會和自己分道揚鑣。我們當然還不知道人工智慧可以控制的系統範圍有多大,不管是直接控制或透過某種合作階層組織達成間接控制,就算能迅速掌握世界、取得關鍵性策略優勢的超級人工智慧,也無法排除這個根本問題。
 
總而言之,未來要怎樣才能控制住超級人工智慧,無疑是異常複雜的問題,現在的我們當然還不知道答案是什麼,不論是朝向比較由上而下的專制獨裁,或比較朝向由下而上的方式讓個體發揮,都是未來可能的走向之一。
 

【書籍資訊】
   
《Life3.0》

相關書籍

書到通知我

請輸入您的 Email 作為書到通知的信箱