編按：本書中提到致力打造人工智慧未來的科技九巨頭（BIG 9），分別為：美國的Google、微軟、亞馬遜、臉書、IBM和蘋果（G-MAFIA），以及中國的百度、阿里巴巴和騰訊（BAT）。

 

本書作者定量未來學家艾美．韋伯是史登商學院的策略遠見教授，她以政治、經濟、科技等事實，進行「情境分析」，提供未來五十年務實面、樂觀面、悲觀面的遠見規劃。在本書中，韋伯展露她淵博的知識，了解驅動人工智慧背後科學，特別是了解可能造成中美兩國地緣政治的緊張局勢。她分析人工智慧會如何重塑經濟和當前的世界秩序，幫助人類策畫更好的方向。世界各地的教育機構和董事會應該拿這一本書來討論。

九大巨頭正在建立框架和系統，他們希望有一天能促進爆炸，激發就算是最聰明的電腦科學家也從未想過的全新解決方案、策略、概念、框架和方法。這會帶來更快的突破、機會和業務增長。套個專有名詞來說，這叫「遞迴式的自我進步」（recursive self-improvement），指的是透過修改自己的功能，AI使自己變得更好、更快、更快變更聰明的循環。這會使AI 能夠掌控並規劃自己的命運。AI自我進步的速度可能每小時、甚至一瞬間就達成了。

即將到來的「智慧爆炸」不僅描述了超級電腦的速度或演算法的強大功能，還描述了大量出現專注於遞迴式自我進步的智慧型思考機器。想像一下這樣的世界，當中的系統遠比AlphaGoZero和谷歌的NASNet要先進得多，不僅可以自主制定策略型決策，還可以做為全球共同體的一分子與大家互相合作競爭。

我們要求這些系統為了幫助人類，在這個世界中進化，所以它們會編寫新一代的程式、突變和自我改進—速度之快令你難以想像。由此產生的AI 會建立新的代理（agent，注：某種能夠行動的東西，這個英文源於拉丁文agere，意為「去做」），並根據目標和一組組的任務來設計它們的程式，然後該循環將一次又一次地重複數萬億次，導致微小和巨大的變化。

歷史上唯一一次出現這樣的演化大變動，大約發生在五億四千兩百萬年前的寒武紀時期，當時地球上的生物群落快速地變多樣化，導致了各種新的複雜生命形態誕生，並改變了我們的星球。前美國國防部國防高等研究計畫署（Defense Advanced Research ProjectsAgency）專案經理普拉特（Gill Pratt）認為，我們現在好比處於寒武紀爆發之中，在這段時期內，人工智慧正從所有人工智慧的經驗中學習，不過在此之後，我們在地球上的生活可能會與今天的情況截然不同。

這就是為什麼九大巨頭、其投資人和股東、我們的政府機構和民選官員、第一線辛苦工作的研究人員，以及你（很重要）需要辨識出這些警報信號，不僅要更嚴格地思考現在正在打造的限制領域人工智慧，還要去思考即將來臨的通用人工智慧和超級人工智慧。智慧的演化是人機共存的一系列事件，九大巨頭的價值觀已經深深地編寫至我們現有的演算法、系統和框架中。這些價值觀將被傳遞給不斷發展、數以百萬計的新一代人工智慧，並且很快就會傳遞給廣泛智慧的思考機器。

從限制領域人工智慧到超級人工智慧，當中的過渡期可能會持續七十年。目前，要擬定出具體里程碑出現的日期相當困難，因為人工智慧的進展速度取決於許多因素和人員：AI聚落延攬的新成員、九大巨頭做出的策略型決策、貿易戰和地緣政治的衝突，更不用說機會和混亂事件的影響了。在我自己的模型中，我現在把通用人工智慧出現的時間點設在二○四○年代。聽起來像個遙遠的未來，所以讓我根據情況進行討論。

到那時，白宮將會輪替過三到四位美國總統；除非習近平出現健康問題，不然他仍會是大權在握的中國國家主席。通用人工智慧系統開始進行自己的AI 研究時，我將六十五歲。我小二的女兒將滿三十歲，屆時她可能會讀完全由機器編寫的《紐約時報》暢銷書。我父親將快要一百歲，他所有的專科醫生（心臟科、腎臟科、放射科）都會是通用人工智慧，系統將由訓練有素、既是醫學博士又是資料科學專家的家醫來指導管理。

超級人工智慧可能很快或還要一段時間才會出現，在二O四O年代到二O六O年代之間。而這並不表示到二O七O年，超級智慧的AI會用數百萬兆億個迴紋針重壓地球，粉碎所有的生命，但也並不表示它們做不到。我們必須跟自己說的故事規劃AI 的未來，我們得使用來自現實世界的資料，建立起新的敘述。如果我們都同意「當AI 一出現時它就在演化了」這個事實，那麼我們必須設想出情境，描述出引領AI 的九大巨頭、經濟和政治力量三者的交叉點，以及當人工智慧從範圍有限的應用程式，轉變為通用人工智慧，並最終成為超級智慧思考機器的過程中，把人類全體納入考量的方式。

因為未來尚未到來，我們無法確切知道現在的行動可能導致的所有結果。因此，接下來幾章的後續情境，我將使用不同的情感框架來描述未來的五十年。首先是樂觀的情境：如果九大巨頭決定支持全面改變，以確保AI讓我們所有人受益，會發生什麼事？請注意「樂觀」的情境不一定令人振奮或使人快樂，它們並不一定導致烏托邦。在樂觀的情境中，假設人類做出了最好的決策，並且克服了阻撓成功的任何障礙。就我們的目的而言，這表示九大巨頭轉變了人工智慧的方向，並且因為他們在正確的時間做了最好的決定，未來我們將會過得更好。那是個我會滿意的生活情境，如果大家一起努力，我們可以實現那樣的未來。

接下來是務實的情境：如果九大巨頭在短期內只做出微小的改進，未來會怎麼樣？假設（所有關鍵利益相關者都承認）AI恐怕沒走上正確的道路，大家並沒有一起合作創造持久又有意義的變革。只有少數大學將道德課程列入必修；G–MAFIA為了以應付風險建立了產業合作夥伴關係，但沒有改善自己的公司文化；美國民選官員把重點放在下一次的選舉，而忽略了中國的恢宏大計。務實的情境並不希望發生重大變化，它體認到我們人類對改進的趨動力起起伏伏；它還承認，商界與政界領袖都非常願意對未來做出短暫的改變，以獲得立即的近期利益。

最後是災難的情境：如果錯過了所有的信號、忽略了警訊，我們未能積極規劃未來，九大巨頭還繼續互相競爭，最後會發生什麼事？如果我們選擇一股腦地維持現狀，結果會把我們帶向何方？如果AI繼續沿襲美國和中國現有的路線，會怎麼樣？為避免災難情境成真，系統性的變革非做不可，這麼既困難又耗時，問題永遠解決不完。這就是災難情境真正令人恐懼的原因，其中的細節讓人非常不安。因為就目前看來，災難的情境是似乎注定會成為我們實現的情境。

我已經研究、模擬和編寫了這三種情境來描述從二○二九年開始的假設結果。支撐這些情境的有幾個關鍵主題，包括經濟機會和流動性、勞動生產力、社會結構的改善、九大巨頭的態勢、中美兩國之間的關係，以及全球民主和共產兩種主義影響力的消長。我呈現了當AI成熟時，我們的社會和文化價值觀將如何變化：我們如何定義創造力，人與人之間的聯繫方式，以及對生死的思考。由於情境的目標是幫助我們了解，從限制領域人工智慧到超級人工智慧這段過渡期的生活景況，我對以下層面列出示範：家庭、工作、教育、醫療保健、執法、我們的城鎮、當地基礎設施、國家安全和政治。

近期，可能會有一個AI產物出現，我且稱之為「個人資料紀錄」（personal data record，簡稱PDR），這也將會是三種情境發生的起始核心。個人資料紀錄是個單獨的統一分類帳，內容包括我們因為使用科技產品（例如網際網路和手機）而出現的所有資料，以及由其他來源彙整的資料：我們的學校和工作史（文憑、以前和目前的雇主）、法律記錄（結婚、離婚、被捕）、財務記錄（房貸、信用評分、貸款、報稅）；足跡（去過的國家、簽證）、約會史（線上應用程式）、健康（電子健康記錄、遺傳篩檢結果、運動習慣）和購物記錄（用過的線上零售商，在店內使用的優惠券）。

在中國，個人資料記錄還包括上一章講過的社會信用評分資料。由九大巨頭建立的AI 會從你的個人資料記錄中學習，並拿你的資料來自動做出決策，為你提供許多的服務。你的個人資料記錄將可繼承，這份完整的記錄會傳遞給你的孩子，由你的孩子使用，並且可由九大巨頭之中的公司臨時管理或永久擁有。在你即將讀到的情境中，個人資料記錄扮演著重要的角色。

目前，個人資料記錄還不存在，但就我這個有利的位置來看，已有跡象顯示，未來這些從無數源頭而來的所有個人資料，都將統整成一套記錄，且由九大巨頭來提供和維護。事實上，你已經是系統的一部分，而你現在正在使用個人資料記錄的原型，也就是你的電子郵件地址。

一般人的電子郵件地址已被重新當成登錄帳號；手機號碼用在驗證交易；在實體世界中，智慧型手機也被用來定位使用者位置。如果你是Gmail 的使用者，那麼谷歌及其連帶的AI，會比你的配偶或伴侶還更了解你。谷歌知道你和哪些人交談過，他們的姓名和電子郵件地址，以及他們的人口結構資料（如年齡、性別、所在地），谷歌都掌握得一清二楚。谷歌知道你通常什麼時候打開Gmail 以及相關的情況，從你的電子郵件，谷歌還可以了解你行經的路線、財務記錄，以及購買的商品。

如果你使用 Android 手機拍照，它會知道你的朋友和家人長什麼樣子，還可以檢測到異常情況並進行推斷：例如，突然出現同一個人的新照片，可能就是交了新女友（或劈腿）。它知道你所有的會議、醫院掛號，以及去健身房的打算；它知道你是守回教齋戒月還是過猶太新年，是會乖乖去教會做禮拜的信徒，還是完全沒有宗教信仰；它知道在特定的星期二下午你人應該在哪裡，即使你在別的地方；它知道你用手指和聲音搜尋過什麼項目，所以它知道你是否是第一次流產、想學習製作西班牙海鮮燉飯、在性向認同或法定性別方面有所掙扎、考慮放棄吃肉，還是想找新工作；它會交叉連接所有的資料並從中學習，讓資料可以產品化及從中獲利，因為它會把你輕推至預定的方向。

現在這些訊息統統掌握在谷歌手中，因為你自願把訊息全部連結到同一筆記錄上，也就是你的 Gmail 地址。順便說一下，你可能也習慣用Gmail帳號在亞馬遜買東西，並登錄臉書。我沒有在亂發牢騷，這是現代生活的實情。隨著人工智慧的發展，更強大的個人資料記錄將為九大巨頭提供更高的效率，因此他們將輕推我們去接受並採用個人資料記錄，即使我們不完全理解個人資料記錄的使用含義。當然，中國在社會信用評分的支持下，個人資料記錄已經在試點測試。

「我們之所以講故事，是為了讓自己能夠活下去。」蒂蒂安（Joan Didion）在她的著作《白色專輯》（The White Album）中這麼寫道，「我們詮釋我們所見的一切，從眾多選擇中，挑出最可行的出來。」關於AI，我們都要做出選擇。我們該開始運用手邊的資訊，對自己講故事了，來說說我們和思考機器共存的那些情境吧。

*本文摘自《AI未來賽局：中美競合框架下，科技9巨頭建構的未來》，八旗出版。

【作者簡介】

艾美．韋伯（Amy Webb）

美國知名定量未來學家、史登商學院策略遠見教授。於二〇一七年入選Thinkers50雷達名單，該獎項評選最有可能塑造未來組織管理和領導方式的管理學思想家。她在本書疾呼大家關注人工智慧破碎的本質，以及勢力強大的企業正在徹底改變人機關係。

二〇〇六年創辦「未來今日機構」（Future Today Institute），替財星五百大企業和全球一千大公司、政府機構、大型非營利組織、高等教育機構和世界各地新創公司提供諮詢服務。艾美．韋伯同時擔任美日領袖培育計畫的研究員，也是美國政府責任署的戰略前瞻研究員。曾任美俄雙邊總統委員會代表，她在會中致力於科技、媒體和國際外交的未來。

韋伯的研究多專注於人工智慧、新興科技、數位媒體，以及科技帶來的影響和契機。她對未來的預測已經被《紐約時報》、《哈佛商業評論》、《華爾街日報》、《Fast Company》、CNN、美國全國公共廣播電台等媒體特別報導，研究報告也被多篇學術論文所引用。另著有《邊緣商機》、《妳可以更挑剔一點》。

看更多《上報生活圈》文章