脈動陣列架構：革命性的平行演算法

1979年，孔祥重院士和他的研究生 Charles Leiserson 提出了脈動陣列（Systolic Array），這是一種高效能的平行計算架構，名稱來自醫學術語「systole」（心臟收縮期），因為運作方式就像心臟有節奏地收縮和快速輸血。

想像一下，在一個巨大的精靈村落（晶片）裡面，排滿了一間一間的魔法小屋（計算陣列），每間小屋都住著一個小精靈（處理單元），這些小屋排列成整齊的矩陣，且小屋之間緊密相連。現在，數學女巫（電腦）為了解決龐大的計算任務，她讓每個小精靈都分配到一個更小的任務，當每個小精靈把自己的數據算好之後，就會傳給下一個小精靈。

就像心臟收縮的脈動一樣，數據不停地從一個小節點跳到下一個節點，在陣列中不斷地接住、傳出，最後匯集成一個大的運算結果。這種計算方式能夠讓龐大的計算量同時進行，而且每個處理單元都能夠獨立工作，大幅提高了計算效率。

脈動陣列的優點是，它允許資料在處理單元之間直接傳遞和暫存，而無需頻繁地回到主記憶體中存取。這種資料流就像數據在小屋（計算陣列）之間高速流動，小精靈計算好結果之後，可把結果送到附近的小精靈，不必再把數據帶回主城堡（主記憶體），節省大量資料存取時間。 此外，由於每個小精靈（處理單元）是獨立工作的，個別不同的「小型計算」可以同時進行，效率非常高。

脈動陣列架構特別適合處理需要大量重複計算的工作，例如圖像處理、深度學習等。目前的超級電腦和人工智慧晶片，很多都採用類似的高效能運算設計，例如 Google TPU（Tensor Processing Unit），這是專門用在神經網路任務的處理器，晶片裡面有設計一塊 256*256 的矩陣乘法單元，就是脈動陣列架構。

TPU 裡面的矩陣乘法單元示意圖（脈動陣列），2017 年 Google 設計 256*256 的矩陣（圖中藍色大方塊），裡面有 65,536 個處理單元。紅色的控制單元負責協調資料流向，資料輸入後依序通過內部處理單元，計算結果會累加變成部分和（Partial Sums），最後再由底部的處理單元輸出結果。
圖｜研之有物（資料來源｜Google）

不過要注意的是，脈動陣列適合執行有規則、重複性高的計算任務。雖然 TPU 結構相對要比 CPU 和 GPU 簡單，但是要讓處理單元有效率地協作，仍需要精心設計。

脈動陣列已經成為當前人工智慧硬體的核心運算架構之一。在 2023 年，美國電腦協會（Association for Computing Machinery, ACM）選出了 68 位對當代數位社會有重大貢獻的學者，並賦予會士（ACM Fellow）榮譽，孔祥重以電腦架構和平行運算的控制方法獲得表彰。此外，孔祥重也獲得 IEEE 分散式處理技術社群（TCDP）頒發的 2023 年傑出技術成就獎，表彰他在脈動陣列的開創貢獻。

隨著高效能運算能力的提升、大量的網路文字資料，以及深度學習演算法的發展之下，人工智慧領域在 2022 年11月出現突破性的進展——ChatGPT 誕生了，這種運用大型語言模型技術的生成式人工智慧，引爆了 AI 的浪潮。

生成式AI改變了人類生活

生成式 AI，是機器能夠自動創建有意義內容的人工智慧技術。例如，基於大型語言模型的對話 AI，使用者輸入文字描述，機器利用基本單位「詞符（Tokens）」，組合成有意義、有結構的句子來回覆。或是繪圖 AI，使用者輸入文字描述，機器利用基本單位「Image Patches」，組合成有意義、有結構的圖畫。

孔院士說，當前的生成式 AI 不需要標籤化的數據就能學習，現採用例如自監督學習或強化式學習等方法。換句話說，人類有多少文章和知識，AI 就可以有多少訓練資料。有足夠的文本數據之後，生成式 AI 就能將文字轉換成向量，並不斷自我學習。你給它一個文字組合，它「算對」下一個向量，並以此「猜對」下一個字的機率也會愈來愈高，之後再生成通順的語句或文章。

至於生成式 AI 的下一步，孔院士認為最重要的就是，把訓練資料的質和量提高（訓練資料也包含本次訪談內容！）。他說目前人類放進 AI 的資料量可能還不到未來幾年後的千分之一，隨著訓練資料的增加，AI 的準確度和智力將顯著提高。

但是，要讓 AI 發揮功能，背後還需要大量的高效能計算機器。孔祥重認為這就是一場軍備競賽，只有一台機器快還不夠，需要上百上千台機器一起快速運作，才能訓練出優秀的 AI。

因此，未來 AI 的突破，將取決於誰能夠先累積更多高品質的數據，並設計及擁有更多更有效率的計算機器。這場資料與計算能力的競賽，將決定 AI 技術的發展方向和各國的 AI 競爭力。

最後，生成式 AI 的應用已經遍及各行各業， 包含教育產業、市場行銷、美術設計、醫療產業等，孔祥重更看重傳統產業的實質轉型。他以臺灣的工具機產業為例，加工時若刀具磨損沒有即時發現，後續製作的產品就會不精確。如果工廠可以訓練一個 AI，從機器本身具備的訊息，例如刀具振動頻率、刀具切削速度、或馬達電流量的改變等，在第一時間察覺問題，就可以在刀具壞掉之前自動警示（自動化），讓產品良率更高。

工具機刀具切削加工物的示意圖。要確認機械加工的刀具損耗程度，通常需要停機使用人工確認。如果可以透過 AI 來偵測刀具的磨損，有助於工廠自動化，減少耗材和提昇產品良率。
圖｜研之有物

AI 時代的人才培養和教育

除了在產業界的應用，孔祥重也十分關注 AI 技術在教育領域的潛力，他投入大量心力推動臺灣的 AI 教育發展。他認為，生成式人工智慧能夠提供個人化學習體驗，將大幅改善學習效率和品質。AI 不僅能夠輔助教育，還能夠促進知識的普及和分享，讓更多人受益於 AI 技術的發展。

訪談中，孔祥重回憶起在清華大學的一場演講，提到 ChatGPT 對學生的幫助。首先是資訊檢索和摘要，學生可以直接獲得描述性的答案，比搜尋引擎更方便。再來是互動式探索，學生可以透過對話擴充自己資料檢索的能力和相關的關鍵字。第三是內容合成，學生可以快速生成內容來輔助思考。然而，學生在使用 AI 時，需要有軟體工具去找出適合的提示詞來完成複雜任務，避免反覆試錯，浪費大量時間。

孔祥重認為生成式 AI 可以大幅改善學生的學習效率和品質。圖｜研之有物

孔祥重認為 ChatGPT 對學生的影響可以分為三種群體來討論：主動的高成就學生、普通表現的學生以及缺乏學習動機的低成就學生。高成就學生會有效運用 AI 提昇自己的技能，取得更大的成功。普通表現的學生會使用 AI 完成作業或報告，然而可能沒有學到解決問題的能力。低成就學生則缺乏學習的動力，包含 AI 或其他學科皆是，因此當其他人使用新的 AI 工具時，他們會進一步落後。

他認為，教育體制需要幫助並激勵中低成就的學生，同時允許高成就學生持續提升自我。孔院士提出三個可能的教育方向，第一是提供個人化輔導，讓普通表現的學生可以接觸到有足夠吸引力的學習項目。至於不想學習的學生，需要先幫助他們在某些學科取得進步，開發對知識的好奇心，生成式 AI 可以輔助這個過程。

第二是提供團隊和社群的支持，人在團隊中會互相鼓勵、克服困難，學習起來更加積極和有意義。例如，大學可以提供 24 小時開放的大型實驗性空間，讓不同背景學生聚在一起，聊天、吃吃披薩或是熬夜挑戰專案競賽等等，這就是生出創意的最佳地點。最後是創造可以激勵學生的各種機會，例如論文或程式競賽、實習機會、工作坊或是國際交流名額等等，基本上鼓勵學生深入研究他們感興趣的任何領域，跨領域更好。

此外，孔祥重也積極參與推動臺灣 AI 職能教育的發展，他認為培養新一代 AI 專業人才至關重要。臺灣目前的教育體系過度偏重理論，忽略了親自動手的能力培養，讓許多喜歡動手打造實物的學生進入不適合的學習環境。如何有效培養 AI 職能？孔祥重認為在各領域動手實踐的經驗最重要。

早在 ChatGPT 出現之前，在中研院廖俊智院長的號召下，孔祥重和資訊所陳昇瑋研究員（已故），於 2017 年創立了「臺灣人工智慧學校」，現已有上萬的學員參與，目的是幫各產業培訓人工智慧的人才，協助企業解決問題，這些人才可作為技術的種子，讓人工智慧技術實際運用到臺灣產業的各個層面，期望臺灣在 AI 世代更有競爭力。

孔祥重認為培養新一代 AI 專業人才至關重要。圖｜研之有物

把握 AI 的黃金時代

對於臺灣在 AI 浪潮中如何站穩腳步，孔祥重認為，臺灣需要自己的 AI 國家戰略，積極布局 AI 技術及運算能力，以確保臺灣人工智慧的發展。

他強調，臺灣擁有強大的製造業和優秀的工程師，這是臺灣的本地優勢。然而，孔祥重也提醒，目前臺灣在 AI 應用的發展速度較慢，政府需要妥善準備足夠的資源，包括資料的準備，並在教育上培養學生的創新思維和實踐能力。

此外，孔祥重期望產業界積極擁抱 AI 技術，加速傳統產業的升級。擁抱技術才能抓住機會，先理解基本原理之後，加上從實作取得的經驗心得，就能嘗試控制風險的負面影響。我們需要整個社會的共同努力，臺灣才能加緊趕上先進國家的步伐。

目前臺灣企業導入 AI 的比例為何？根據財團法人人工智慧科技基金會（AIF）「2023 臺灣產業 AI 化大調查」報告結果，整體來說臺灣已經有 54.2% 的企業開始導入 AI，但都是使用現成 AI 工具為主（例如 ChatGPT），這些企業中僅 30% 有使用 AI 來開發專案。基金會也發現，臺灣企業在 AI 風險掌握能力上明顯不足。

此外，AI 人才培訓情況則更為嚴峻，約 70% 的製造業、政府機關與其他產業沒有提供 AI 人才培訓資源；就連資通訊科技業，也有 42.6% 的比例未提供。該報告提到，AI 導入短期內不太能立即看到成果，企業必須先擁抱 AI 的缺陷和轉型的陣痛期，方能收穫成果，這點與孔祥重的觀點相符合。

最後，孔院士勉勵年輕一代要好好把握這次 AI 的時代機遇，積極投入 AI 領域。AI 幾乎涉入了生活的每個層面，他認為當前正是 AI 百花齊放的黃金時期，就像早年個人電腦的機會一樣。年輕人就該盡情發揮創造力和行動力，嘗試用 AI 來解決各行各業的問題。唯有如此，才能抓住這個歷史契機，一起見證並參與 AI 新時代！

※本文授權轉載自研之有物（中央研究院）官方網站。