今年的 Computex 在台灣可謂盛況空前，全世界的科技巨頭幾乎都派代表齊聚台灣，積極展現自家公司在 AI 領域的實力，晶片界三巨頭 Nvidia、AMD 以及 Intel 的 CEO 更都出席了這次的活動。
除了準備 Keynotes 演講之外，他們最重要的任務，是與台灣 AI 產業鏈的夥伴拉近距離，如宴請像廣達、鴻海、華碩等系統廠。就這麼一瞬間，台灣「AI 科技島」的價值備受舉世關注，以全世界最重要的先進製程製造廠台積電帶領，提供全世界所需的 AI 運算。
然而，以現在紅遍台灣和全球的 Nvidia 為例，其所製造的 AI 晶片畢竟主要是針對企業設計的（詳見筆者前文：【矽谷熱議】Nvidia 到底強在哪裡？下一個 AI 晶片巨人又會是誰？），旨在用來訓練 AI 模型供消費者使用，若這些模型最後無法被應用到日常生活中，所謂的「AI 革命」也就變得毫無意義。因此，本篇文章的重點將是針對消費者設計的 ── AI PC。（這裡的 PC 並不僅止於桌上型電腦，而是泛指包含筆電、智慧型手機或其他個人終端應用裝置，為方便閱讀，以下均以 AI PC 統稱）
「AI PC」是什麼？以外觀來說，它看起來可能就和一般的筆記型電腦沒有任何差別，唯一的區別是裏面多了一塊小晶片──神經網絡處理器（NPU）。
在沒有 NPU 的時候，AI 相關的應用由 CPU（中央處理器）和 GPU（圖像處理器）來運算。由於 GPU 有著極高的平行運算能力，這兩者的組合發揮得相當不錯。然而，隨著 ChatGPT、Stable Diffusion 等 AI 應用的蓬勃發展，發現 CPU + GPU 這樣的組合在終端應用上遇到了效能瓶頸。NPU 成為了解決方案，其針對 AI 所需要的運算進行優化，可以達到比 GPU 更強的運算能力和更低的能耗，滿足終端裝置的效能需求，將 AI 應用的潛能帶給消費者。
筆者曾於 2023 年發布〈人工智慧運算時代的來臨 | Era of AI Computing〉一文，當中提到：「我相信未來會有專門處理更大量的資料移動，更大量平行運算的 「AIPU（AI Processing Units）」 來帶領我們 2020 年代後的電腦發展！」
如今，這件事情已經確實成為「現在進行式」。
2024 是「AI PC 元年」，而蘋果早在 2017 開始佈局
儘管在今（2024）年世界各大晶片商才開始設計 NPU 放在 CPU 旁邊，但蘋果很早就將 NPU 帶到行動裝置上。在 2017 年蘋果推出 iPhone XS 使用的 A11 Bionic，就有約 0.6 TOPS （註一）的 NPU 運算能力來處理 FaceID 等與 AI 相關的應用，其實講白了點就是比 GPU 更有效率的晶片來處理圖像相關的應用，如 FaceID，因此大家並沒有特別感受到其「AI」的元素。
#Apple M 系列晶片
蘋果更是在 2021 年將 NPU 帶到筆電的領域，第一顆基於 Arm 架構的 M1 晶片直接從 A14 把 NPU 接過來使用，約有 11 TOPS 的運算能力，如想更了解 M1 晶片請閱讀下文：
ARM Mac 對 Apple 是否為正確的發展呢？
從計算機架構、硬體架構、作業系統 3 個方面分析
由上述可知，Apple 在很多年前就在開發 AI PC 了，不過因為當時沒有如 ChatGPT 這樣爆炸性的終端應用，因此對於使用者來說，仍沒有很大的體感。
到了 2024 年，蘋果發表了第四代 M 系列晶片 ── M4，最先搭載在新的 iPad Pro 上。其 NPU 性能部分達到了 38 TOPS。然而，由於生成式 AI 是由 OpenAI 和微軟發起，建立了一套以 Windows 為主的 Copilot 生態圈，蘋果在 AI 生態系與其相比感覺相形見絀。不過 Tim Cook 也承諾將在未來開發出 AI 應用給蘋果使用者，可以期待 Siri 在未來會進化成更有用的語音助理，利用強大的 M4 晶片來服務消費者，並解決使用者資料隱私的問題。
WWDC 2024 蘋果發表 Apple Intelligence 提供類似 Windows Copilot 的服務，並且整合 Siri 與 ChatGPT 提供更有智慧的語音助理。
Intel 與高通即將在 AI PC 展開一場廝殺
#Intel Core Ultra 系列
在近十年來，Intel 在個人電腦領域一直未能取得令人驚艷的進展，反而被後起之秀 AMD 迎頭趕上，甚至在伺服器晶片霸主的地位也開始鬆動。因此，在 AI PC 這個新的計算時代，如果 Intel 能重新定義自己，將有可能在未來數十年創造一個嶄新的時代。
「Intel Core Ultra」於 2023 年九月誕生。第一個 Intel Core Ultra 處理器的架構名稱為 Meteor Lake。此品牌樣式的圖片取自維基百科。
在 AI 的時代，單位運算所需的能耗（Performance per Watt）相當重要，因為這意味著成本（能耗高，成本就高）。Intel 也終於在能耗上取得突破──Meteor Lake 是 Intel 歷史上能源效率最高的處理器架構！該架構使用 Tiles Architecture，將一塊 SoC 拆成許多不同的部件，以達到專業分工，優化運算執行效率。這款晶片同時混合了 Intel 和 TSMC 的製造節點（GPU 部分由 TSMC 製造），這也象徵著 Intel 在製程技術上逐漸依賴台積電的製程，以提供更好的效能。
可惜的是，Meteor Lake 的 NPU 效能僅有 10 TOPS，遠遠不夠滿足 Windows Copilot 應用所需要的 40 TOPS 要求。不過，Intel 隨即在 2024 年 Computex 上發表了 Intel Core Ultra 的下一代架構 ── Lunar Lake，並宣稱其效能可達 48 TOPS，足足比 Meteor Lake 高出 4 倍。
但現實是殘酷的。Lunar Lake 架構作為 Intel 2024 年最新一代的處理器，其 48 TOPS 的 NPU 效能與高通在 2023 年發表的 Snapdragon X Elite 的 45 TOPS 相差無幾，甚至可能在能耗上面還是無法與之競爭。
Since there’s been some talk about this other X Elite chip, and its superiority to the x86 — I just want to put that to bed right now. Ain’t true.
──Intel CEO at 2024 Computex
然而，在 Computex 上，Intel CEO 依然強力反擊了關於競爭對手高通的 Snapdragon X Elite 晶片優於 Intel 晶片的說法，展示了 Lunar Lake 架構的各項改進 (120 TOPS 的總運算效能)。我深刻感受到 Intel 想重返榮耀的渴望，以及在 AI 時代重振旗鼓的決心。我覺得當一家公司的 CEO 如此認真、渴望進步時，我們應該給予更多的肯定和鼓勵。或許當 Intel 開始全力採用 TSMC 先進製程時，重返榮耀的時刻將會來得更快。
#Snapdragon X Elite 驍龍晶片
這讓我們將焦點帶到 PC 世界的新成員高通（Qualcomm）：這家公司主要業務其實是在行動裝置市場，主要客戶包括 Google、三星及其他使用安卓系統的手機公司，提供高端的手機晶片。在 AI PC 群雄四起的時代，高通也決定踏入這個戰場，展示自己在 AI 領域的實力。
Qualcomm 推出的「Snapdragon X Elite 」與蘋果一樣以 Arm 架構設計，並與微軟合作，使原本支援 x86 的應用程式也能支援 Arm 架構。不管是直接在原生系統上執行，還是使用「Prism」轉譯 x86 指令成 Arm 指令，都能實現這一點。蘋果早在 M1 晶片上就開始推動這項 Arm PC 的改革，並證明了可以達到比 x86 架構更好的效能以及無人能敵的用電效率。
高通在這款晶片上大力宣傳其極具效率的運算架構。其 NPU 的效能達到 45 TOPS，比 Intel 高出超過三倍，且電腦使用時間更是延長了一倍。在性能方面，與 M4 不相上下，但在能耗上，M4 的表現依然相當驚人，使用約一半的能耗就能達到與 Snapdragon 類似的效能。
高通進軍 PC 市場的首發確實搭上了 AI 這波熱潮，並且步伐相當穩健。除了成功與美國老牌系統廠 Dell 的合作，證明了 PC 市場對高通的歡迎之外，其產品與其他公司的相比也極具競爭力。Windows 與 Arm 的組合是否能在 AI PC 的時代擊敗 Apple 與 Arm 的組合，確實給蘋果帶來了壓力。現在就看蘋果能否端出比 Copilot PC 更具競爭力的 AI 產品了。而 Wintel 的組合呢… 或許 WinAMD 會是 x86 架構在 AI PC 的代言人。
AMD Ryzen AI 300 系列或許將成為 2024 最吸引消費者的 AI PC 處理器
本篇的壓軸：「處理器」，就留給 AMD Ryzen AI 300 系列，原因當然就是他相當平衡的效能結構，該晶片集成了眾多 AMD 的最新科技，如 Zen 5 架構（12 核 CPU）、RDNA 3.5（16 核 GPU）以及 XDNA2，提供強大的 50 TOPS NPU 效能成為群龍之首，但在功耗上卻只比使用 Arm 架構的驍龍晶片高了 5W (28W v.s. 23W)，在圖像處理高出競爭者 60% 之多。
我們可以從以下的比較圖中，發現為何 AMD Ryzen AI 300 系列的晶片如此平衡：將蘋果的 M4 晶片，以及高通、Intel 和 AMD 的頂規 AI 晶片，從 CPU、GPU 核心數、快取記憶體（Cache）大小、最快時脈、NPU 運算能力、能耗，以及技術節點（Technology Node）進行比較，綠底的部分代表該晶片在該方面性能最好，紅底部分則是最差。我們可以看到, AMD 的晶片沒有任何一個方面是輸競爭者的，並且在其中三項為第一名，分別為 16 顆 GPU 核心數, 5.1 GHz 的時脈速度 以及 50 TOPS 的 NPU 運算速度．
順帶一題在技術節點方面，蘋果則是使用目前最先進的台積電 3 奈米技術，我認為令人瞠目結舌的 11W 極低的能耗的優勢，除了使用 ARM 架構之外， 光是技術節點的差別就能在減少約 20–30% 的能耗，也因此蘋果能在該放面海放競爭者。Intel 則是看起來在技術節點弱勢的一方，Intel 4 雖稱能達到 TSMC 3 奈米的技術，但實際的效果看起來還是有待驗證，畢竟在四項評比中都是最差的一方。
AMD Ryzen AI 300 系列是我在 2024 年最想購入的 AI PC 筆電。其性能相當吸引人，能夠充分展現一台筆電的功能。擁有足夠的 CPU 核心來處理多工，適合日常辦公。同時，配備強大的 GPU，提供高品質的遊戲體驗。此外，50 TOPS 的運算能力能夠運行目前最先進的 Windows Copilot。最重要的是，Windows 平台終於有望在續航力上追上蘋果。因此，我堅信這塊處理器會成為 2024 年 CP 值最高的 AI PC。
生成式 AI 將在今明年成為電腦必備軟體
AI 在終端使用者的革命才剛剛開始，是否 AI 的應用能成為未來使用者的剛需，得去看 Apple Intelligence 以及 Windows Copilot 在市場上的反應。就我個人來說，在寫文章時，時常需要到 ChatGPT 網站去修改文章、使用 Stable Diffusion Web UI 生成新圖片，如果 Apple 跟 Windows 系統能直接用處理器上的 NPU 無縫地幫我完成這些事情，將大幅度提升我的生產力，創造出更好的內容 ，形成使用者不可或缺的需求 ── 這就是剛需。
除此之外，AI 智慧型手機從去年就開始逐漸發展，今年在蘋果在 WWDC 上發表 Apple Intelligence 之後，我相信也會慢慢深入到使用者的日常生活中。雖然許多安卓手機已經具備圖片編輯等 AI 應用，但隨著運算效能 (TOPS) 的增加，應用將延伸到生成式 AI，變得更加實用。
隨著 2024 年中許多 PC 都會配備 AI 晶片，可以期待 2024 年底和 2025 年初，AIPC 產業將走多遠，並創造出多少驚人的應用及發明！
註：TOPS–Trillion operation per seconds 每秒兆次運算，通常我們使用這個單位來描述 AI 晶片的效能
執行編輯：林欣蘋
核稿編輯：張翔一
