各家業者磨刀霍霍向AI PC 但ARM架構已經先走一步

※如欲轉載本文,請與北美智權報聯絡

三国牧 小说

林宗輝╱北美智權報 編輯部

在這個AI電腦時代的濫觴中,專家們預測,AI將成爲PC市場的重要驅動力。英特爾最新基於Meteor Lake架構的Core Ultra晶片,作爲該公司的首款內建神經處理器的消費端PC處理器,預示着這一時代不只到來,更將迅速滲透市場,改變使用者習慣。

根據英特爾的說法,具備AI功能的新晶片的特點在於能夠在筆記型電腦上運行像ChatGPT這樣的技術,而不需要依賴雲數據中心提供計算能力。這意味着即使在沒有網際網路連接的情況下,AI電腦也能夠執行高級的語言模型和對話式AI。這種自主運算能力的提升,爲AI電腦在個人使用和專業領域的應用帶來了巨大的潛力。

以過去的英特爾產品作爲比較基準的話,目前的英特爾在AI應用性能方面的確有相當大的進展,然而回過頭去看這幾年的整體處理器技術發展,英特爾到2023年底才推出具備AI功能的處理器,反而是動作比較慢的了。許多其他科技公司也在積極開發AI專用硬體和軟體,這將進一步推動整個行業的發展,比如說蘋果,他們透過新的硬體以及軟體框架,使他們的PC產品在AIGC應用執行效率可以和高階獨立顯示卡同等的水準,且甚至可以執行更大的本地模型。

而隨着更多的AI專用硬體和軟體解決方案的問世,我們將看到AI電腦在更廣泛的領域中被應用,從而帶來更多的創新和變革。

晚到好過不到,X86的AI路

近日,英特爾在新一代的處理器平臺上揭示了未來AI PC的樣貌,不論在應用方面,甚至在晶片製造端也展示了英特爾前所未有的創新。隨着新一代Core Ultra處理器的引入,英特爾寄厚望於該平臺上,不論是AI應用,或者是未來在晶片製造能力的改善,都代表着該公司40年來最大的客戶端架構轉變,Core Ultra也是首次應用基於Foveros封裝技術的客戶端瓦片式設計。這種新的晶片設計利用了3D高性能混合架構,並且是首款在新的Intel 4製程節點上製造的客戶端處理器。

东海龙门天圣宫普渡法会 报名费随喜

台南「柳营王醮」 上百人拉王船出厂 稚童大喊加油

圖片來源:英特爾

代號Meteor Lake 的Core Ultra處理器,藉由採用英特爾的3D性能混合架構和英特爾4製程製程,提供了性能和功率效率之間的平衡,並強化AI應用執行的能力。英特爾在新聞發表會上亦強調,新一代的H系列和U系列處理器將改變人們使用個人電腦的方式,特別是在AI加速方面。

英特爾Core Ultra特別強調了其內置的神經處理單元(NPU),這種架構過去常見於手機晶片上,這也是X86架構首次引進該技術,透過內建的NPU,這使得處理器在AI加速方面的能效比上一代提高了2.5倍。英特爾Core Ultra還支持OpenVINO™工具包,這些工具包通過最小的代碼更改和自動設備檢測增強了AI性能,將工作負載路由到正確的計算引擎,並通過ONNX和ONNX Runtime實現更快的推理,從而簡化了工作流程。

不過相較起性能,英特爾的新處理器更重視的是能效表現以及應用的相容性,從實際測試結果來看,英特爾的AI執行速度可能還不如新一代的ARM架構處理器,但相較起性能,英特爾似乎更重視應用相容性。而這也是爲什麼英特爾執行長基辛格近日不斷攻擊NVIDIA的原因,基辛格認爲,英特爾推動的應用生態相容計劃將有機會推翻以往由NVIDIA的CUDA獨霸的AI運算生態。

如果單看X86市場,英特爾已經在AI議題上搶了一波鋒頭,畢竟AIGC到AI PC,如果能擺脫雲端的限制,達到隨處可用的境地,不僅效率更快,許多資安要求高的工作應用也就不用因爲害怕資訊泄漏而故意忽視AIGC功能的存在,從而幫助工作效率的提升。因此,PC業者見到英特爾的新架構,無不蜂擁支持,畢竟不論是消費端或者是企業端,PC市場已經冷太久了,需要更多題材來炒熱。也因此,我們認爲英特爾目前的重點還是瞄準商用市場生態經營,消費端AI可能暫時還無法期待有太大的性能革新。

初二也是「天恩日」 回娘家路上做1事 厄运全甩开

那麼英特爾的最大對手AMD呢?根據業界訊息,他們也會如同英特爾般加入NPU功能,強化其AI應用執行能力,然而不可忽視的是,AMD在GPU的技術方面僅次於NVIDIA,且推動了使用者基礎僅次於CUDA的AI開放社羣標準,英特爾目前在AI PC上暫時領先了AMD,但後續的生態經營纔是真正的挑戰。

先走一步的ARM架構

X86這頭AI PC概念炒的火熱,但實際上AI功能在ARM架構已經是司空見慣,幾乎每一顆ARM處理器都有NPU技術的存在,雖然AIGC概念在2023年纔開始興起,但作爲先行者的ARM架構,似乎也有不錯的潛力。

我要大寶箱

兩大手機處理器公司,聯發科和高通都先後推出可以進行AIGC的手機處理器,可以在手機上執行超過百億參數規模的AI模型,這個參數大小的模型即便是放在PC上也是相當龐大,需要具備大容量的GPU纔能有比較好的執行效率。

圖片來源:聯發科

聯發科的方案是天璣架構,其最新的天璣9300手機晶片,使用了「全大核」設計策略,以達到更高的遊戲、視訊捕捉和設備上的生成AI處理性能。該晶片採用臺積電的4奈米制程技術,包含四個Cortex-X4核心和四個Cortex-A720核心。特別值得注意的是,Dimensity 天璣9300包含了一個AI處理器核心——APU790,這個核心能夠提高生成式AI的性能和能效,並支持大型語言模型,具有可擴展性高達330億參數。此外,天璣9300還具有改進的CPU核心和提高的效率表現。

柯P率陈佩琪现身辩论会 副手吴欣盈也到场打气

雖然聯發科在Windows on Arm的腳步並不明確,未來可能會透過與NVIDIA合作前進AI PC,而不是自己玩,但我們認爲在手機市場已經逐漸走向飽和,且聯發科的客戶主要還是集中在中國企業上,不論就地緣政治風險,或者是市場潛力而言,都已經可以看到極限,往AI PC前進不僅可以增加新市場空間,也能分散風險。

高通除了在手機晶片上有和聯發科類似的發展脈絡,其整合NPU、GPU與DSP的AI運算能力,也幫助手機應用很早就走入AI時代。但與聯發科不同的是,高通已經打造出一顆真正的PC處理器,並將以之挑戰主流PC處理器。

圖片來源:高通

高通推出了面向微軟Windows筆記型電腦的新晶片,這一晶片被命名爲Snapdragon Elite X。這款晶片專爲處理人工智慧(AI)任務而優化,包括電子郵件摘要、文本生成和圖像創建等任務。Snapdragon Elite X晶片被設計爲集成到高通的智能手機晶片中,Google和Meta計劃利用這些功能。此外,據稱Snapdragon Elite X在特定任務上的性能超過了蘋果的M3與M2 Max晶片,同時在能源效率方面也優於蘋果和英特爾的PC晶片。這款晶片的最大特點是其能夠處理具有130億參數的人工智慧模型,這在生成文本或圖像等AIGC任務中尤爲重要。

2024年义大跨年活动倒数! 分流管制疏导措施抢先看

但嚴格來說,聯發科和高通都還沒有針對主流PC的AI晶片產品,因此,我們把眼光看往另一個,也是目前市面上最強大的AI PC架構,也就是蘋果的M3系列晶片。

七夜奴妃 小说

新屋烧王船信众扛轿入海酿3死 宫庙负责人判决出炉

蘋果在其M系列處理器中引入了多項AI處理功能,這些功能主要集中在提高AI計算速度、增強神經網路引擎的能力,以及優化圖形處理等方面。

小心!违停、未礼让行人 记点一满驾照恐被没收

M3系列處理器採用了3奈米制程技術,這不僅增加了性能和效率,還使這些處理器能夠更有效地運行AI和機器學習模型。M3系列的神經網路引擎比M1系列快60%,這使得AI和機器學習工作流程得到了更快的處理速度。另外在GPU方面,M3系列具有最新一代的GPU架構,這不僅提高了整體的圖形性能,還引入瞭如動態緩存、硬體加速光線追蹤和網格陰影等創新功能。這些新特性增強了着色能力,使得圖形更加細緻和逼真。M3系列的GPU渲染速度比M1系列快達2.5倍。不僅在遊戲或者是專業繪圖性能方面更出色,也能有效幫助AI應用的執行加速。

但除了硬體以外,蘋果最重要的一項工作是推出了名爲MLX的新開源AI框架,這代表蘋果在AI領域的一大進步。MLX專爲在蘋果的M系列處理器上高效運行而設計,並提供了統一的記憶體模型,使得操作可以在任何支持的設備類型上進行,而無需進行數據複製。這個框架基於ArrayFire、Jax和PyTorch,可以高效率訓練AI工作,或者是執行AI推理工作。

桃园「宠夫臭豆腐」10年熬一味 创业原因超感人

MLX框架在AI研究和開發方面代表了重大進展,尤其是在影像生成速度上,與PyTorch相比有顯著優勢。此外,MLX框架還支援像是Stable Diffusion和OpenAI的Whisper這樣的工具,這些都顯示了蘋果在AI研究和開發領域的進步。例如,蘋果報告稱,使用MLX生成16張圖片大約需要90秒,而PyTorch則需要約120秒。

Eutelsat OneWeb低轨卫星 中华电信签下独家代理约

而根據第三方的測試,在蘋果M系列處理器上執行Whisper這個AI語音轉錄應用時,蘋果處理器能表現出比NVIDIA的RTX4090顯示卡更強大的性能表現,值得注意的是,用來測試的蘋果筆記型電腦的價格跟RTX4090顯示卡差不多。

值得注意的是,雖然在這個測試中的RTX4090顯示卡使用的是未最佳化的模型,所以性能表現較弱,但以同樣的測試基準來看,蘋果系統的總功耗僅約50W,4090單單是顯示卡就消耗超過300W,就純粹的能效比來看,蘋果仍然領先。

NBA/第四節險遭暴龍大逆轉 懷特挺身捍衛主場開季16連勝

菩提苦心 小說

資料來源:AppleInsider

机械女郎V6吸血迷情

挖呀挖老师拿下滤镜「秒变国字脸」 真面目惊呆网

這些進步意味着,蘋果在PC產業中引入AI功能方面處於領先地位。MLX的推出不僅讓蘋果的硬體更具吸引力,也爲AI研究者和開發者提供了更好的相容性以及開發體驗。這個框架的目標是使蘋果的平臺對AI研究者和開發者更具吸引力。隨着蘋果進一步開發其AI技術,未來可能會在MacBook上創建類似ChatGPT的生成AI應用程式。

結論

英媒:文化冲击让台积电美厂延宕

不論從略微姍姍來遲的X86架構,或者是早在AI經營已久的ARM產品,AIGC進入人們的日常生活已經是不可改變的趨勢,AI PC的到來也宣示着AIGC要擺脫娛樂用途,轉而邁向生產力應用。當然,談到生產力,英特爾看起來很重視使用者或是開發者應用生態的經營,但蘋果似乎略勝一籌,而AMD、高通和聯發科及NVIDIA也都在磨刀霍霍。但無論如何,消費者也能選擇配備使用NVIDIA或AMD的GPU產品的PC產品,CPU不需換代也能具備AI功能。

但我們同意,AI PC的興起不僅代表了一次技術上的革命,更是一次運算方式和用戶體驗的全面變革。隨着AI技術的不斷成熟,我們可以預期,在不久的將來,AI PC將成爲個人和專業領域的標準配置,從而爲我們的生活和工作帶來深遠的影響。並帶領產業進入一個更加智慧、高效和創新的時代。

MIT Techreview 中文版研究經理

財訊雙週刊撰述委員

美國波士頓Arthur wood 投資顧問公司分析師

日本自民黨政治獻金風暴 安倍派5人小組全遭約談

延伸閱讀&電子報訂閱連結:

【更多內容請見《北美智權報》347期;歡迎訂閱《北美智權報》電子報】

吃完藏寿司「叠乐高」 父母最佳身教 万人喊赞

蔡英文、赖清德鼓励投资加密货币? 刑事局:深伪影音变造影片勿受骗

汽車新聞