瀏覽單個文章
skap0091
Master Member
 

加入日期: May 2021
文章: 1,934
引用:
作者Hermit Crab
微軟定義AI PC的NPU效能須至少40 TOPS,AMD、Intel處理器通通不達標 (https://www.4gamers.com.tw/news/det...s-what-is-ai-pc)

然而 40 TOPS 的要求門檻其實相當嚴苛,
Intel 第一款具備 NPU 核心的 Intel Core Ultra 處理器系列的最大效能僅 10 TOPS,
而 AMD 使用 XDNA AI 核心的 Ryzen 8040 處理器也才 16 TOPS,
兩者都不及需求的一半。

---

查了一下A17 Pro的NPU有35 TOPS
M3全系列NPU都相同,是18 TOPS

https://36kr.com/p/2499103151576964

然而,18 TOPS 的數字卻令人大吃一驚。正如Ian Cutress 博士向我指出的那樣,18 TOPS 實際上比A17 SoC 中的NPU 慢。

發生什麼事了?

隨著A17 SoC 的推出,蘋果開始引用INT8 性能數據,而我們認為先前版本的NPU(A 系列和M 系列)的INT16/FP16 數據。此格式的精度較低,可以以較高的速率進行處理(以精度換取吞吐量),因此引用的數字較高。

這裡的18 TOPS 數字顯然是INT16/FP16 效能,因為這與過去的M 系列聲明和Apple 自己的圖表一致。那麼,懸而未決的問題是,M3 中的NPU 是否支援INT8,因為A17 最近才加入了INT8。要么它確實支援INT8,在這種情況下,Apple 正在努力實現一致的訊息傳遞,要么它是缺乏INT8 支援的老一代NPU 架構。

整體而言,這種差異更多的是出於好奇,而不是擔憂。但看看蘋果是否保持A 和M 系列的NPU 架構相同,或者我們是否看到這一代的差異,將會很有趣。

---

不過我覺得這不是問題,就跟CPU、GPU一樣
速度慢就只是多花一點時間跑出結果
現在根本還看不出有啥重度AI應用很需要高性能NPU
如果有了,那廠商也只要堆NPU規模就行,例如16核翻倍成32核
舊 2024-04-04, 10:53 AM #8
回應時引用此文章
skap0091離線中