瀏覽單個文章
blair
Elite Member
 
blair的大頭照
 

加入日期: Jun 2001
您的住址: 地球
文章: 6,234
引用:
作者野口隆史
CPU 是通用計算
GPU 有圖形顯示需求
GPU 現階段可以跑
那是因為 AI 需要的矩陣、卷積在 GPU 上也是很重要的運算
但 GPU 在這部分的運算規模卻遠不如 NPU
按照 nvidia 的說法,他們的純 NPU 運算卡在同樣製程跟晶片面積下
AI 算力跟功耗是屌打自家 GPU 的

而且 NPU 除了算力優勢外還有低延遲優勢
這是現階段 GPU 遠不如 NPU 的地方



APPLE 在 MACOS 上底層跑的是 MetalFX
MetalFX 是 CPU+GPU+NPU 的偕同運算
實際跑出來,我從沒看過 M3 性能輸過 A17 PRO

只比純 NPU 算力是很奇怪的
因為至少我目前沒看過有哪個人
在 MACOS 上堅持只用 NPU,偏不用 GPU+CPU
除非底層支援,否則可能會發生很多需要 hand code 的部分

但是Apple在宣傳上卻只說NPU算力
很好笑的是新一批的CPU發表當然NPU全超過M$的定義
唯非M$陣營的Apple M4不到40(達38)
但各家宣傳又說自家CPU有多少算力,GPU又有多少算力所以CPU+GPU+NPU有多少云云
讓人搞不清楚Apple的算盤為何
當然Apple的東西本來就是自家獨用,別人怎麼玩干他底事

不過目前AI最重要的落地應用
恐怕Apple還是能跑在最前面的那個
__________________
~愛由一個笑容開始,用一個吻來成長,用一滴眼淚來結束。
當你出生時你一個人在哭,而所有在旁的在笑,因此請活出你的生命,
當你死的時候,圍繞你的人在哭而你便是唯一在笑。~
舊 2024-06-10, 04:52 PM #17
回應時引用此文章
blair現在在線上