PCDVD數位科技討論區 - 瀏覽單個文章 - AI為何不是用CPU運算呢?

引用:

作者netor

百思不得其解
AI為何不是用CPU運算而是用"顯示卡"呢?
程式把問題丟給CPU運算，顯示卡只要顯示結果(文字)，不是這樣嗎?怎麼會用到顯示卡呢?

Deepseek R1 完整版本有人用CPU來跑的,12通道DDR4

印象沒錯的話每秒鐘可以產生4個token
https://news.ycombinator.com/item?id=42897205

顯示卡強項在於
1. array 運算快
2. 記憶體頻寬更大