PCDVD數位科技討論區
PCDVD數位科技討論區   註冊 常見問題 標記討論區為已讀

回到   PCDVD數位科技討論區 > 其他群組 > 七嘴八舌異言堂
帳戶
密碼
 

  回應
 
主題工具
lifaung
Senior Member
 

加入日期: Aug 2001
您的住址: 台中or桃園
文章: 1,140
引用:
作者野口隆史
DGX Spark 發售兩天了

就目前網路上的評論(推特, reddit)來看
這東西不論推理還是訓練都很慢

DGX Spark 不適合推理
4000 美有更好的選擇
例如同價格的 m4 max
大部分時候推理性能都有四倍以上

DGX Spark 大部分時候只與 2000 美的 mac mini 差不多
q1~q8 性能都不敵 mac mini
只有 mxfp4 時可以稍微領先

跟 ai 395 128GB 相比
大部分時候性能差不多
最大福領先的測試項目只有 30%
然後 ai 395 128GB 只有 2000 美

目前網路上一堆無償得到 DGX Spark 的人都把它吹上天了
都說比 apple 的設備更好,但無例外都不敢跟同樣也是 4000 美的 m4 max 對比
有拿來跟 m4 max 對比的人全部都是自己花錢購買的人
還有人說 DGX Spark 重點不在推理,而是在訓練
卻不回應為什麼它會推理慢訓練快
但事實上 DGX Spark 的推理跟訓練都很慢

這個年代跟以前不一樣了
以前 adobe 全家桶跟其它影...


395非常尷尬.... 看看下一代的有沒有機會吧

365/370比較慢, 但是記憶體的可擴充性比較好, 只是大多數廠商也是在賣電子垃圾

整體來說,
1. 沒有足夠大的記憶體, 都只是在賣電子垃圾而已
2. 頻寬也是重點
3. 64GB以下的機種, 賣超過3.5萬台幣其實很勉強(考慮到性能)
4. 395問題是軟體, 頻寬, 以及記憶體太少, 但價格並不低, 2000USD... 通常這個價位是低估了,2500-2750USD才是正常配出來的價格
5. 真正有殺傷力的是intel + NV 的unify記憶體機種, 留給蘇嬤的時間不多了
     
      
舊 2025-10-16, 12:13 PM #81
回應時引用此文章
lifaung離線中  
野口隆史
Elite Member
 
野口隆史的大頭照
 

加入日期: Mar 2001
您的住址: Rivia
文章: 7,053
引用:
作者lifaung
395非常尷尬.... 看看下一代的有沒有機會吧

365/370比較慢, 但是記憶體的可擴充性比較好, 只是大多數廠商也是在賣電子垃圾

整體來說,
1. 沒有足夠大的記憶體, 都只是在賣電子垃圾而已
2. 頻寬也是重點
3. 64GB以下的機種, 賣超過3.5萬台幣其實很勉強(考慮到性能)
4. 395問題是軟體, 頻寬, 以及記憶體太少, 但價格並不低, 2000USD... 通常這個價位是低估了,2500-2750USD才是正常配出來的價格
5. 真正有殺傷力的是intel + NV 的unify記憶體機種, 留給蘇嬤的時間不多了

amd 可以買 framework 的
台灣買的話是由桃園出貨
而且特價的時候只要 58000

ai 395 目前是處在比較尷尬的境地
規格只有 rdna 3.5
目前的 rocm7 最低需求是 rdna 4
雖然可以用 vulkan 跑
但效能比 rocm 差

我目前並不會考慮 amd 啦
家裡有本地 ollama 服務
很早前就有打算買 DGX Spark
但我沒有模型訓練需求
看了兩天測試數據後
覺得其實 ai 395, m4 max 一點也不貴
我應該會在 m5 max 跟 m3 ultra 之間選個買
如果 m5 max 有 256GB 的話是最好
 
__________________
Folding@home with GPGPU集中討論串

Unix Review: ArchLinuxSabayonOpenSolaris 2008.5Ubuntu 8.10
AVs Review: GDTCAntiVir SSESSKIS 09NIS 09Norton 360 V3

I Always Get What I Want.
舊 2025-10-16, 01:01 PM #82
回應時引用此文章
野口隆史離線中  
lifaung
Senior Member
 

加入日期: Aug 2001
您的住址: 台中or桃園
文章: 1,140
引用:
作者野口隆史
amd 可以買 framework 的
台灣買的話是由桃園出貨
而且特價的時候只要 58000

ai 395 目前是處在比較尷尬的境地
規格只有 rdna 3.5
目前的 rocm7 最低需求是 rdna 4
雖然可以用 vulkan 跑
但效能比 rocm 差

我目前並不會考慮 amd 啦
家裡有本地 ollama 服務
很早前就有打算買 DGX Spark
但我沒有模型訓練需求
看了兩天測試數據後
覺得其實 ai 395, m4 max 一點也不貴
我應該會在 m5 max 跟 m3 ultra 之間選個買
如果 m5 max 有 256GB 的話是最好


395配置完成後, 看起來128GB不如買華碩ROG回家, 但現實還是....
記憶體太少以及頻寬太低

記憶體太少就注定了不能大模型
頻寬低.... 應該也不需要討論這話題吧

類似DGX Spark價格, 考慮一下3080魔改x2搭配Ktransformer, 1TB Ram比較有看頭Orz
舊 2025-10-16, 05:21 PM #83
回應時引用此文章
lifaung離線中  
Hermit Crab
Golden Member
 

加入日期: Oct 2017
您的住址: 象山公園
文章: 2,825
__________________
垃圾桶名單:
ankk
chumowu
cp03
jeffk
LDSKING
LDSKING II
leeking
leeko
MyChris
River Spinach
smoguli
Whole Truth
wpc0406
YorkHapy
冬之炎陽
冰的啦魔王大人
沒問題
爆走企鵝
tvt
hill45678
rcack
卜派
polor
manoerina
afeaanpv
SUNGF
感謝網友提供的篡改猴script, 可惜失效了
舊 2025-10-16, 08:41 PM #84
回應時引用此文章
Hermit Crab離線中  
野口隆史
Elite Member
 
野口隆史的大頭照
 

加入日期: Mar 2001
您的住址: Rivia
文章: 7,053
引用:
作者lifaung
395配置完成後, 看起來128GB不如買華碩ROG回家, 但現實還是....
記憶體太少以及頻寬太低

記憶體太少就注定了不能大模型
頻寬低.... 應該也不需要討論這話題吧

類似DGX Spark價格, 考慮一下3080魔改x2搭配Ktransformer, 1TB Ram比較有看頭Orz

我目前有 r9 3950x 128GB 的機器
但是推理性能不太行
跑 qwen3 235B 2507 q3 只有 1.8 tk/s
qwen3 30b 2507 q4 15 tk/s
gpt-oss 120B q4 10 tk/s


所以其實 ai 395 對我來說推理性能已經比我現在用的強很多了
2000 美其實已經可以買 洋垃圾 epyc 512GB 的機器了
不過散熱跟耗電是另外一個問題
而且原本的機房被老婆霸佔了
家裡沒有地方放大型主機
只能考慮 395 或 mac studio 這種小主機
我先等 m5 max 出看記憶體最高可裝多少
再來決定要買什麼
__________________
Folding@home with GPGPU集中討論串

Unix Review: ArchLinuxSabayonOpenSolaris 2008.5Ubuntu 8.10
AVs Review: GDTCAntiVir SSESSKIS 09NIS 09Norton 360 V3

I Always Get What I Want.
舊 2025-10-17, 11:16 AM #85
回應時引用此文章
野口隆史離線中  
CableK
Advance Member
 

加入日期: Mar 2002
您的住址: 111
文章: 356
引用:
作者野口隆史
DGX Spark 發售兩天了

就目前網路上的評論(推特, reddit)來看
這東西不論推理還是訓練都很慢

DGX Spark 不適合推理
4000 美有更好的選擇
例如同價格的 m4 max
大部分時候推理性能都有四倍以上

DGX Spark 大部分時候只與 2000 美的 mac mini 差不多
q1~q8 性能都不敵 mac mini
只有 mxfp4 時可以稍微領先

跟 ai 395 128GB 相比
大部分時候性能差不多
最大福領先的測試項目只有 30%
然後 ai 395 128GB 只有 2000 美

目前網路上一堆無償得到 DGX Spark 的人都把它吹上天了
都說比 apple 的設備更好,但無例外都不敢跟同樣也是 4000 美的 m4 max 對比
有拿來跟 m4 max 對比的人全部都是自己花錢購買的人
還有人說 DGX Spark 重點不在推理,而是在訓練
卻不回應為什麼它會推理慢訓練快
但事實上 DGX Spark 的推理跟訓練都很慢

這個年代跟以前不一樣了
以前 adobe 全家桶跟其它影...


我是洋垃圾+RTX3090繼續玩, DGX 跟 395就先忍一下,等Intel再進來玩後應該會有穩定一點的二代小改款好用.

現在RAM好貴,好險之前捏一下把RAM插到頂了.
舊 2025-10-17, 12:33 PM #86
回應時引用此文章
CableK離線中  
野口隆史
Elite Member
 
野口隆史的大頭照
 

加入日期: Mar 2001
您的住址: Rivia
文章: 7,053
引用:
作者CableK
我是洋垃圾+RTX3090繼續玩, DGX 跟 395就先忍一下,等Intel再進來玩後應該會有穩定一點的二代小改款好用.

現在RAM好貴,好險之前捏一下把RAM插到頂了.

我目前加了一張 3080 給 3950x 這台跑 gpt-oss 120B
雖然生成性能增加不多,但填充性能提升很多
而且 64k 長上下文的性能下降緩解很多
感覺還可以繼續撐很久


最近的變化其實蠻多的
主要是我上一次發文後過了兩天
rocm 7.9 預覽版已經為 RDNA 3.5 提供 rocm 支援
性能看起來也還可以

然後 DGX Spark 我最近一直有看到
不少人說性能問題,不管是推理還是訓練方面都有
但今天看到約翰卡馬克也發文說這東西實測性能只有官宣的一半左右
https://x.com/ID_AA_Carmack/status/1982831774850748825

APPLE MLX 的主要開發者還在隨後推文說也有類似的發現
然後 DGX Spark 除了性能外似乎也有穩定性的問題
我這些天已經看過不少人說,經常使用到一半就莫名重啟了
__________________
Folding@home with GPGPU集中討論串

Unix Review: ArchLinuxSabayonOpenSolaris 2008.5Ubuntu 8.10
AVs Review: GDTCAntiVir SSESSKIS 09NIS 09Norton 360 V3

I Always Get What I Want.
舊 2025-10-28, 11:24 AM #87
回應時引用此文章
野口隆史離線中  
銀鐵人
Amateur Member
 
銀鐵人的大頭照
 

加入日期: Apr 2017
文章: 31
舊 2025-11-08, 12:14 AM #88
回應時引用此文章
銀鐵人離線中  
LDSKINGII
Major Member
 

加入日期: May 2021
文章: 243
越禁越堅強 😃

Nvidia 的黃仁勳表示,中國在與美國的 AI 競賽中「將會勝出」
執行長批評西方的「憤世嫉俗」,同時北京正放寬監管並降低資料中心能源成本
https://www.ft.com/content/53295276...de-081e73b3ba43

Nvidia 執行長黃仁勳警告,中國將在與美國的人工智慧競賽中勝出,原因是能源成本較低且監管較為寬鬆。

在這家全球最有價值公司的負責人迄今最尖銳的評論中,黃仁勳告訴《金融時報》:「中國將會贏得 AI 競賽。」

黃仁勳的談話出現在川普政府延續對位於加州的 Nvidia 禁售其最先進晶片給北京的禁令之後,該禁令是在上週美國總統唐納·川普與中國領導人習近平會面後維持的。

這位 Nvidia 執行長表示,包括美國與英國在內的西方世界正被「憤世嫉俗」所拖累。

「我們需要更多的樂觀精神。」黃仁勳於週三在《金融時報》AI 未來高峰會場邊如是說。

黃仁勳特別指出,美國各州的新 AI 規範可能導致「50 套新規則」。他將此與中國的能源補貼作對比

後者讓中國本地科技公司能以更低成本運行 Nvidia AI 晶片的中國替代品。「電力是免費的,」他說。

《金融時報》本週報導,中國已提升對字節跳動、阿里巴巴與騰訊等中國科技巨頭所經營若干大型資料中心的能源補貼。

知情人士表示,在中國科技企業抱怨使用華為、寒武紀等公司生產的國產半導體所需的成本上升後,地方政府加強了電力激勵措施。大多數此類系統的能效均不及 Nvidia 製造的產品。

黃仁勳先前曾警告,美國最新的 AI 模型並未大幅領先中國競爭者,並敦促美國政府開放市場讓其晶片進入,以保持世界其他地區對美國技術的依賴。

但在與習近平會面後,川普上週表示,他不希望讓中國使用 Nvidia 最尖端的 Blackwell 晶片。

「最先進的,我們不會讓任何人擁有,除了美國,」川普告訴 CBS。「我們會讓他們與 Nvidia 交易,但不是讓他們取得最先進的。」

Nvidia 上週在華盛頓特區舉行開發者大會,凸顯該晶片製造商正努力爭取政府支持。

受川普評論所推動,該集團的市值上週首次達到 5 兆美元。川普先前表示,他計劃在韓國與習近平討論 Blackwell。然而,美國總統後來告訴記者,他們的會談最終並未涉及該議題。

川普先前曾暗示,Nvidia 將能以修改後的版本重新獲得中國市場的准入。

「我可能會在這方面達成協議,」這位美國總統在 8 月表示,並指修改版 Blackwell 將會是「在負向方向強化」的版本。

在此之前,Nvidia 與 AMD 已同意向美國政府支付其為中國市場量身打造的既有 AI 處理器銷售額的 15% 作為回饋。

美國尚未採納允許此類銷售所需的相關規範。

自從中國一家小型 AI 實驗室 DeepSeek 以其大型語言模型的精湛程度震撼世界後,華府對中國 AI 進展的擔憂今年持續升高。

DeepSeek 模型於 1 月發布後,在矽谷引發瘋狂討論——資源更充足的美國 AI 公司(包括 OpenAI 與 Anthropic)是否能捍衛其技術優勢。
——————————————
上週皮衣黃說大陸半導體僅落後「幾奈秒」現說AI 競賽將會勝出,所以越禁越厲害?

結論是三寶做什麼,舔仔高興就好
舊 2025-11-08, 12:45 AM #89
回應時引用此文章
LDSKINGII離線中  
chumowu
Major Member
 

加入日期: Apr 2017
文章: 151
引用:
作者Hermit Crab
台灣主機板御三家跟電競有關的什麽都賣,我連公司的手機都有,
現在主管出口管制最重要的是顯示卡跟伺服器走私,不行嗎?

引用:
作者Hermit Crab
我問了公關說這真不關他們的事...

喊話蔣萬安! 簡舒培送「5060ti顯卡」:拿出魄力留住輝達 (https://www.youtube.com/watch?v=nWhOJsTqdrw)

是的!
螃蟹君應該是在Asus上班,主管出口管制最重要的顯示卡跟伺服器走私

幫螃蟹軍提醒一下,今天11月8日周休假日,要研討會報管制最重要的顯示卡跟伺服器走私。您辛苦了...

引用:
作者Hermit Crab
笑屎,該不會是上班下班還要向網軍報告吧?
...
11月8日還要在研討會報,不管垃圾(們)信不信我都無所謂。

此文章於 2025-11-08 09:26 AM 被 chumowu 編輯.
舊 2025-11-08, 09:22 AM #90
回應時引用此文章
chumowu現在在線上  


    回應


POPIN
主題工具

發表文章規則
不可以發起新主題
不可以回應主題
不可以上傳附加檔案
不可以編輯您的文章

vB 代碼打開
[IMG]代碼打開
HTML代碼關閉



所有的時間均為GMT +8。 現在的時間是07:51 AM.


vBulletin Version 3.0.1
powered_by_vbulletin 2025。