引用:
|
作者CableK
我是洋垃圾+RTX3090繼續玩, DGX 跟 395就先忍一下,等Intel再進來玩後應該會有穩定一點的二代小改款好用.
現在RAM好貴,好險之前捏一下把RAM插到頂了.
|
我目前加了一張 3080 給 3950x 這台跑 gpt-oss 120B
雖然生成性能增加不多，但填充性能提升很多
而且 64k 長上下文的性能下降緩解很多
感覺還可以繼續撐很久
最近的變化其實蠻多的
主要是我上一次發文後過了兩天
rocm 7.9 預覽版已經為 RDNA 3.5 提供 rocm 支援
性能看起來也還可以
然後 DGX Spark 我最近一直有看到
不少人說性能問題，不管是推理還是訓練方面都有
但今天看到約翰卡馬克也發文說這東西實測性能只有官宣的一半左右
https://x.com/ID_AA_Carmack/status/1982831774850748825
APPLE MLX 的主要開發者還在隨後推文說也有類似的發現
然後 DGX Spark 除了性能外似乎也有穩定性的問題
我這些天已經看過不少人說，經常使用到一半就莫名重啟了