PCDVD數位科技討論區
PCDVD數位科技討論區   註冊 常見問題 標記討論區為已讀

回到   PCDVD數位科技討論區 > 其他群組 > 七嘴八舌異言堂
帳戶
密碼
 

  回應
 
主題工具
okx
Power Member
 
okx的大頭照
 

加入日期: Jun 2004
您的住址: 永 禾口
文章: 690
MAC的設計當初也不是要跑AI模型

只是後來被發現可以這樣用~成本反而較低
     
      
舊 2024-06-05, 06:12 PM #21
回應時引用此文章
okx離線中  
blair
Elite Member
 
blair的大頭照
 

加入日期: Jun 2001
您的住址: 地球
文章: 6,234
引用:
作者okx
MAC的設計當初也不是要跑AI模型

只是後來被發現可以這樣用~成本反而較低

主要就是記憶體夠大
不然一個個人程式猿花兩千萬買台主機會被家人殺掉吧
 
__________________
~愛由一個笑容開始,用一個吻來成長,用一滴眼淚來結束。
當你出生時你一個人在哭,而所有在旁的在笑,因此請活出你的生命,
當你死的時候,圍繞你的人在哭而你便是唯一在笑。~
舊 2024-06-05, 06:15 PM #22
回應時引用此文章
blair離線中  
cjan.
Senior Member
 

加入日期: Mar 2020
您的住址: 天龍國蛋殼區
文章: 1,349
個人自備一台,平時就要訓練學習,等將來天網來時與之對抗。
舊 2024-06-05, 06:32 PM #23
回應時引用此文章
cjan.離線中  
lifaung
Senior Member
 

加入日期: Aug 2001
您的住址: 台中or桃園
文章: 1,146
引用:
作者小肥羊
Mac不鎖記憶體
不是出廠就直接綁定,最大也就128GB,只是沒老黃貴


llama.cpp 這玩意搭配AMD Turin來跑超大型AI才真的是不鎖記憶體


最大192GB
可以給GPU運算的最大量為144GB
舊 2024-06-06, 02:29 PM #24
回應時引用此文章
lifaung離線中  
終極密碼
Major Member
 
終極密碼的大頭照
 

加入日期: Jul 2010
您的住址: ?viper in w-0-t
文章: 138
想問一下資工的高手
這台GB200 是可以做到什麼能耐?
可以做到精準的氣象預報嗎?
或摩擬真實的原子彈爆炸嗎

此文章於 2024-06-06 03:47 PM 被 終極密碼 編輯.
舊 2024-06-06, 03:46 PM #25
回應時引用此文章
終極密碼離線中  
SUNGF
Junior Member
 
SUNGF的大頭照
 

加入日期: Jul 2002
您的住址: 台中
文章: 944
引用:
作者終極密碼
想問一下資工的高手
這台GB200 是可以做到什麼能耐?
可以做到精準的氣象預報嗎?
或摩擬真實的原子彈爆炸嗎


https://tw.news.yahoo.com/ai%E6%95%...-111949921.html

這不是單純資工可以搞定的事

氣象預報需要有氣象局的提供的歷史資料+加上氣象專家手把手教 資工人員

資工人員再教 AI電腦

等資工人員略熟 氣象流程

才能設計出介面 直接讓氣象專家 直接手把手教AI

至於原子彈

除非偷的 到 核試爆大國的試爆資料

然後放進超級電腦 或 AI電腦 試跑

不然沒資料是跑自己爽的
__________________
世事浮雲何足問,不如高臥且加餐。

Get busy living, Or get busy dying.

因為我是和人類不同的生物啊。雖然降低身份當了卑下的軍人,但其實我是閃亮星星中的高等生命,到了二十九歲就會自動倒退越來越年輕。然後等到了十八歲又會自動停止返老還童,逐漸增加歲數,等再到二十九歲為止。一直這樣重複著。

——by奧利比·波布蘭《銀河英雄傳說》

偉大的人將火種傳給後人...大尾的人將他據為己有

(從M01偷來的簽名檔)
舊 2024-06-06, 03:56 PM #26
回應時引用此文章
SUNGF現在在線上  
ghostcode
Senior Member
 

加入日期: Sep 2001
您的住址: 淡水
文章: 1,316
引用:
作者終極密碼
想問一下資工的高手
這台GB200 是可以做到什麼能耐?
可以做到精準的氣象預報嗎?
或摩擬真實的原子彈爆炸嗎


chatgpt 號稱2億個參數,新版更多。(且硬體架構完全不一樣)

就知道條參數是很複雜的(權重等等)。
舊 2024-06-06, 04:39 PM #27
回應時引用此文章
ghostcode現在在線上  
hendry2002
Major Member
 
hendry2002的大頭照
 

加入日期: Jan 2008
您的住址: 銀河系
文章: 169
這兩天聽我大M的朋友說

它們現在有的部門開會完

會議的影片檔案餵給GPT

然後他可以幫忙寫meeting minutes

我是沒用過

有網友們有用過這一個功能嗎?

舊 2024-06-06, 04:58 PM #28
回應時引用此文章
hendry2002離線中  
cjan.
Senior Member
 

加入日期: Mar 2020
您的住址: 天龍國蛋殼區
文章: 1,349
引用:
作者cjan.
個人自備一台,平時就要訓練學習,等將來天網來時與之對抗。

魔鬼阿諾演的,就是派人幹掉 GG 和 Nvidia,怕有漏網之魚直接炸沉呆丸
ttps://www.youtube.com/watch?v=1sGXx0ruYQ8
舊 2024-06-06, 06:58 PM #29
回應時引用此文章
cjan.離線中  
skap0091
Master Member
 

加入日期: May 2021
文章: 2,016
剛看了極客灣介紹AMD新發表的CPU
https://youtu.be/cq21B7ImenA?si=ji2bvOb42rZHh1nf

原來桌面平台之所以新CPU都不含NPU
是因為沒那麼注重省電,所以要跑AI還是以GPU為主

筆電由於注重能耗,所以才額外多個NPU來輔助
NPC有點類似ASIC是專用單元,不如CPU、GPU泛用
但可以輔助CPU跑一些AI加速,能效高很多

果然老黃的策略還是佔據先機
只要微軟相關應用能搭配GPU的話
所謂AI PC在桌面上直接拿現有GPU即可支援

引用:
作者終極密碼
想問一下資工的高手
這台GB200 是可以做到什麼能耐?
可以做到精準的氣象預報嗎?
或摩擬真實的原子彈爆炸嗎

搞那些有錢賺嗎?
老百姓誰跟你花錢買氣象預報?
老百姓誰跟你研究原子彈爆炸?

GB200當然是拿來研究生成式應用更有"錢"途
ChatGPT未來就是應用到各行各業
例如個人專屬AI助理,去看鋼鐵人裡面的老賈就知道多好用
又或者企業可以推出AI服務員,能回答用戶重複率極高的各種問題
比如醫院可以拿來回答各種醫療相關問題
比如店家可以拿來回答各種交易相關問題

可以預想未來跟飯店預定都是AI服務員跟你交流
這個AI服務員不僅能精通全球語言,還能24小時全年無休
而且不會有脾氣,能不限時的持續回答你各種訂房相關問題
一家全球連鎖的大飯店只要租個AI服務,就能省下多少人工?

此文章於 2024-06-06 07:14 PM 被 skap0091 編輯.
舊 2024-06-06, 07:06 PM #30
回應時引用此文章
skap0091離線中  


    回應


POPIN
主題工具

發表文章規則
不可以發起新主題
不可以回應主題
不可以上傳附加檔案
不可以編輯您的文章

vB 代碼打開
[IMG]代碼打開
HTML代碼關閉



所有的時間均為GMT +8。 現在的時間是12:11 PM.


vBulletin Version 3.0.1
powered_by_vbulletin 2026。