PCDVD數位科技討論區
PCDVD數位科技討論區   註冊 常見問題 標記討論區為已讀

回到   PCDVD數位科技討論區 > 其他群組 > 七嘴八舌異言堂
帳戶
密碼
 

  回應
 
主題工具
kaa53578
Regular Member
 

加入日期: Dec 2018
文章: 92
引用:
作者skap0091
這波AI硬體需求會演變到什麼程度無法預測

因為已經上升到

有人跟張忠謀說需要的是增加好幾座晶圓廠的量
當然晶圓代工廠沒看到錢是不會輕易相信且擴廠的

還有各種電力需求預估也很誇張
直接是美國某個州總電力能支撐幾片NV晶片
歐洲某一國總電力能支撐幾片NV晶片
還有未來幾年生成式AI對電力的總功耗需求暴增
人類發展AI的瓶頸在未來可能變成能源方面
畢竟晶片可以隨著時間不斷生產累積
能源供應方面卻無法無止境的提升
就算一直蓋核電廠也會面臨很多限制
所以解決AI功耗也成為一大難題

但這波究竟會不會破掉?還是會轉型成全然不同?
否則目前趨勢就是很恐怖,NV想趁風頭多賣
就是要拼命生產,所以能下單的通通要考量進來



所以應該也許下一波的能源革命就在不遠的未來發生。不曉得是什麼發明出現,也許是核融合技術突破瓶頸然後商轉,也許是轉換效率更高的太陽能技術,who knows? 然而中東那些產油國以及俄羅斯、美國攏斷、掌握石化能源太久了,不是說放手就能輕易放手的。

有時想想人腦還真是恐怖,AI在十年前還是玩笑話,現在則是變成高耗能產業的源頭了。
     
      

此文章於 2024-04-09 09:14 AM 被 kaa53578 編輯.
舊 2024-04-09, 08:54 AM #191
回應時引用此文章
kaa53578離線中  
hendry2002
Major Member
 
hendry2002的大頭照
 

加入日期: Jan 2008
您的住址: 銀河系
文章: 131
引用:
作者kaa53578
有時想想人腦還真是恐怖,AI在十年前還是玩笑話,現在則是變成高耗能產業的源頭了。


等到AI可以把5成人類的工作取代時

你就會發現他其實很省電

 
舊 2024-04-09, 09:38 AM #192
回應時引用此文章
hendry2002現在在線上  
老老濕
Senior Member
 
老老濕的大頭照
 

加入日期: Feb 2015
文章: 1,435
思考一下
電的轉換效率.比種糧食.還要休息的人.高不少

由電力轉化後
去產生物資相關的.工商業價值
遠遠高於人力的產值

AI大爆發年代
沒跟上的國家經濟體.勢必會被慢慢淘汰掉
__________________
復製貼上真好用

什麼叫認知作戰?
就是他們讓你以為只是因為政治立場不同在爭執
但核心的部分是他們想掩蓋他們的真實社會面
只要吵就會模糊了焦點

................................
看看板上有多少五毛
舊 2024-04-09, 11:00 AM #193
回應時引用此文章
老老濕現在在線上  
hendry2002
Major Member
 
hendry2002的大頭照
 

加入日期: Jan 2008
您的住址: 銀河系
文章: 131
引用:
作者老老濕
AI大爆發年代
沒跟上的國家經濟體.勢必會被慢慢淘汰掉


沒錯

很快的1450也會被AI取代

舊 2024-04-09, 01:22 PM #194
回應時引用此文章
hendry2002現在在線上  
Dz6810
Major Member
 

加入日期: Jan 2016
您的住址: 臺北市
文章: 118
我覺得現在AI的演算法,
要靠非常快的電腦, 用非常多的能量, 運算非常多的變數,
只是暫時的解法,
畢竟最厲害的生物腦-人類的腦袋, 最多也不過是幾kW的功率,
所以未來會有新的物理與數學的理論以及演算法來取代現在的方法.

所以拿不到最新的IC, 花不起設備與運算費用的國家與公司, 不需要太悲觀, 將來一定會掉隊,
因為目前的困境反而可能激發出創新的解法,
反而現在擁有最新的IC, 花得起鉅額費用的國家與公司, 因沉沒成本反而會捨不得轉換研發途徑.

歷史上冷戰期有一陣子共產國家一些領域的解析解遠超美國,
原因就是可以用電腦硬解之後, 很多研究人員就不再花腦筋去搞純數學了.
舊 2024-04-09, 03:35 PM #195
回應時引用此文章
Dz6810離線中  
skap0091
Master Member
 

加入日期: May 2021
文章: 1,574
引用:
作者Dz6810
畢竟最厲害的生物腦-人類的腦袋, 最多也不過是幾kW的功率,

最厲害的人類

也無法幾秒內讀完上萬字的文章

然後總結出所有重點

又或者產生一篇新論文

這還只是生成式AI最基本的運用

所以本地貧弱的NPU也能輕鬆做到

不耗多少電的
舊 2024-04-10, 12:28 AM #196
回應時引用此文章
skap0091離線中  
healthfirst.
Golden Member
 
healthfirst.的大頭照
 

加入日期: Apr 2017
您的住址: 陣亡者的靈堂
文章: 3,131
馬斯克:AI明年底就會比人類聰明、前提是不缺電
2024-04-09
https://www.moneydj.com/kmdj/news/n...24-aaa9855135bf
__________________
舊 2024-04-10, 12:44 AM #197
回應時引用此文章
healthfirst.離線中  
又見阿鳥
Major Member
 

加入日期: Apr 2017
文章: 119
引用:
作者skap0091
最厲害的人類
也無法幾秒內讀完上萬字的文章
然後總結出所有重點
又或者產生一篇新論文
這還只是生成式AI最基本的運用
所以本地貧弱的NPU也能輕鬆做到
不耗多少電的


ai幫你畫重點...是學不到東西的,只是知道...不是學到
細節不清楚的話,就知其然,不知其所以然
問題解決了,但是你不知道怎麼解決的

能夠靠ai學習,本身就得有相當的知識儲備..
能夠利用ai過濾掉不必要的資訊,看重點就好...

只看重點學東西,不是這麼簡單的....

目前的ai,只能做到資訊重組...過濾幾萬篇文章,總結abc
但是不會有突發奇想的d
你之所以覺得觀點c很特別,有獨創性,只是因為..ai看到那篇論文,你沒看過
所以,如果你懂ab,就能透過ai學到c
如果你啥都不懂,看了abc...也就知道abc....但不知道為什麼
舊 2024-04-10, 08:36 AM #198
回應時引用此文章
又見阿鳥現在在線上  
hendry2002
Major Member
 
hendry2002的大頭照
 

加入日期: Jan 2008
您的住址: 銀河系
文章: 131
引用:
作者又見阿鳥
目前的ai,只能做到資訊重組...過濾幾萬篇文章,總結abc
但是不會有突發奇想的d
你之所以覺得觀點c很特別,有獨創性,只是因為..ai看到那篇論文,你沒看過
所以,如果你懂ab,就能透過ai學到c
如果你啥都不懂,看了abc...也就知道abc....但不知道為什麼


對老闆來說

本來要花錢找幕僚做的

現在就看AI整理的資料 多方便

可以少請幾個助理

舊 2024-04-10, 08:53 AM #199
回應時引用此文章
hendry2002現在在線上  
LDSKINGII
Major Member
 

加入日期: May 2021
文章: 179
這個AI晶片去年年底已經發表過一次,今天又出消息,懷疑是來炒股

今天intel 股價僅小漲但至少止跌
———————————————————

英特爾發表新AI晶片,聲稱堪比H200

英特爾發表新人工智慧晶片Gaudi 3,預計第三季量產。此款新晶片目標提升2關鍵領域效
能:訓練AI系統,以及支援開發完成的軟體。

Gaudi 3 前段由英特爾設計,世芯進行後端設計,採用台積電5 奈米製程與 CoWoS 封裝技術。

舊版本的Gaudi無法達到預期的市佔率,執行長季辛格期望Gaudi 3能急起直追,而戴爾科技、慧與科技(Hewlett Packard Enterprise)、聯想和美超微等,都表態建立Gaudi 3系統。但大摩先前就指出,Gaudi 3出貨量取決於先進封裝產能。

要看到輝達的車尾燈很難。輝達的H100讓黃仁勳公司市值突破兩兆美元。而最新Blackwell 架構才剛剛發布,今年稍晚出貨。

但根據英特爾自身評估,Gaudi 3運算速度和效能大約相當於輝達的H200:在訓練某些模型上,速度比H100快1.7倍,跑軟體速度快1.5倍。

那麼跟Blackwell架構加速器比呢?英特爾則說,要等Blackwell晶片真的問世才能比較。

英特爾最近一次公布財報時表示,正加速供應Gaudi回應需求,並表示,2024年已拿到「20億訂單並持續增加中」。

英特爾也援引市場數據表示,企業在生成式AI設備的花費,2024年將達到400億美元,2027年再衝上1510億美元。

但這樣的數據,卻再度凸顯了輝達的獨佔趨勢。因為截至1月為止的前12個月,輝達數據中心營收已經超過470億美元。分析師預估,當前會計年度,輝達數據中心總營收會達到950億美元。

新晶片似乎沒有帶給市場太多驚喜,英特爾今天僅收漲0.92%。股價今年已經跌了20%。
舊 2024-04-10, 09:07 AM #200
回應時引用此文章
LDSKINGII離線中  


    回應


POPIN
主題工具

發表文章規則
不可以發起新主題
不可以回應主題
不可以上傳附加檔案
不可以編輯您的文章

vB 代碼打開
[IMG]代碼打開
HTML代碼關閉



所有的時間均為GMT +8。 現在的時間是10:05 AM.


vBulletin Version 3.0.1
powered_by_vbulletin 2024。