瀏覽單個文章
kamuy
Advance Member
 

加入日期: Mar 2011
您的住址: 路很小條的新莊
文章: 429
剛才試了一下

直接用c++內建的sqrt跟pow來算

果真只用double的sqrt跟pow的確會有問題

換成用array寫的就沒問題

看起來應該就是double的鍋了

微軟官方也有列出excel的限制:

Excel儲存格限制


計算的規格與限制

數字精確度
15 位數

最小的可容許負數
-2.2251E-308

最小的可容許正數
2.2251E-308

最大的可容許正數
9.99999999999999E+307

最大的可容許負數
-9.99999999999999E+307

經由公式取得的最大可容許正數
1.7976931348623158e+308

經由公式取得的最大可容許負數
-1.7976931348623158e+308

看起來用double這就是原因所在了
舊 2019-12-07, 09:03 PM #5
回應時引用此文章
kamuy離線中