小數點精確度的問題 |
|
答題得分者是：arisaka_matsuri
|
|
mickey10112001
一般會員   發表：29 回覆：14 積分：8 註冊：2006-08-04 發送簡訊給我 |
|
|
arisaka_matsuri
高階會員  發表：25 回覆：205 積分：231 註冊：2003-10-19 發送簡訊給我 |
是的，float精度不足所產生的結果
換成 double 的型態即可 ===================引 用 mickey10112001 文 章=================== 請問各位大大一個精確度的問題... 3.4-3.3=1.00000143051147 但當我使用 3.2-3.3=-0.999999046325684 請問這是宣告時使用float所造成的嗎?? 我希望能達到 3.4-3.3=1 3.2-3.3=-1 請問是否有方法可以解決呢??? |
|
Stallion
版主 發表：52 回覆：1600 積分：1995 註冊：2004-09-15 發送簡訊給我 |
發表時間：2007-08-16 15:02:28
IP:140.128.xxx.xxx 訂閱
系統時間：2024-05-02 11:40:20
聯絡我們 | Delphi K.Top討論版
| 本站聲明 |
|
1. 本論壇為無營利行為之開放平台，所有文章都是由網友自行張貼，如牽涉到法律糾紛一切與本站無關。 2. 假如網友發表之內容涉及侵權，而損及您的利益，請立即通知版主刪除。 3. 請勿批評中華民國元首及政府或批評各政黨，是藍是綠本站無權干涉，但這裡不是政治性論壇！ |