小數點精確度的問題 |
答題得分者是:arisaka_matsuri
|
mickey10112001
一般會員 發表:29 回覆:14 積分:8 註冊:2006-08-04 發送簡訊給我 |
|
arisaka_matsuri
高階會員 發表:25 回覆:205 積分:231 註冊:2003-10-19 發送簡訊給我 |
是的,float精度不足所產生的結果
換成 double 的型態即可 ===================引 用 mickey10112001 文 章=================== 請問各位大大一個精確度的問題... 3.4-3.3=1.00000143051147 但當我使用 3.2-3.3=-0.999999046325684 請問這是宣告時使用float所造成的嗎?? 我希望能達到 3.4-3.3=1 3.2-3.3=-1 請問是否有方法可以解決呢??? |
Stallion
版主 發表:52 回覆:1600 積分:1995 註冊:2004-09-15 發送簡訊給我 |
本站聲明 |
1. 本論壇為無營利行為之開放平台,所有文章都是由網友自行張貼,如牽涉到法律糾紛一切與本站無關。 2. 假如網友發表之內容涉及侵權,而損及您的利益,請立即通知版主刪除。 3. 請勿批評中華民國元首及政府或批評各政黨,是藍是綠本站無權干涉,但這裡不是政治性論壇! |