線上訂房服務-台灣趴趴狗聯合訂房中心
發文 回覆 瀏覽次數:4049
推到 Plurk!
推到 Facebook!

除法 + 四捨五入 的問題

答題得分者是:axsoft
Eigen
初階會員


發表:19
回覆:36
積分:26
註冊:2002-12-05

發送簡訊給我
#1 引用回覆 回覆 發表時間:2006-07-13 10:51:10 IP:61.218.xxx.xxx 未訂閱

這是怎麼回事?

double d1,d2;

d1 = 3 *2.5 /100;
d2 = 3 *0.025;

d1= SimpleRoundTo(d1,-2);
d2= SimpleRoundTo(d2,-2);


//結果 d1 = 0.07 d2 = 0.08,這是怎麼一回事?

我用 memory dump 看變數,發現

d1 = 3 *2.5 /100; d1 = 0.075 memory dump = 33 33 33 33 33 33 b3 3f
d2 = 3 *0.025; d2 = 0.075 memory dump = 34 33 33 33 33 33 b3 3f

四捨五入之後的值怎麼會算錯?

這~~~~~這到底是怎麼一回事?

axsoft
版主


發表:681
回覆:1056
積分:969
註冊:2002-03-13

發送簡訊給我
#2 引用回覆 回覆 發表時間:2006-07-13 11:34:56 IP:61.219.xxx.xxx 未訂閱
Language Filter
Borland® Copyright © 2005 Borland Software Corporation. All rights reserved.

[C ] double SimpleRoundTo (double AValue, signed char ADigit);
mark.hsu
一般會員


發表:3
回覆:2
積分:0
註冊:2006-07-06

發送簡訊給我
#3 引用回覆 回覆 發表時間:2006-07-13 13:20:39 IP:211.23.xxx.xxx 未訂閱

double d1,d2;


d1 = 3 *(2.5 /100);
d2 = 3 *0.025;


d1= SimpleRoundTo(d1,-2);
d2= SimpleRoundTo(d2,-2);

系統時間:2024-04-28 22:34:07
聯絡我們 | Delphi K.Top討論版
本站聲明
1. 本論壇為無營利行為之開放平台,所有文章都是由網友自行張貼,如牽涉到法律糾紛一切與本站無關。
2. 假如網友發表之內容涉及侵權,而損及您的利益,請立即通知版主刪除。
3. 請勿批評中華民國元首及政府或批評各政黨,是藍是綠本站無權干涉,但這裡不是政治性論壇!