用数据类型real的风险 |
|
fangwy
中階會員 發表:99 回覆:139 積分:62 註冊:2003-09-10 發送簡訊給我 |
|
JustinShen
中階會員 發表:22 回覆:104 積分:80 註冊:2003-09-20 發送簡訊給我 |
我觉得一般不使用real类型的原因是针对精确度考量,float中的single/real/double比较适用于近似值运算,相对于很多涉及短尾数计算精确度确实不好。
而且在做判断时会有经过类似x:=0.1;y:=1;z:=x*y;运算后x=z为flase的结果。
所以,很多短尾数计算采用了比较复杂的bcd。当然使用double计算的结果和bcd计算很接近,但是double计算的复杂度似乎比较高。 我之拙见,权作抛砖引玉。 Justin Shen
------
==================== 我为一切作努力! Justin Shen |
本站聲明 |
1. 本論壇為無營利行為之開放平台,所有文章都是由網友自行張貼,如牽涉到法律糾紛一切與本站無關。 2. 假如網友發表之內容涉及侵權,而損及您的利益,請立即通知版主刪除。 3. 請勿批評中華民國元首及政府或批評各政黨,是藍是綠本站無權干涉,但這裡不是政治性論壇! |