此算式何解

绿林网页

哦，谢谢大家，那有没有修正的办法？

珜羽

绿林网页 发表于 2012-8-11 16:03
哦，谢谢大家，那有没有修正的办法？

抱歉  说错了   

是因为0.56转换的二进制是无限的。float的存储位数有限。。。

你试试看0.0000152587890625这个数。。。

这个数虽然长，但是能用有限长的二进制表示.同时在float的表示位数之内。



贴上0.56的前32位二进制：0.1000 1111 0101 1100 0010 1000 1111 0000...