3 回答
TA贡献1829条经验 获得超6个赞
首先,我假设您知道6.2f * 10
由于浮点舍入(实际上当表示为a时的值为61.99999809265137 double
)并不完全是62 ,并且您的问题仅仅是为什么两个看似相同的计算导致错误的值。
答案是,在这种情况下(int)(6.2f * 10)
,你double
取值61.99999809265137并将其截断为一个整数,产生61。
在这种情况下float f = 6.2f * 10
,您将获取双精度值61.99999809265137并舍入到最近的值float
,即62.然后将其截断float
为整数,结果为62。
练习:解释以下操作顺序的结果。
double d = 6.2f * 10;int tmp2 = (int)d;// evaluate tmp2
更新:由于在评论所指出的,表达6.2f * 10
是一个正式的float
,因为第二参数具有一个隐式转换到float
其更好比隐式转换double
。
实际问题是允许(但不要求)编译器使用比正式类型更高精度的中间体(第11.2.2节)。这就是为什么你在不同的系统上看到不同的行为:在表达式中(int)(6.2f * 10)
,编译器可以选择6.2f * 10
在转换之前将值保持在高精度中间形式int
。如果是,则结果为61.如果不是,则结果为62。
在第二个示例中,显式赋值float
强制在转换为整数之前进行舍入。
TA贡献1789条经验 获得超8个赞
描述
浮动数字很少。6.2f
是这样的6.1999998...
。如果将其强制转换为int,则会截断它,而* * 10会导致61。
看看Jon Skeets DoubleConverter
课程。使用此类,您可以将浮点数的值可视化为字符串。Double
并且float
都是浮点数,十进制不是(它是一个定点数)。
样品
DoubleConverter.ToExactString((6.2f * 10))// output 61.9999980926513671875
更多信息
TA贡献1804条经验 获得超3个赞
看看IL:
IL_0000: ldc.i4.s 3D // speed1 = 61
IL_0002: stloc.0
IL_0003: ldc.r4 00 00 78 42 // tmp = 62.0f
IL_0008: stloc.1
IL_0009: ldloc.1
IL_000A: conv.i4
IL_000B: stloc.2
编译器将编译时常量表达式减少到它们的常量值,并且我认为它在将常量转换为时会在某个时刻产生错误的近似值int。在这种情况下speed2,这种转换不是由编译器进行的,而是由CLR进行的,它们似乎应用了不同的规则......
- 3 回答
- 0 关注
- 1439 浏览
添加回答
举报