为了账号安全,请及时绑定邮箱和手机立即绑定

C#Float表达式:将结果float转换为int时的奇怪行为

C#Float表达式:将结果float转换为int时的奇怪行为

C#
暮色呼如 2019-08-17 15:02:14
C#Float表达式:将结果float转换为int时的奇怪行为我有以下简单的代码:int speed1 = (int)(6.2f * 10);float tmp = 6.2f * 10;int speed2 = (int)tmp;speed1并且speed2应该具有相同的值,但事实上,我有:speed1 = 61speed2 = 62我知道我应该使用Math.Round而不是cast,但我想了解为什么值不同。我查看了生成的字节码,但除了存储和加载外,操作码是相同的。我也在java中尝试了相同的代码,我正确地获得了62和62。有人可以解释一下吗?编辑: 在实际代码中,它不是直接6.2f * 10而是函数调用*常量。我有以下字节码:用于speed1:IL_01b3:  ldloc.s    V_8 IL_01b5:  callvirt   instance float32 myPackage.MyClass::getSpeed()IL_01ba:  ldc.r4     10.IL_01bf:  mul IL_01c0:  conv.i4 IL_01c1:  stloc.s    V_9用于speed2:IL_01c3:  ldloc.s    V_8 IL_01c5:  callvirt   instance float32 myPackage.MyClass::getSpeed()IL_01ca:  ldc.r4     10.IL_01cf:  mul IL_01d0:  stloc.s    V_10 IL_01d2:  ldloc.s    V_10 IL_01d4:  conv.i4 IL_01d5:  stloc.s    V_11我们可以看到操作数是浮点数,唯一的区别是stloc/ldloc。至于虚拟机,我尝试使用Mono / Win7,Mono / MacOS和.NET / Windows,结果相同。
查看完整描述

3 回答

?
肥皂起泡泡

TA贡献1829条经验 获得超6个赞

首先,我假设您知道6.2f * 10由于浮点舍入(实际上当表示为a时的值为61.99999809265137 double)并不完全是62 ,并且您的问题仅仅是为什么两个看似相同的计算导致错误的值。

答案是,在这种情况下(int)(6.2f * 10),你double取值61.99999809265137并将其截断为一个整数,产生61。

在这种情况下float f = 6.2f * 10,您将获取双精度值61.99999809265137并舍入到最近的值float,即62.然后将其截断float为整数,结果为62。

练习:解释以下操作顺序的结果。

double d = 6.2f * 10;int tmp2 = (int)d;// evaluate tmp2

更新:由于在评论所指出的,表达6.2f * 10是一个正式的float,因为第二参数具有一个隐式转换到float更好比隐式转换double

实际问题是允许(但不要求)编译器使用比正式类型更高精度的中间体(第11.2.2节)。这就是为什么你在不同的系统上看到不同的行为:在表达式中(int)(6.2f * 10),编译器可以选择6.2f * 10在转换之前将值保持在高精度中间形式int。如果是,则结果为61.如果不是,则结果为62。

在第二个示例中,显式赋值float强制在转换为整数之前进行舍入。


查看完整回答
反对 回复 2019-08-17
?
拉丁的传说

TA贡献1789条经验 获得超8个赞

描述

浮动数字很少。6.2f是这样的6.1999998...。如果将其强制转换为int,则会截断它,而* * 10会导致61。

看看Jon Skeets DoubleConverter课程。使用此类,您可以将浮点数的值可视化为字符串。Double并且float都是浮点数,十进制不是(它是一个定点数)。

样品

DoubleConverter.ToExactString((6.2f * 10))// output 61.9999980926513671875

更多信息


查看完整回答
反对 回复 2019-08-17
?
狐的传说

TA贡献1804条经验 获得超3个赞

看看IL:


IL_0000:  ldc.i4.s    3D              // speed1 = 61

IL_0002:  stloc.0

IL_0003:  ldc.r4      00 00 78 42     // tmp = 62.0f

IL_0008:  stloc.1

IL_0009:  ldloc.1

IL_000A:  conv.i4

IL_000B:  stloc.2

编译器将编译时常量表达式减少到它们的常量值,并且我认为它在将常量转换为时会在某个时刻产生错误的近似值int。在这种情况下speed2,这种转换不是由编译器进行的,而是由CLR进行的,它们似乎应用了不同的规则......


查看完整回答
反对 回复 2019-08-17
  • 3 回答
  • 0 关注
  • 1439 浏览

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信