C#学习教程:从int转换为float的问题分享


从int转换为float的问题

有一种我无法理解的奇怪行为。 同意浮点数是近似值,因此即使显然返回没有十进制数的数的运算也可以近似为带小数的数。

我这样做:

int num = (int)(195.95F * 100); 

因为它是一个浮点运算,我得到19594而不是19595 ..但这是正确的。

令我困惑的是,如果我这样做

 float flo = 195.95F * 100; int num = (int) flo; 

我得到19595的正确结果。

知道为什么会这样吗?

我查看这是否是编译器正在进行数学运算,但即使你强行执行它也会采用这种方式:

 static void Main() { int i = (int)(GetF() * GetI()); // 19594 float f = GetF() * GetI(); int j = (int)f; // 19595 } [MethodImpl(MethodImplOptions.NoInlining)] static int GetI() { return 100; } [MethodImpl(MethodImplOptions.NoInlining)] static float GetF() { return 195.95F; } 

它看起来不同的是它是否保留在寄存器中(比正常的r4宽)或被强制为float变量:

 L_0001: call float32 Program::GetF() L_0006: call int32 Program::GetI() L_000b: conv.r4 L_000c: mul L_000d: conv.i4 L_000e: stloc.0 

VS

 L_000f: call float32 Program::GetF() L_0014: call int32 Program::GetI() L_0019: conv.r4 L_001a: mul L_001b: stloc.1 L_001c: ldloc.1 L_001d: conv.i4 L_001e: stloc.2 

唯一的区别是stloc.1 / ldloc.1

这得到以下事实的支持:如果你进行优化构建(将删除局部变量),我得到两者的相同答案(19594)。

这段代码……

 namespace ConsoleApplication1 { class Program { static void Main(string[] args) { float result = 195.95F*100; int intresult = (int)(195.95F * 100); } } } 

给这个IL

 .method private hidebysig static void Main(string[] args) cil managed { .entrypoint // Code size 14 (0xe) .maxstack 1 .locals init ([0] float32 result, [1] int32 intresult) IL_0000: nop IL_0001: ldc.r4 19595. IL_0006: stloc.0 IL_0007: ldc.i4 0x4c8a IL_000c: stloc.1 IL_000d: ret } // end of method Program::Main 

看看IL_00001 – > compier已经完成了计算..否则有十进制 – >二进制转换问题

Mark的答案是正确的,因为它是nativefloat和float32 / float64之间的转换。

这在CLR ECMA规范中有所涉及,但David Notario对此的解释远远超出了我的能力。

在第二个示例中尝试将float转换为double:

 double flo = 195.95F * 100; int num = (int) flo; 

我猜你的第一个例子是编译器使用double来保存中间结果,所以在float情况下你会失去精度。

当您乘以100时,这是一个整数,因此它在该步骤进行隐式转换。 如果你把“F”放在100后面,我敢打赌他们会是一样的。

当它是引用类型时,我通常使用括号的装箱/拆箱。 当它是值类型时,我尝试使用Convert static方法。

试试Convert.ToSingle(YourNumber); 为了更可靠的转换。

HTH

我无法回答为什么第二个有效,第一个没有。 但是,我可以告诉你,195.95是二进制中的非终止小数,因此这样的舍入错误必然会发生。

尝试转换为double而不是float。 您也可以使用金钱或小数类型而不是浮点数。 这将以不同且更准确的方式存储数字。

有关浮点数和IEEE表示的更多信息,请访问:

http://en.wikipedia.org/wiki/IEEE_754

上述就是C#学习教程:从int转换为float的问题分享的全部内容,如果对大家有所用处且需要了解更多关于C#学习教程,希望大家多多关注—猴子技术宅(www.ssfiction.com)

本文来自网络收集,不代表猴子技术宅立场,如涉及侵权请点击右边联系管理员删除。

如若转载,请注明出处:https://www.ssfiction.com/ckf/1269834.html

(0)
上一篇 1天前
下一篇 1天前

精彩推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注