Questions tagged «floating-point»

Наэтотвопросестьответына 堆栈溢出нарусском：Вычисленияначислахсплавающейточкойнеработают 考虑以下代码： 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么会出现这些错误？

2978 math  language-agnostic  floating-point  floating-accuracy 

在Python中，如何解析类似于"545.2222"其对应的float值的数字字符串545.2222？还是将字符串解析为"31"整数31？ 我只是想知道如何分析一个浮动 str的float，和（单独）的INT str到int。

2249 python  parsing  floating-point  type-conversion  integer 

我正在对科学应用程序进行一些数值优化。我注意到的一件事是，GCC将pow(a,2)通过将其编译为来优化该调用a*a，但是该调用pow(a,6)并未进行优化，实际上将调用该库函数pow，这大大降低了性能。（相反，可执行文件Intel C ++编译器icc将消除对的库调用pow(a,6)。） 我很好奇的是，当我替换pow(a,6)为a*a*a*a*a*a使用GCC 4.5.1和选项“ -O3 -lm -funroll-loops -msse4”时，它使用5 mulsd条指令： movapd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 而如果我写(a*a*a)*(a*a*a)，它将产生 movapd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm13, %xmm13 这将乘法指令的数量减少到3. icc具有相似的行为。 为什么编译器无法识别此优化技巧？

2120 gcc  assembly  floating-point  compiler-optimization  fast-math 

是什么区别decimal，float并double在.NET？ 有人什么时候会使用其中之一？

2085 .net  floating-point  double  decimal 

我想a四舍五入到13.95。 >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 该round功能无法按我预期的方式工作。

1689 python  floating-point  rounding  precision 

检查字符串是否可以在Python中表示为数字的最佳方法是什么？ 我目前拥有的功能是： def is_number(s): try: float(s) return True except ValueError: return False 这不仅丑陋而且缓慢，看起来笨拙。但是我还没有找到更好的方法，因为调用floatmain函数甚至更糟。

1605 python  casting  floating-point  type-conversion 

为什么这段代码 const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i = 0; i …

1527 c++  performance  visual-studio-2010  compilation  floating-point 

一直有人告诉我，永远不要用double或float类型代表金钱，这一次我向您提出一个问题：为什么？ 我敢肯定有一个很好的理由，我根本不知道这是什么。

938 floating-point  currency 

根据html5.org的说法，“数字”输入类型的“值属性，如果指定且不为空，则必须具有一个有效浮点数的值”。 但这只是简单的（无论如何，在最新版的Chrome中），是带有整数而不是浮点数的“上下”控件： <input type="number" id="totalAmt"></input> 运行代码段隐藏结果展开摘要 是否有HTML5固有的浮点输入元素，或使数字输入类型适用于浮点而不是整数的方法？还是我必须诉诸jQuery UI插件？

816 html  input  floating-point 

我想将数字格式化为始终显示2个小数位，并在适用的情况下四舍五入。 例子： number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 我一直在使用这个： parseFloat(num).toFixed(2); 但它显示1为1，而不是1.00。

781 javascript  floating-point  number-formatting 

有没有办法在0和1之间以0.1步进？ 我以为我可以像下面那样做，但是失败了： for i in range(0, 1, 0.1): print i 相反，它说step参数不能为零，这是我没有想到的。

742 python  floating-point  range 

我有两个整数值a和b，但是我需要它们在浮点数中的比率。我知道a < b并且想要计算a / b，所以如果我使用整数除法，我将总是得到0，余数为a。 c在下文中，如何在Python中强制成为浮点数？ c = a / b

721 python  floating-point  integer  division  python-2.x 

我想使用Track-Bar来更改Form的不透明度。 这是我的代码： decimal trans = trackBar1.Value / 5000; this.Opacity = trans; 当我构建应用程序时，它给出以下错误： 无法将类型隐式转换decimal为double 我已经尝试过使用trans，double但随后Control却无法正常工作。该代码在过去的VB.NET项目中运行良好。

672 c#  floating-point  type-conversion  double  decimal 

我有以下虚拟测试脚本： function test() { var x = 0.1 * 0.2; document.write(x); } test(); 运行代码段Hide results展开摘要 这将打印结果，0.020000000000000004而仅打印0.02（如果使用计算器）。据我了解，这是由于浮点乘法精度的错误。 有没有人有一个好的解决方案，这样在这种情况下我可以获得正确的结果0.02？我知道有类似的函数，toFixed或者四舍五入是另一种可能性，但是我真的想在不进行任何四舍五入的情况下打印出完整的数字。只是想知道你们中的一个人是否有一些不错的，优雅的解决方案。 当然，否则我将四舍五入到十位数左右。

617 javascript  floating-point 

在下面的程序中，您可以看到.5除以外的每个值都略小于四舍五入0.5。 for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while (Math.round(x) > i); } 版画 10.5 rounded is 11 10.499999999999998 rounded is 10 9.5 rounded …

567 java  floating-point  double  rounding