Questions tagged «floating-point»

比较两个double或两个float值的最有效方法是什么？ 简单地这样做是不正确的： bool CompareDoubles1 (double A, double B) { return A == B; } 但是类似： bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) && (-diff < EPSILON); } 似乎是废物处理。 有人知道更聪明的浮点比较器吗？

524 c++  algorithm  optimization  floating-point 

64位双精度数可以精确表示整数+/- 2 53 鉴于这一事实，我选择对所有类型都使用双精度类型作为单个类型，因为我最大的整数是无符号的32位。 但是现在我必须打印这些伪整数，但是问题是它们也与实际的双精度数混合在一起。 那么，如何在Java中很好地打印这些双打呢？ 我已经尝试过了String.format("%f", value)，这很接近，除了小数值时会出现很多尾随零。 这是的示例输出 %f 232.00000000 0.18000000000 1237875192.0 4.5800000000 0.00000000 1.23450000 我想要的是： 232 0.18 1237875192 4.58 0 1.2345 当然，我可以编写一个函数来修剪这些零，但是由于String操作，这会导致很多性能损失。我可以使用其他格式代码做得更好吗？ 编辑 Tom E.和Jeremy S.的答案都是不可接受的，因为它们都任意舍入到小数点后两位。请在回答之前了解问题。 编辑2 请注意，String.format(format, args...)是区域设置相关的（见下面的答案）。

495 java  string  floating-point  format  double 

这个问题使我丧命。如何在Python中向上舍入一个数字？ 我尝试了舍入（数字），但它四舍五入数字。例： round(2.3) = 2.0 and not 3, what I would like 我尝试了int（number + .5），但是它再次将数字取整！例： int(2.3 + .5) = 2 然后我尝试了round（number + .5），但在边缘情况下不起作用。例： WAIT! THIS WORKED! 请指教。

486 python  floating-point  integer  rounding  python-2.x 

double在printf中正确的格式说明符是什么？是%f还是它%lf？我相信是%f，但我不确定。 代码样例 #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

480 c  floating-point  printf  double  format-specifiers 

在JavaScript中，当从浮点数转换为字符串时，如何在小数点后仅获得2位数字？例如，用0.34代替0.3445434。

427 javascript  floating-point 

我已经读过双精度和单精度之间的区别。但是，在大多数情况下，float并且double似乎是可以互换的，即，使用其中一种似乎并不影响结果。真的是这样吗？花车和双打何时可以互换？它们之间有什么区别？

420 c++  c  floating-point  precision 

randrange(start, stop)只接受整数参数。那么，如何在两个浮点值之间获得一个随机数呢？

414 python  random  floating-point 

我有以下代码。我想要这样，如果price_result等于一个整数，比如说10，那么我想加上两个小数位。所以10将是10.00。如果等于10.6，则等于10.60。不确定如何执行此操作。 price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

410 javascript  floating-point 

我知道UIKit使用CGFloat是因为分辨率独立的坐标系。 但每次我要检查是否例如frame.origin.x被0这让我感到恶心： if (theView.frame.origin.x == 0) { // do important operation } 是不是CGFloat容易误报比较时==，<=，>=，<，>？这是一个浮点，它们存在不精确的问题：0.0000000000041例如。 Objective-C比较时是否在内部处理此问题，还是会发生origin.x读为零的a与未读0为true的情况？

391 objective-c  ios  c  floating-point  floating-accuracy 

我使用以下行将float转换为int，但是它不如我所希望的那么准确： float a=8.61f; int b; b=(int)a; 结果是：（8应该是9） 当时a = -7.65f，结果为：（-7应该为-8） 最好的方法是什么？

342 java  floating-point  int 

因此，我已经得到了我最后一个问题的答案（我不知道为什么我没有想到这一点）。我打印double使用cout高腾时，我没想到它圆。如何使用全精度cout打印double？

331 c++  floating-point  precision  iostream  cout 

众所周知，由于舍入和精度问题，比较浮点数是否相等。 例如：https： //randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ 在Python中处理此问题的推荐方法是什么？ 当然在某个地方有一个标准的库函数吗？

331 python  floating-point 

我想显示一个数字到小数点后两位。 我以为可以toPrecision(2)在JavaScript中使用。 但是，如果数字是0.05，我得到0.0500。我希望它保持不变。 在JSbin上看到它。 做这个的最好方式是什么？ 我可以考虑编写一些解决方案，但是我想（我希望）内置类似的东西吗？

315 javascript  floating-point  precision 

我不断在各种图形头文件中看到此常数 0.0039215689 似乎与颜色有关？ 这是Google的首个热门产品： void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = _SHIFTR(w1, 8, 8) * 0.0039215689f; Gfx.FogColor.A = _SHIFTR(w1, 0, 8) * 0.0039215689f; } void RDP_G_SETBLENDCOLOR(void) { Gfx.BlendColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.BlendColor.G = _SHIFTR(w1, 16, …

309 c  floating-point  constants  magic-numbers 

我必须计算一些浮点变量，而我的同事建议我使用BigDecimal而不是，double因为这样会更精确。但是我想知道它是什么以及如何最大程度地利用它BigDecimal？

303 java  floating-point  double  bigdecimal