Questions tagged «floating-point»

我有类似3.2和的浮点数1.6。 我需要将数字分成整数和小数部分。例如，的值3.2将被分为两个数字，即3和0.2 获取整数部分很容易： n = Math.floor(n); 但是我在获取小数部分时遇到了麻烦。我已经试过了： remainer = n % 2; //obtem a parte decimal do rating 但是它并不总是能正常工作。 先前的代码具有以下输出： n = 3.1 => remainer = 1.1 我在这里想念的是什么？

247 javascript  floating-point  numbers  decimal  rounding 

我试图线使用我的TextViews之间添加一点空间android:lineSpacingMultiplier 从文档： 文本行之间的额外间距，作为乘数。 必须为浮点值，例如“ 1.2”。 当我在几个不同的TextViews中使用此标记时，我想向资源中添加一个全局维度/值，但是我不知道要使用哪个标记（即使它存在）。我尝试了所有对我有意义的资源类型，但是它们都不起作用。 我想要的是这样的： <resources> <dimen name="text_line_spacing">1.4</dimen> </resources> 编辑：我知道android:lineSpacingExtra（它需要一个带有附加单位的尺寸），但是android:lineSpacingMultiplier如果可能的话，我想使用。

243 android  resources  floating-point 

我正在尝试在Bash脚本中划分两个图像宽度，但是bash给了我0结果： RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) 我确实研究过Bash指南，我知道我应该使用bc它们在互联网上使用的所有示例bc。在echo我试图把同样的事情在我的SCALE，但没有奏效。 这是我在教程中找到的示例： echo "scale=2; ${userinput}" | bc 我怎样才能让Bash给我一个漂浮的东西0.5？

242 bash  floating-point  arithmetic-expressions 

我有一个Decimal('3.9')对象的一部分，希望将其编码为JSON字符串，看起来像{'x': 3.9}。我不在乎客户端的精度，因此浮点数很好。 是否有序列化此序列的好方法？JSONDecoder不接受Decimal对象，并且事先转换为float会产生{'x': 3.8999999999999999}错误，这将浪费大量带宽。

242 python  json  floating-point  decimal 

Python中无穷大的哈​​希值具有与pi匹配的数字： >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 这仅仅是巧合还是故意的？

241 python  math  hash  floating-point  pi 

我需要一个简单的浮点舍入函数，因此： double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 我能找到ceil()和floor()在math.h中-但不是round()。 它是否以其他名称存在于标准C ++库中，还是丢失了？

232 c++  floating-point  rounding 

我一直在处理从CSV导入的数据。熊猫将某些列更改为浮点，因此这些列中的数字现在显示为浮点！但是，我需要将它们显示为整数，或者不显示逗号。有没有办法将它们转换为整数或不显示逗号？

230 python  pandas  floating-point  integer  dataset 

可以存储在IEEE 754双重类型中而又不损失精度的最大“无浮点”整数是什么？

225 types  floating-point  double  ieee-754 

我需要将浮点数格式化为“ n”个小数位。 试图使用BigDecimal，但返回值不正确... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is correct (625.30) return value.floatValue(); // but here the values is 625.3 } 我需要返回一个浮点数，该浮点数具有指定的小数位数。 我不需要Float价值回报Double 。

220 java  android  floating-point  numbers  format 

float数据类型是单精度32位IEEE 754浮点，而double数据类型是双精度64位IEEE 754浮点。 这是什么意思？我什么时候应该使用float而不是double？

220 java  floating-point  double  ieee-754 

如何在C中将浮点值（例如37.777779）四舍五入到小数点后两位（37.78）？

215 c  floating-point  decimal 

我目前正在为客户网站构建销售模块。到目前为止，我已经获得了可以完美计算的销售价格，但是我遇到的问题是将输出格式化为2个小数位。 我目前在变量中调用它，以便可以将结果数据绑定到列表视图。 Sale = float.Parse(((x.Sale_Price - (x.Sale_Price * (x.Discount_Price / 100))).ToString())), 谁能告诉我如何将输出格式设置为小数点后两位？非常感谢！

210 c#  variables  floating-point  decimal 

我试图找到最大的立方根，即整数，小于12,000。 processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not 我不确定如何检查它是否是整数！我可以将其转换为字符串，然后使用索引来检查最终值，看看它们是否为零，但这似乎很麻烦。有没有更简单的方法？

202 python  floating-point 

为什么有些数字存储为浮点数时会失去准确性？ 例如，十进制数9.2可以精确地表示为两个十进制整数（92/10）之比，两个整数都可以精确地表示为二进制（0b1011100/0b1010）。但是，存储为浮点数的相同比率永远不会完全等于9.2： 32-bit "single precision" float: 9.19999980926513671875 64-bit "double precision" float: 9.199999999999999289457264239899814128875732421875 这样一个看似简单的数字怎么会“太大”而无法在64位内存中表达呢？

198 floating-point  language-agnostic  precision 

我的一位同事偶然发现了一种使用按位或（ var a = 13.6 | 0; //a == 13 我们正在谈论它，并且想知道一些事情。 它是如何工作的？我们的理论是使用这样的运算符将数字转换为整数，从而除去小数部分 这样做有什么好处Math.floor吗？也许更快一点？（双关语无意） 有什么缺点吗？也许在某些情况下不起作用？清晰度很明显，因为我们必须弄清楚这一点，我在写这个问题。 谢谢。

192 javascript  floating-point  bit-manipulation