Questions tagged «floating-point»

如何在指定精度和十进制数字的同时将浮点数转换为C ++中的字符串？ 例如： 3.14159265359 -> "3.14"

88 c++  string  floating-point 

我正在尝试在Go中执行简单的划分。 fmt.Println(3/10) 这将打印0而不是0.3。这有点奇怪。有人可以分享这背后的原因吗？我想在Go中执行不同的算术运算。 谢谢

88 math  go  floating-point  integer-division 

我有一个包含十进制值的字符串，我需要将该字符串转换为浮点变量。因此，我拥有的字符串的示例为“ 5.45”，我想要一个等效的浮点数，因此可以向其添加.1。我已经在互联网上进行搜索，但是只看到如何将字符串转换为整数。

86 string  perl  floating-point 

例： float timeRemaining = 0.58f; 为什么f在此数字末尾需要？

86 c#  floating-point 

编译以下代码： double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } 输出（MSVC x86）： INT_MAX: 2147483647 UINT_MAX: …

86 c  visual-c++  casting  x86  floating-point 

这是场景：我正在 .9999999999999999应该得到的时间1.0。 我有能力舍弃精度的小数位，因此我正在使用.toFixed(15)，这种工作方式。 取整有效，但问题是我得到了 1.000000000000000。 有没有一种方法可以舍入到小数位数，但是要去除多余的空格？ 注意：.toPrecision这不是我想要的；我只想指定小数点后有多少个数字。 注意2：我不能只使用它，.toPrecision(1)因为我需要为小数点后实际有数据的数字保持高精度。理想情况下，小数位数应尽可能多（最多15个）。

85 javascript  math  floating-point  rounding 

我试图生成一个介于0和1之间的随机数arc4random()。我该怎么做呢？

84 ios  c  random  floating-point  arc4random 

假设我有8.8333333333333339，我想将其转换为8.84。如何在Python中完成此操作？ round(8.8333333333333339, 2)给与8.83不8.84。我是Python或一般编程的新手。 我不想将其打印为字符串，结果将被进一步使用。有关此问题的更多信息，请查看Tim Wilson的Python编程技巧：贷款和付款计算器。

83 python  floating-point 

我正在阅读Robert Love的“ Linux内核开发”，并且遇到了以下段落： 无需（轻松）使用浮点数 当用户空间进程使用浮点指令时，内核将管理从整数到浮点模式的转换。内核在使用浮点指令时必须执行的操作因体系结构而异，但是内核通常会捕获陷阱，然后启动从整数模式到浮点模式的转换。 与用户空间不同，内核没有对浮点的无缝支持的奢侈之处，因为它无法轻易地陷入陷阱。在内核内部使用浮点数需要手动保存和恢复浮点数寄存器，以及其他可能的琐事。简短的答案是：不要这样做！除了极少数情况，内核中没有浮点运算。 我从未听说过这些“整数”和“浮点”模式。它们到底是什么？为什么需要它们？这种区别是否存在于主流硬件体系结构（例如x86）上，还是特定于某些更特殊的环境？从进程和内核的角度来看，从整数模式到浮点模式的转换到底需要什么？

83 linux  floating-point  linux-kernel 

我有两个整数x和y。我需要计算x/y，作为结果，我想浮动。例如，作为结果，3/2我希望得到1.5。我认为，最简单的（或唯一的）的方式来做到这一点是转换x和y成float类型。不幸的是，我找不到简单的方法。你能帮我吗？

81 java  integer  floating-point 

浮点数是否具有32个二进制数字，双精度数是否具有64个二进制数字？该文档太难理解了。 所有位都转换为有效数字吗？还是小数点的位置占用了一些位？

81 java  floating-point 

.NET Framework中如何在没有科学符号的情况下将双精度转换为浮点字符串表示形式？ “小”样本（有效数字可以是任何大小，例如1.5E200或1e-200）： 3248971234698200000000000000000000000000000000 0.00000000000000000000000000000000000023897356978234562 没有一种标准的数字格式是这样的，并且自定义格式似乎也不允许在小数点分隔符之后使用开放的数字位数。 这不是重复如何双转换为字符串没有权力代表10（E-05） ，因为那里给出的答案也不会在手解决问题。这个问题可接受的解决方案是使用固定点（例如20位数字），这不是我想要的。定点格式和修剪冗余0并不能解决问题，因为固定宽度的最大宽度为99个字符。 注意：解决方案必须正确处理自定义数字格式（例如，其他小数点分隔符，具体取决于区域性信息）。 编辑：问题实际上只是关于替换上述数字。我知道浮点数如何工作以及可以使用和计算哪些数字。

81 c#  .net  floating-point  number-formatting 

我目前正在编写一些代码，其中包含以下内容： double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoSomething2(); else if (a > b) DoSomething3(); 然后在其他地方，我可能需要做平等： double a = SomeCalculation3(); double b = SomeCalculation4(); if (a == 0.0) DoSomethingUseful(1 / a); if (b == 0.0) return 0; // or something else here 简而言之，我正在进行很多浮点数学运算，因此我需要对条件进行各种比较。我无法将其转换为整数数学，因为在这种情况下，这种事情毫无意义。 我已经读过浮点比较可能不可靠，因为您可以进行如下操作： double …

80 language-agnostic  comparison  floating-point 

isnormal（）参考页告诉您： 确定给定的浮点数arg是否正常，即既不是零，次正规，无穷也不是NaN。 一个数字为零，无穷大或NaN很清楚这意味着什么。但这也说不合正常。什么时候是次正规的？

80 c++  c++11  floating-point  ieee-754 

我有一个变量（float slope），在打印出来时有时会具有nan的值，因为有时会发生被0除的情况。 我正在尝试在发生这种情况时进行if-else操作。我怎样才能做到这一点？if (slope == nan)似乎不起作用。

78 objective-c  floating-point