Questions tagged «floating-point»

当我使用交叉工具链编译C代码时，链接器将显示警告页面，指出我的可执行文件使用硬浮点，而我的libc使用软浮点。有什么不同？

98 c  linux  floating-point  arm  libc 

我有一个原始浮点数，需要作为原始双数。简单地将浮法转换为两倍会给我带来额外的精度。例如： float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35 System.out.println(Double.toString((double)temp)); // Prints 14009.349609375 但是，如果我不是强制类型转换，而是将浮点数输出为字符串，然后将字符串解析为双精度，那么我得到的是： System.out.println(Double.toString(Double.parseDouble(Float.toString(temp)))); // Prints 14009.35 有没有比String返回更好的方法了？

97 java  floating-point  double 

我已经读过有关浮点的知识，并且我知道NaN可能是由操作导致的。但是我不明白这些到底是什么概念。它们之间有什么区别？ 在C ++编程期间可以产生哪一个？作为程序员，我可以编写导致sNaN的程序吗？

96 floating-point  nan  ieee-754 

可以说，我的Java程序的瓶颈实际上是一些紧密的循环，无法计算一堆矢量点积。是的，我已经进行了概要分析，是的，它是瓶颈，是的，它很重要，是的，这就是算法的方式，是的，我已经运行了Proguard来优化字节码，等等。 实质上，这是点产品。float[50]与之类似，我有两个，我需要计算成对乘积之和。我知道处理器指令集可以像SSE或MMX一样快速且批量地执行此类操作。 是的，我可能可以通过在JNI中编写一些本机代码来访问它们。JNI调用结果非常昂贵。 我知道您不能保证JIT将编译或不编译。有没有人曾经听说过使用这些指令的JIT生成的代码？如果是这样，那么有关Java代码的任何内容都可以使它以这种方式编译吗？ 可能是“否”；值得一问。

95 java  floating-point  jit  sse  vectorization 

这是我多年来一直在想的事情，但是我从来没有花时间问过。 许多（伪）随机数生成器生成0.0到1.0之间的随机数。从数学上讲，此范围内有无限个数，但它double是一个浮点数，因此精度有限。 所以问题是： double0.0和1.0之间有多少个数字？ 1和2之间的数字是否一样多？在100和101之间？在10 ^ 100和10 ^ 100 + 1之间？ 注意：如果有所作为，我对Java的定义double特别感兴趣。

93 random  floating-point  double  precision 

我有一个花车清单。如果我只是简单地print将其显示为： [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] 我可以使用print "%.2f"，这将需要for循环遍历列表，但是对于更复杂的数据结构，它将不起作用。我想要类似的东西（我完全弥补了这一点） >>> import print_options >>> print_options.set_float_precision(2) >>> print [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] [9.0, 0.05, 0.03, 0.01, 0.06, 0.08]

93 python  printing  formatting  floating-point 

我正在开发一些工程仿真。这涉及实现一些长方程式，例如该方程式，以计算类似橡胶的材料中的应力： T = ( mu * ( pow(l1 * pow(l1 * l2 * l3, -0.1e1 / 0.3e1), a) * a * ( pow(l1 * l2 * l3, -0.1e1 / 0.3e1) - l1 * l2 * l3 * pow(l1 * l2 * l3, -0.4e1 / 0.3e1) / 0.3e1 ) * pow(l1 …

92 c++  performance  optimization  floating-point  g++ 

我试图将十进制数字截断到小数位。像这样： 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)所做的只是正确的事情，但是却舍入了价值。我不需要四舍五入的价值。希望这是可能的JavaScript。

92 javascript  floating-point  floating-accuracy 

是否存在将数字分割1234.5678成两个部分（(1234, 0.5678)即整数部分和小数部分）的有效方法？

91 split  floating-point  python 

我试图检查哪里float失去了精确表示大整数的能力。所以我写了这个小片段： int main() { for (int i=0; ; i++) { if ((float)i!=i) { return i; } } } 该代码似乎适用于所有编译器，但不包括clang。Clang生成一个简单的无限循环。上帝保佑。 可以吗？如果是，那是QoI问题吗？

90 c++  floating-point  clang 

在stdint.h（C99），boost / cstdint.hpp和cstdint（C ++ 0x）标头中，还有type int32_t。 是否有类似的固定大小浮点类型？像float32_t什么？

90 c++  c  boost  floating-point 

在C ++中使用一种代替另一种的优缺点是什么？

89 c++  types  floating-point  double-precision 

有没有办法以编程方式获取最接近1.0的double，但实际上不是1.0？ 一种可行的方法是将双精度数存为相同大小的整数，然后减去一个。IEEE754浮点格式的工作方式是，将小数部分从全零（1.000000000000）更改为全1（1.111111111111），最终将指数减小了一个。但是，有些机器将整数存储在低位在前，而浮点存储在大在前，因此这并不总是可行。

88 c++  floating-point  floating-accuracy 

我正在编写一个程序，出于不需要解释的原因，该程序要求将float转换为要用len（）计算的字符串。但是，str（float（x））导致x在转换为字符串时被四舍五入，从而使整个过程丢掉。有人知道它的修复程序吗？如果您想知道以下代码，请使用以下代码： len(str(float(x)/3))

88 python  string  floating-point  rounding 

我正在显示一个带小数点的距离，如果它等于0（例如：1200.0Km），我想删除此小数点，如何迅速做到这一点？我正在显示此数字，如下所示： let distanceFloat: Float = (currentUser.distance! as NSString).floatValue distanceLabel.text = String(format: "%.1f", distanceFloat) + "Km"

88 ios  swift  floating-point