Questions tagged «floating-point»

我创建游戏的目的很有趣，但我仍然想认真对待它，它是一个托管各种测试的网站。通过这些测试，我希望收集统计数据。 某些数据将包括测试定时完成的百分比。我可以轻松计算出测试的百分比，但是当我存储有关测试完成的各种不同值时，我希望返回真实数据。 大多数值都是PHP浮点数，所以我的问题是，如果我想要真实的统计数据，应该将它们以FLOAT，DOUBLE或DECIMAL的形式存储在MYSQL中。 我想利用MYSQL的功能，例如AVG()和LOG10()以及TRUNCATE()。为了使MYSQL根据所插入的值返回真实数据，应将什么用作数据库列选择。 我问是因为某些数字可能是也可能不是浮点数，例如10、10.89、99.09或仅仅是0。但是我希望返回真实有效的统计数据。 我可以依靠浮点运算吗？ 编辑 我知道这是一个通用的问题，我对此深表歉意，但对于像我这样的非数学家，我也不是MYSQL专家，我希望获得该领域专家的意见。 我已经进行了研究，但我仍然对此事有模糊的判断。再次抱歉，我的问题不在主题范围内或不适合该网站。

74 mysql  floating-point  double  decimal 

我在Compiler Explorer中摆弄东西，发现传递给std :: min的参数顺序更改了发出的程序集。 这是Godbolt编译器资源管理器上的示例 double std_min_xy(double x, double y) { return std::min(x, y); } double std_min_yx(double x, double y) { return std::min(y, x); } 它将被编译（例如，在clang 9.0.0上用-O3）为： std_min_xy(double, double): # @std_min_xy(double, double) minsd xmm1, xmm0 movapd xmm0, xmm1 ret std_min_yx(double, double): # @std_min_yx(double, double) minsd xmm0, xmm1 ret 如果我将std :: …

74 android  c++  assembly  x86  floating-point 

我想在逗号后打印一个浮点值，该值具有2个整数和6个十进制数字。如果我只是使用，printf("%f", myFloat)我会得到一个被截断的值。 我不知道这种情况是否总是在C语言中发生，或者只是因为我在微控制器中使用C语言（确切地说是CCS），但是在参考文献中它告诉%f我们：截断的浮点数。 如果我的浮点数是44.556677，我"44.55"只打印出前两位十进制数字。 所以问题是...我该如何打印我的6位数字（只有其中的6位数字，以防万一我在那之后有零）？

74 c  floating-point 

基本上，我将float转换为int，但是我并不总是具有期望值。 这是我正在执行的代码： x = 2.51 print("--------- 251.0") y = 251.0 print(y) print(int(y)) print("--------- 2.51 * 100") y = x * 100 print(y) print(int(y)) print("--------- 2.51 * 1000 / 10") y = x * 1000 / 10 print(y) print(int(y)) print("--------- 2.51 * 100 * 10 / 10") y = x * …

73 python  floating-point  int 

是否有内置的MATLAB函数来确定矩阵是否包含某个值？（ala PHP的in_array()）

72 matlab  function  matrix  floating-point 

我需要输出4个不同的浮点数到小数点后两位。 这就是我所拥有的： print '%.2f' % var1,'kg =','%.2f' % var2,'lb =','%.2f' % var3,'gal =','%.2f' % var4,'l' 这是非常不干净的，看起来很糟糕。是否有办法在输出'％.2f'中进行浮动？ 注意：使用Python 2.6。

72 python  floating-point  string-formatting 

我有一个必须解析的二进制文件，并且正在使用Python。有没有办法占用4个字节并将其转换为单个精度浮点数？

72 python  floating-point 

如何检查float变量是否包含整数值？到目前为止，我一直在使用： float f = 4.5886; if (f-(int)f == 0) printf("yes\n"); else printf("no\n"); 但是我想知道是否有更好的解决方案，或者这个解决方案是否有（或很多）缺点。

71 c  floating-point  int 

我们有许多不同的开发人员参与的iOS应用程序。我仍然注意到的一个问题是，情节提要中的视图将偏离其放置位置或调整其大小以使其更小，而这些尺寸在最初适合文本的标签上，当所有标签突然截断了他们的文字。 我注意到，当开发人员未直接对情节提要进行任何编辑时，视图的这些降级会出现在对Git存储库的提交中。他们可能已经在Interface Builder中查看了情节提要，但未对情节提要进行任何实际更改。尽管如此，更改仍随其工作一起保存并提交。 当我在负责提交之前和之后在故事板文件之间进行文本比较时，我会看到一些小的变化以查看框架，例如： <rect key="frame" x="203" y="8" width="362" height="29"/> | V <rect key="frame" x="203" y="7.5" width="362" height="29"/> 和 <rect key="frame" x="446.00000170260091" y="7" width="302" height="30"/> | V <rect key="frame" x="446" y="7" width="302" height="30"/> 和 <rect key="frame" x="364" y="3" width="200" height="38"/> | V <rect key="frame" x="363" y="3" width="200" height="38"/> 和 <rect …

71 ios  floating-point  xcode6  interface-builder  retina-display 

我有一个价格列表，逗号带有小数点，点是千位分隔符。 一些例子： 12,30 116,10 1.563,14 这些来自第三方。我想将它们转换为浮点数并将它们添加在一起。 做这个的最好方式是什么？number_format似乎不适用于此格式，str_replace似乎有点过头了，因为我必须对每个数字进行多次操作。 有更好的办法吗？谢谢。

70 php  parsing  floating-point 

有人可以指向（或显示）一些不错的C＃通用浮点比较函数来比较浮点值吗？我想实施的功能IsEqual，IsGreater一个IsLess。我也只真正关心双打而不是浮动。

70 c#  .net  floating-point 

它看起来像它可能是，有（至少在C99），可以适用于长度修改int：%hhd，%hd，%ld和%lld均值signed char，short，long和long long。甚至还有一个长度修饰符适用于double：%Lf手段long double。 问题是为什么他们忽略了float？按照该模式，可能是%hf。

69 c  floating-point  printf  rationale  c-standard-library 

何时x是double，(x - x)保证是+0.0，或者有时可能是-0.0（取决于的符号x）？

69 java  floating-point 

我知道各种数据类型的大小可以根据我所使用的系统而变化。我使用XP 32位，并在C ++中使用sizeof（）运算符，似乎long double是12个字节，而double是8。 但是，大多数主要来源都指出，long double是8个字节，因此范围与double相同。 我怎么会有12个字节？如果long double的确是12个字节，这是否还会扩展值的范围？还是仅当值超过double的范围，并因此扩展到超过8个字节时才使用long签名（编译器数字）？ 谢谢。

69 c++  floating-point  long-double 

Python中的epsilon（或获取方法）是否有标准值？我需要比较浮点值，并想与可能的最小差异进行比较。 在C ++中numeric_limits::epsilon( )，提供了一个函数，该函数给出任何给定数据类型的epsilon值。Python中是否有等效功能？

68 python  comparison  floating-point  epsilon