Questions tagged «decimal»

十进制是我们常见的十进制数字系统的名称。它还可能引用以小数点表示的非整数值。

6
使用String.format的Java十进制格式?
我需要将一个十进制值格式化为一个字符串,在该字符串中,我总是以至少2个小数和最多4个小数显示。 所以举个例子 "34.49596" would be "34.4959" "49.3" would be "49.30" 可以使用String.format命令完成此操作吗? 还是在Java中有更简单/更好的方法来做到这一点。

4
Python小数格式
WHat是像这样格式化python十进制的好方法吗? 1.00 - > '1' 1.20 - > '1.2' 1.23 - > '1.23' 1.234 - > '1.23' 1.2345 - > '1.23'
73 python  decimal 


5
MySQL中的双vs十进制
好的,所以我知道有很多文章指出我不应该使用DOUBLE在MySQL数据库上存储资金,否则我将遇到棘手的精度错误。关键是我不是在设计新数据库,而是在寻找一种方法来优化现有系统。较新的版本包含783个DOUBLE类型的列,其中大多数用于存储金额或用于计算金额的公式。 因此,我对此主题的第一意见是,我强烈建议在下一个版本中将DOUBLE转换为DECIMAL,因为MySQL文档和所有人都这么说。但是由于以下三个原因,我找不到合适的论据来证明这一建议: 我们不对数据库执行任何计算。所有操作都使用BigDecimal在Java中完成,而MySQL仅用作结果的普通存储。 双精度提供的15位精度足够了,因为我们存储的金额主要是2个小数位,对于公式参数,偶尔会存储8个小数位的数字。 我们已经有6年的生产记录,由于MySQL方面的精度损失,没有已知的bug问题。 即使通过对18毫米行表执行运算(例如SUM和复杂的乘法),我也无法执行缺乏精度的错误。而且我们实际上并没有在生产中做这种事情。我可以通过执行类似的操作来显示丢失的精度 SELECT columnName * 1.000000000000000 FROM tableName; 但是我想不出一种方法来将它转换为错误的小数点后两位数字。我在互联网上发现的大多数实际问题都是2005年和更早的论坛条目,我无法在5.0.51 MySQL服务器上重现它们中的任何一个。 因此,只要我们不执行我们不打算执行的任何SQL算术运算,那么仅在DOUBLE列中存储和取回金额是否会有任何问题吗?
71 mysql  double  decimal 


4
使用printf()保留两位小数
我正在尝试使用printf()以下方法将数字写到两位小数: #include <cstdio> int main() { printf("When this number: %d is assigned to 2 dp, it will be: 2%f ", 94.9456, 94.9456); return 0; } 运行程序时,将得到以下输出: # ./printf When this number: -1243822529 is assigned to 2 db, it will be: 2-0.000000 这是为什么? 谢谢。
71 c++  c  printf  decimal 

11
将字符串转换为十进制,保留分数
我正在尝试转换1200.00为decimal,但Decimal.Parse()将其删除.00。我尝试了一些不同的方法,但是它总是删除.00,除非我提供的分数不为0。 string value = "1200.00"; 方法1 var convertDecimal = Decimal.Parse(value , NumberStyles.AllowThousands | NumberStyles.AllowDecimalPoint | NumberStyles.AllowCurrencySymbol); 方法2 var convertDecimal = Convert.ToDecimal(value); 方法3 var convertDecimal = Decimal.Parse(value, NumberStyles.AllowDecimalPoint, CultureInfo.InvariantCulture); 如何将string包含转换1200.00为decimal包含1200.00?
71 c#  string  decimal 

8
真的不适合钱吗?
我总是在c#中告诉您double类型的变量不适合钱。所有奇怪的事情都可能发生。但是我似乎无法创建一个示例来演示其中的一些问题。谁能提供这样的例子? (编辑;此帖子最初被标记为C#;一些回复涉及的具体细节decimal,因此,这意味着System.Decimal)。 (编辑2:我是专门要求一些C#代码的,所以我不认为这仅与语言无关)

6
在JavaScript中截断/舍入整数?
对于我正在编写的脚本,我需要显示一个已经四舍五入的数字,而不是十进制或其他任何数字。我已经将其四舍五入到第三位,但是我不确定如何去掉小数点后的所有内容,因为JavaScript似乎没有substr像PHP那样的功能。 有什么建议吗?

7
调整十进制精度.net
这些在C#中的行 decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); Console.WriteLine(d); 生成此输出: 2 2.0 2.00000000 2.000000000000000000000000000 因此,我可以看到从文字中创建一个十进制变量可以控制精度。 是否可以在不使用文字的情况下调整小数变量的精度? 如何从a创建b?如何从c创建b?

7
何时使用浮点数与小数
我正在构建此API,并且数据库将存储代表以下之一的值: 百分比 平均 率 老实说,我不知道如何表示范围介于0到100%之间的数字。应该是 0.00-1.00 0.00-100.00 我不知道的任何其他选择 有一个明确的选择吗?一种在数据库上表示从0%到100%的东西的全局方式?更进一步,它的正确类型是float还是小数? 谢谢。
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.