Questions tagged «decimal»

是什么区别decimal，float并double在.NET？ 有人什么时候会使用其中之一？

2085 .net  floating-point  double  decimal 

我想要的是一种使用double-up方法将双精度型转换为四舍五入的字符串的方法-即，如果要四舍五入的小数是5，则它总是四舍五入到下一个数字。这是大多数人在大多数情况下期望的四舍五入标准方法。 我也希望只显示有效数字-即不应有任何尾随零。 我知道这样做的一种方法是使用该String.format方法： String.format("%.5g%n", 0.912385); 返回： 0.91239 这很好，但是即使数字不重要，它也始终显示5位小数： String.format("%.5g%n", 0.912300); 返回： 0.91230 另一种方法是使用DecimalFormatter： DecimalFormat df = new DecimalFormat("#.#####"); df.format(0.912385); 返回： 0.91238 但是，如您所见，这使用了半数舍入。如果前一位是偶数，它将四舍五入。我想要的是： 0.912385 -> 0.91239 0.912300 -> 0.9123 用Java实现此目标的最佳方法是什么？

1258 java  decimal  rounding  digits 

我想使用Track-Bar来更改Form的不透明度。 这是我的代码： decimal trans = trackBar1.Value / 5000; this.Opacity = trans; 当我构建应用程序时，它给出以下错误： 无法将类型隐式转换decimal为double 我已经尝试过使用trans，double但随后Control却无法正常工作。该代码在过去的VB.NET项目中运行良好。

672 c#  floating-point  type-conversion  double  decimal 

当当前显示带有的十进制值时.ToString()，它精确到15个小数位，并且由于我使用它来表示美元和美分，所以我只希望输出为2个小数位。 我.ToString()为此使用变体吗？

648 c#  .net  decimal  rounding 

我想使用Math.Round功能来做到这一点

380 c#  decimal  rounding  bankers-rounding 

为了使用十进制数据类型，我必须对变量进行初始化： decimal aValue = 50.0M; M部分代表什么？

311 c#  decimal  literals 

有时，Activerecord数据类型使我感到困惑。经常犯错。对于给定的情况，我永恒的问题之一是 我应该使用:decimal还是:float？ 我经常遇到这个链接，ActiveRecord：：decimal vs：float？，但答案还不够清楚，无法确定： 我见过很多线程，人们建议平整地使用永不使用float并始终使用十进制。我也看到一些人建议仅将浮点数用于科学应用。 这是一些示例情况： 地理位置/纬度/经度：-45.756688，120.5777777，... 比/百分比：0.9，1.25，1.333，1.4143，... 我过去使用:decimal过，但是与BigDecimal浮点数相比，我发现在Ruby中处理对象不必要地麻烦。我也知道:integer，例如，我可以用来表示金钱/美分，但是它并不完全适合其他情况，例如当精度可能随时间变化的数量时。 使用它们的优点/缺点是什么？ 知道使用哪种类型的最佳经验法则是什么？

283 ruby-on-rails  types  floating-point  decimal  rails-activerecord 

我正在尝试找出SQL Server中列的十进制数据类型。我需要能够存储15.5、26.9、24.7、9.8等值 我分配decimal(18, 0)了列数据类型，但是这不允许我存储这些值。 什么是正确的方法？

272 sql  sql-server  types  decimal 

我可以列举使用double（或float）代替的三个优点decimal： 使用更少的内存。 更快，因为处理器原生支持浮点数学运算。 可以代表更大范围的数字。 但是这些优点似乎仅适用于计算密集型操作，例如建模软件中的操作。当然，当需要精确度（例如财务计算）时，不应使用双精度。那么，有没有任何实际的理由选择double（或float）而不是decimal“常规”应用程序？ 编辑添加：感谢所有出色的答复，我从中了解到。 还有一个问题：少数人指出，加倍数可以更精确地表示实数。当声明时，我认为它们通常也可以更准确地表示它们。但是，在执行浮点运算时精度是否会降低（有时会显着降低），这是不正确的说法？

265 c#  types  floating-point  double  decimal 

我有类似3.2和的浮点数1.6。 我需要将数字分成整数和小数部分。例如，的值3.2将被分为两个数字，即3和0.2 获取整数部分很容易： n = Math.floor(n); 但是我在获取小数部分时遇到了麻烦。我已经试过了： remainer = n % 2; //obtem a parte decimal do rating 但是它并不总是能正常工作。 先前的代码具有以下输出： n = 3.1 => remainer = 1.1 我在这里想念的是什么？

247 javascript  floating-point  numbers  decimal  rounding 

我在数据库中指定了以下列：decimal（5,2） 如何解释这一点？ 根据在SQL Server Management Studio中查看的列上的属性，我可以看到它的意思是：十进制（数字精度，数字小数位数）。 精度和比例在实际意义上是什么？ 将其解释为带有5位数字和两位小数的十进制很容易...即12345.12 附言：我已经能够确定同事的正确答案，但是很难在网上找到答案。因此，我想在这里将问题和答案记录在stackoverflow上，以备将来参考。

245 sql  database  decimal  scale  precision 

我有一个Decimal('3.9')对象的一部分，希望将其编码为JSON字符串，看起来像{'x': 3.9}。我不在乎客户端的精度，因此浮点数很好。 是否有序列化此序列的好方法？JSONDecoder不接受Decimal对象，并且事先转换为float会产生{'x': 3.8999999999999999}错误，这将浪费大量带宽。

242 python  json  floating-point  decimal 

试图删除所有非0-9的字母和字符和一个句点。我正在使用，Character.isDigit()但它也会删除小数，如何还保留小数？

237 java  string  character  decimal 

我正在尝试使用这种代码优先的方法，但是现在我发现System.Decimal类型的属性映射到类型为October（18，0）的sql列。 如何设置数据库列的精度？

230 c#  .net  entity-framework  ef-code-first  decimal 

如何将小数转换为整数？

227 c#  .net  int  decimal