Questions tagged «significant-digits»

18
四舍五入到任意有效数字位数
如何将任何数字(不仅是整数> 0)舍入为N个有效数字? 例如,如果我想四舍五入到三个有效数字,那么我正在寻找一个可能采用的公式: 1,239,451,回报1,240,000 12.1257并​​返回12.1 .0681并返回.0681 5并返回5 自然,不应将算法硬编码为仅处理N的3,尽管这只是一个开始。

15
将双数取整为x个有效数字
如果我有一个双精度(234.004223)等,我想在C#中将其四舍五入为x个有效数字。 到目前为止,我只能找到四舍五入到小数点后x位的方法,但是如果数字中有任何0,这只会删除精度。 例如,0.086到小数点后一位变为0.1,但我希望它保持在0.08。
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.