Questions tagged «dc»

3
如何在bash中使用正好2个有效数字格式化浮点数?
我想在bash中用正好两个有效数字打印浮点数(也许使用awk,bc,dc,perl等通用工具)。 例子: 76543应打印为76000 0.0076543应打印为0.0076 在这两种情况下,有效数字分别为7和6。对于类似的问题,我已经阅读了一些答案,例如: 如何在shell中四舍五入浮点数? 浮点变量的Bash限制精度 但是答案集中在限制小数位数(例如bc带scale=2或的printf命令%.2f)上,而不是有效位数上。 有没有一种简单的方法可以用2个有效数字来格式化数字,或者我必须编写自己的函数?
17 bash  awk  bc  floating-point  dc 

3
直流精度损失
我想dc用十六进制点来处理一些基数为16的数字,但是我遇到了精度问题。例如,下面,我乘F423F.FD用100,无论是十六进制。预期的答案是F423FFD,反而给出F423FFA.E1接近,但即使四舍五入也不够准确。 $ dc 16 d i o F423F.FD 100 * p F423FFA.E1 我读到那dc是一个无限精度的计算器,无论如何这都不是很大的数字。我做错什么了吗? 感谢您的回答。鉴于存在的问题dc,我忍无可忍,并编写了自己的解析器,用于其他基数的实数。如果有人对代码感兴趣,可以在此处发布。
12 dc 
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.