Questions tagged «numerical»

7
在16位,32位和64位IEEE-754系统中可以表示什么范围的数字?
我对浮点数的表示方式有些了解,但恐怕还不够。 普遍的问题是: 对于给定的精度(出于我的目的,以10为基数的精确小数位数),对于16位,32位和64位IEEE-754系统,可以表示什么数字范围? 具体来说,我只对精度为+/- 0.5(一个位)或+/- 0.0005(千个位)的16位和32位数字范围感兴趣。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.