最新回答 / 任e逍遥
说小数点后6位会被自动舍去其实是不对的。因为这个限制不来源于算法,而来源于32位浮点精度的计算机限制。float大概可以精确7位数字(小数点前的位数+小数点后的位数),后面的数字是不精确的,而且是按照二进制舍入的,不是按照十进制。如果你做科学计算,最好直接用double,我之前用float就造成了微小误差的累积
2022-05-03