课程名称:基本数据类型的储存
章节名称:3-3IEEE754及Bi给Decimal
讲师姓名:舞马
内容概述:IEEE754的实值计算规则:float(32位)(-1)^s×(1=M)×2^E-(127) double:(-1)^s×(1=M)×2^E-(1023) IEEE754标准中的格式化的浮点数真值表示公式。
IEEE754中规则中的特殊值:
当E为全1(2^e-1),且M为全0时,值为±∞。
当E为全1(2^e-1),且M非全0时,代码无效()
当E为全0(0),且M为全0时,值为±0
当E为全0(0),且M非全0时,尾数非规约浮点数
浮点真值:(-1)^s×(M)×2^E(-1260r-1022)
浮点型的精度情况:真值F(绝对值)=尾数M×2^E(阶码)。
float尾数是23位二进制数,转化成10进制,有效数字6~7位。
double尾数是52位二进制,转化成10进制,有效数字15~16位
精确小数BigDecimal:①用来对超过16位有效位的小数进行精确的运算。②数值储存使用BigDecimal+scale标度进行储存保证精度(十进制科学技术制)③bigDecimal声明创建以及基本及算法。
学习心得:学习了IEE754的规则,公式,精度情况。学习了BigDecimal的简单使用。
学习截图:
点击查看更多内容
为 TA 点赞
评论
共同学习,写下你的评论
评论加载中...
作者其他优质文章
正在加载中
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦