为了账号安全,请及时绑定邮箱和手机立即绑定

【九月打卡】第七天二进制与Java中的基本数据类型

标签:
算法

课程名称:基本数据类型的储存

章节名称:3-3IEEE754及Bi给Decimal

讲师姓名:舞马

内容概述:IEEE754的实值计算规则:float(32位)(-1)^s×(1=M)×2^E-(127)  double:(-1)^s×(1=M)×2^E-(1023) IEEE754标准中的格式化的浮点数真值表示公式。

IEEE754中规则中的特殊值:

当E为全1(2^e-1),且M为全0时,值为±∞。

当E为全1(2^e-1),且M非全0时,代码无效()

当E为全0(0),且M为全0时,值为±0

当E为全0(0),且M非全0时,尾数非规约浮点数

浮点真值:(-1)^s×(M)×2^E(-1260r-1022)

浮点型的精度情况:真值F(绝对值)=尾数M×2^E(阶码)。

float尾数是23位二进制数,转化成10进制,有效数字6~7位。

double尾数是52位二进制,转化成10进制,有效数字15~16位

精确小数BigDecimal:①用来对超过16位有效位的小数进行精确的运算。②数值储存使用BigDecimal+scale标度进行储存保证精度(十进制科学技术制)③bigDecimal声明创建以及基本及算法。

学习心得:学习了IEE754的规则,公式,精度情况。学习了BigDecimal的简单使用。

学习截图:https://img1.sycdn.imooc.com//631d6e210001661419201080.jpg

点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消