绝对值是指一个数在数轴上所对应点到原点的距离,所以,在数学领域,正数的绝对值是这个数本身,负数的绝对值应该是他的相反数。
这几乎是每个人都知道的。
在Java中,想要获得有个数字的绝对值,可以使用java.lang.Math
中的abs
方法,这个类共有4个重载的abs方法,分别是:
public static int abs(int a) {
return (a < 0) ? -a : a;
}
public static long abs(long a) {
return (a < 0) ? -a : a;
}
public static float abs(float a) {
return (a <= 0.0F) ? 0.0F - a : a;
}
public static double abs(double a) {
return (a <= 0.0D) ? 0.0D - a : a;
}
以上4个方法分别返回int、long、float、double类型的绝对值,方法里面的逻辑也简单,无非就是整数直接返回,负数取相反数返回。
所以,基于以上所有的知识,我们经常会直接使用Math.abs
来对一个数字取绝对值。
在我们的代码中,也有很多这样的例子。
比如,我们需要用订单号做分库分表,但是订单号是字符串类型,所以,我们就需要取得这个字符换的hashCode,因为hashCode可能是负数,所以然后再对hashCode取绝对值,再用这个值去对分表数取模:
Math.abs(orderId.hashCode()) % 1024;
但是,上面这个逻辑是有问题的!!!
因为在极特殊情况下,上面的代码会得到一个负数的值。
**这个极特殊情况下就是当hashCode是Integer.MIN_VALUE,即整数能表达的最小值的时候,**可以代码验证下:
public static void main(String[] args) {
System.out.println(Math.abs(Integer.MIN_VALUE));
}
执行以上代码,得到的结果是:
-2147483648
很明显,这是个负数!!!
为什么会这样呢?
这要从Integer的取值范围说起,int的取值范围是-2^31 —— (2^31) - 1,即-2147483648 至 2147483647
那么,当我们使用abs取绝对值时候,想要取得-2147483648的绝对值,那应该是2147483648。
但是,2147483648大于了2147483647,即超过了int的取值范围。这时候就会发生越界。
2147483647用二进制的补码表示是:
01111111 11111111 11111111 11111111
这个数 +1 得到:
10000000 00000000 00000000 00000000
这个二进制就是-2147483648的补码。
虽然,这种情况发生的概率很低,只有当要取绝对值的数字是-2147483648的时候,得到的数字还是个负数。
那么,如何解决这个问题呢?
既然是以为越界了导致最终结果变成负数,那就解决越界的问题就行了,那就是在取绝对值之前,把这个int类型转成long类型,这样就不会出现越界了。
如,前面我们的分表逻辑修改为
Math.abs((long)orderId.hashCode()) % 1024;
就万无一失了。
大家可以执行下以下代码:
public static void main(String[] args) {
System.out.println(Math.abs((long)Integer.MIN_VALUE));
}
得到的结果就是:
2147483648
以上,就是今天要介绍的知识点了。
但是,一定要记得,对long类型取绝对值其实也可能存在这个情况哦!只不过发生的概率就更低了,但是只要他存在,就有可能发生哦!
作者:HollisChuang
链接:https://juejin.cn/post/6989059326241407007
来源:掘金
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
共同学习,写下你的评论
评论加载中...
作者其他优质文章