剛來(lái)的大兄弟在這個(gè)小問(wèn)題上翻車(chē)了,你確定不看一下?
本文轉(zhuǎn)載自微信公眾號(hào)「 故里學(xué)Java」,作者 故里學(xué)Java。轉(zhuǎn)載本文請(qǐng)聯(lián)系 故里學(xué)Java公眾號(hào)。
在我們?nèi)粘9ぷ髦袛?shù)值計(jì)算是不可避免的,特別是電商類(lèi)系統(tǒng)中,這個(gè)問(wèn)題一般情況下我們都是特別注意的,但是一不注意就會(huì)出大問(wèn)題,跟錢(qián)有關(guān)的事情沒(méi)小事。這不新來(lái)的大兄弟就一個(gè)不注意,在這個(gè)小陰溝里翻車(chē)了,鬧笑話(huà)了。
為了我們以后可以避免在這個(gè)問(wèn)題上犯錯(cuò),我今天特地寫(xiě)了這一篇來(lái)總結(jié)一下。
避免用Double來(lái)進(jìn)行運(yùn)算
使用Double來(lái)計(jì)算,我們以為的算術(shù)運(yùn)算和計(jì)算機(jī)計(jì)算的并不完全一直,這是因?yàn)橛?jì)算機(jī)是以二進(jìn)制存儲(chǔ)數(shù)值的,我們輸入的十進(jìn)制數(shù)值都會(huì)轉(zhuǎn)換成二進(jìn)制進(jìn)行計(jì)算,十進(jìn)制轉(zhuǎn)二進(jìn)制再轉(zhuǎn)換成十進(jìn)制就不是原來(lái)那個(gè)十進(jìn)制了,再也不是曾經(jīng)那個(gè)少年了。舉個(gè)例子:十進(jìn)制的0.1轉(zhuǎn)換成二進(jìn)制是0.0 0011 0011 0011...(無(wú)數(shù)個(gè)0011),再轉(zhuǎn)換成十進(jìn)制就是0.1000000000000000055511151231,看到了吧,沒(méi)有騙你的。
計(jì)算機(jī)無(wú)法精確地表達(dá)浮點(diǎn)數(shù),這是不可避免的,這是為什么浮點(diǎn)數(shù)計(jì)算后精度損失的原因。
- System.out.println(0.1+0.2);
- System.out.println(1.0-0.8);
- System.out.println(4.015*100);
- System.out.println(123.3/100);
通過(guò)簡(jiǎn)單的例子,我們發(fā)現(xiàn)精度損失并不是很大,但是這并不代表我們可以使用,特別是電商類(lèi)系統(tǒng)中,每天少說(shuō)幾百萬(wàn)的單量,每筆訂單哪怕少計(jì)算一分錢(qián),算下來(lái)也是一筆不小的金額,所以說(shuō),這不是個(gè)小事情,然后很多人就說(shuō),金額計(jì)算啊,你用BigDecimal啊,對(duì)的,這個(gè)沒(méi)毛病,但是用了BigDecimal就完事大吉了嗎?當(dāng)問(wèn)出這句話(huà)的時(shí)候,就說(shuō)明這其中必有蹊蹺。
BigDecimal你遇見(jiàn)過(guò)哪些坑?
還是通過(guò)一個(gè)簡(jiǎn)單的例子,計(jì)算上邊例子中的運(yùn)算,來(lái)看一下結(jié)果:
- System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
- System.out.println(new BigDecimal(1.0).subtract(new BigDecimal(0.8)));
- System.out.println(new BigDecimal(4.015).multiply(new BigDecimal(100)));
- System.out.println(new BigDecimal(123.3).divide(new BigDecimal(100)));
我們發(fā)現(xiàn)使用了BigDecimal之后計(jì)算結(jié)果還是不精確,這里就要記住BigDecimal的第一個(gè)坑了:
BigDecimal來(lái)表示和計(jì)算浮點(diǎn)數(shù)的時(shí)候,要使用String的構(gòu)造方法來(lái)初始化BigDecimal。
小的改進(jìn)一下再來(lái)看看結(jié)果:
- System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
- System.out.println(new BigDecimal("1.0").subtract(new BigDecimal("0.8")));
- System.out.println(new BigDecimal("4.015").multiply(new BigDecimal("100")));
- System.out.println(new BigDecimal("123.3").divide(new BigDecimal("100")));
那么接下來(lái)一個(gè)問(wèn)題,使用了BigDecimal就萬(wàn)事大吉了嗎?并不是的!
接下來(lái)我們來(lái)看一下BigDecimal的源碼,這里面有一個(gè)地方需要注意,先看圖:
注意看這兩個(gè)屬性,scale表示小數(shù)點(diǎn)右邊幾位,precision表示精度,就是我們常說(shuō)的有效長(zhǎng)度。
前邊我們已經(jīng)知道,BigDecimal必須傳入字符串類(lèi)型數(shù)值,那么如果我們現(xiàn)在是一個(gè)Double類(lèi)型數(shù)值,該如何操作呢?通過(guò)一個(gè)簡(jiǎn)單的測(cè)試我們來(lái)看一下:
- private static void testScale() {
- BigDecimal bigDecimal1 = new BigDecimal(Double.toString(100));
- BigDecimal bigDecimal2 = new BigDecimal(String.valueOf(100d));
- BigDecimal bigDecimal3 = BigDecimal.valueOf(100d);
- BigDecimal bigDecimal4 = new BigDecimal("100");
- BigDecimal bigDecimal5 = new BigDecimal(String.valueOf(100));
- print(bigDecimal1);
- print(bigDecimal2);
- print(bigDecimal3);
- print(bigDecimal4);
- print(bigDecimal5);
- }
- private static void print(BigDecimal bigDecimal) {
- System.out.println(String.format("scale %s precision %s result %s", bigDecimal.scale(), bigDecimal.precision(), bigDecimal.multiply(new BigDecimal("1.001"))));
- }
run一下我們發(fā)現(xiàn),以上前三種方式是將double轉(zhuǎn)換成BigDecimal之后,得到的BigDecimal的scale都是1,precision都是4,后兩種方式的toString方法得到的scale都是0,precision都是3,與1.001進(jìn)行乘運(yùn)算后,我們發(fā)現(xiàn),scale是兩個(gè)數(shù)的scale相加的結(jié)果。
我們?cè)谔幚砀↑c(diǎn)數(shù)的字符串的時(shí)候,應(yīng)該顯式的方式通過(guò)格式化表達(dá)式或者格式化工具來(lái)明確小數(shù)位數(shù)和舍入方式。
浮點(diǎn)數(shù)的舍入和格式化該如何選擇?
我們首先來(lái)看看使用String.format的格式化舍入,會(huì)有什么結(jié)果,我們知道浮點(diǎn)數(shù)有double和float兩種,下邊我們就用這兩種來(lái)舉例子:
- double num1 = 3.35;
- float num2 = 3.35f;
- System.out.println(String.format("%.1f", num1));
- System.out.println(String.format("%.1f", num2));
得到的結(jié)果似乎與我們的預(yù)期有出入,其實(shí)這個(gè)問(wèn)題也很好解釋?zhuān)琩ouble和float的精度是不同的,double的3.35相當(dāng)于3.350000000000000088817841970012523233890533447265625,而float的3.35相當(dāng)于3.349999904632568359375,String.format才有的又是四舍五入的方式舍入,所以精度問(wèn)題和舍入方式就導(dǎo)致了運(yùn)算結(jié)果與我們預(yù)期不同。
Formatter類(lèi)中默認(rèn)使用的是HALF_UP的舍入方式,如果我們需要使用其他的舍入方式來(lái)格式化,可以手動(dòng)設(shè)置。
到這里我們就知道通過(guò)String.format的方式來(lái)格式化這條路坑有點(diǎn)多,所以,「浮點(diǎn)數(shù)的字符串格式化還得要使用BigDecimal來(lái)進(jìn)行」。
來(lái),上代碼,測(cè)試一下究竟是不是那么回事:
- BigDecimal num1 = new BigDecimal("3.35");
- //小數(shù)點(diǎn)后1位,向下舍入
- BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
- System.out.println(num2);
- //小數(shù)點(diǎn)后1位,四舍五入
- BigDecimal num3 = num1.setScale(1, BigDecimal.ROUND_HALF_UP);
- System.out.println(num3);
- 輸入結(jié)果:
- 3.3
- 3.4
這次得到的結(jié)果與我們預(yù)期一致。
BigDecimal不能使用equals方法比較?
我們都知道,包裝類(lèi)的比較要使用equals,而不能使用==,那么這一條在Bigdecimal中也適用嗎?數(shù)據(jù)說(shuō)話(huà),簡(jiǎn)單的一個(gè)測(cè)試來(lái)說(shuō)明:
- System.out.println(new BigDecimal("1").equals(new BigDecimal("1.0")))
- 結(jié)果:false
按照我們的理解1和1.0是相等的,也應(yīng)該是相等的,但是Bigdecimal的equals在比較中不只是比較了value,還比較了scale,我們前邊說(shuō)了scale是小數(shù)點(diǎn)后的位數(shù),明顯兩個(gè)值的小數(shù)點(diǎn)后位數(shù)不一樣,所以結(jié)果為false。
實(shí)際的使用中,我們常常是只希望比較兩個(gè)BigDecimal的value,這里就要注意,要使用compareTo方法:
- System.out.println(new BigDecimal("1").compareTo(new BigDecimal("1.0")))
- 結(jié)果:true
最后
再總結(jié)一下今天的文章:
- 避免使用Double來(lái)進(jìn)行運(yùn)算
- BigDecimal的初始化要使用String入?yún)⒒蛘連igDecimal.valueOf()
- 浮點(diǎn)數(shù)的格式化建議使用BigDecimal
- 比較兩個(gè)BigDecimal的value要使用compareTo