自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

剛來(lái)的大兄弟在這個(gè)小問(wèn)題上翻車(chē)了,你確定不看一下?

開(kāi)發(fā) 前端
在我們?nèi)粘9ぷ髦袛?shù)值計(jì)算是不可避免的,特別是電商類(lèi)系統(tǒng)中,這個(gè)問(wèn)題一般情況下我們都是特別注意的,但是一不注意就會(huì)出大問(wèn)題,跟錢(qián)有關(guān)的事情沒(méi)小事。這不新來(lái)的大兄弟就一個(gè)不注意,在這個(gè)小陰溝里翻車(chē)了,鬧笑話(huà)了。

[[358035]]

本文轉(zhuǎn)載自微信公眾號(hào)「 故里學(xué)Java」,作者 故里學(xué)Java。轉(zhuǎn)載本文請(qǐng)聯(lián)系 故里學(xué)Java公眾號(hào)。

在我們?nèi)粘9ぷ髦袛?shù)值計(jì)算是不可避免的,特別是電商類(lèi)系統(tǒng)中,這個(gè)問(wèn)題一般情況下我們都是特別注意的,但是一不注意就會(huì)出大問(wèn)題,跟錢(qián)有關(guān)的事情沒(méi)小事。這不新來(lái)的大兄弟就一個(gè)不注意,在這個(gè)小陰溝里翻車(chē)了,鬧笑話(huà)了。

為了我們以后可以避免在這個(gè)問(wèn)題上犯錯(cuò),我今天特地寫(xiě)了這一篇來(lái)總結(jié)一下。

避免用Double來(lái)進(jìn)行運(yùn)算

使用Double來(lái)計(jì)算,我們以為的算術(shù)運(yùn)算和計(jì)算機(jī)計(jì)算的并不完全一直,這是因?yàn)橛?jì)算機(jī)是以二進(jìn)制存儲(chǔ)數(shù)值的,我們輸入的十進(jìn)制數(shù)值都會(huì)轉(zhuǎn)換成二進(jìn)制進(jìn)行計(jì)算,十進(jìn)制轉(zhuǎn)二進(jìn)制再轉(zhuǎn)換成十進(jìn)制就不是原來(lái)那個(gè)十進(jìn)制了,再也不是曾經(jīng)那個(gè)少年了。舉個(gè)例子:十進(jìn)制的0.1轉(zhuǎn)換成二進(jìn)制是0.0 0011 0011 0011...(無(wú)數(shù)個(gè)0011),再轉(zhuǎn)換成十進(jìn)制就是0.1000000000000000055511151231,看到了吧,沒(méi)有騙你的。

計(jì)算機(jī)無(wú)法精確地表達(dá)浮點(diǎn)數(shù),這是不可避免的,這是為什么浮點(diǎn)數(shù)計(jì)算后精度損失的原因。

  1. System.out.println(0.1+0.2); 
  2. System.out.println(1.0-0.8); 
  3. System.out.println(4.015*100); 
  4. System.out.println(123.3/100); 

通過(guò)簡(jiǎn)單的例子,我們發(fā)現(xiàn)精度損失并不是很大,但是這并不代表我們可以使用,特別是電商類(lèi)系統(tǒng)中,每天少說(shuō)幾百萬(wàn)的單量,每筆訂單哪怕少計(jì)算一分錢(qián),算下來(lái)也是一筆不小的金額,所以說(shuō),這不是個(gè)小事情,然后很多人就說(shuō),金額計(jì)算啊,你用BigDecimal啊,對(duì)的,這個(gè)沒(méi)毛病,但是用了BigDecimal就完事大吉了嗎?當(dāng)問(wèn)出這句話(huà)的時(shí)候,就說(shuō)明這其中必有蹊蹺。

BigDecimal你遇見(jiàn)過(guò)哪些坑?

還是通過(guò)一個(gè)簡(jiǎn)單的例子,計(jì)算上邊例子中的運(yùn)算,來(lái)看一下結(jié)果:

  1. System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2))); 
  2. System.out.println(new BigDecimal(1.0).subtract(new BigDecimal(0.8))); 
  3. System.out.println(new BigDecimal(4.015).multiply(new BigDecimal(100))); 
  4. System.out.println(new BigDecimal(123.3).divide(new BigDecimal(100))); 

我們發(fā)現(xiàn)使用了BigDecimal之后計(jì)算結(jié)果還是不精確,這里就要記住BigDecimal的第一個(gè)坑了:

BigDecimal來(lái)表示和計(jì)算浮點(diǎn)數(shù)的時(shí)候,要使用String的構(gòu)造方法來(lái)初始化BigDecimal。

小的改進(jìn)一下再來(lái)看看結(jié)果:

  1. System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2"))); 
  2. System.out.println(new BigDecimal("1.0").subtract(new BigDecimal("0.8"))); 
  3. System.out.println(new BigDecimal("4.015").multiply(new BigDecimal("100"))); 
  4. System.out.println(new BigDecimal("123.3").divide(new BigDecimal("100"))); 

那么接下來(lái)一個(gè)問(wèn)題,使用了BigDecimal就萬(wàn)事大吉了嗎?并不是的!

接下來(lái)我們來(lái)看一下BigDecimal的源碼,這里面有一個(gè)地方需要注意,先看圖:

注意看這兩個(gè)屬性,scale表示小數(shù)點(diǎn)右邊幾位,precision表示精度,就是我們常說(shuō)的有效長(zhǎng)度。

前邊我們已經(jīng)知道,BigDecimal必須傳入字符串類(lèi)型數(shù)值,那么如果我們現(xiàn)在是一個(gè)Double類(lèi)型數(shù)值,該如何操作呢?通過(guò)一個(gè)簡(jiǎn)單的測(cè)試我們來(lái)看一下:

  1.  private static void testScale() { 
  2.      BigDecimal bigDecimal1 = new BigDecimal(Double.toString(100)); 
  3.      BigDecimal bigDecimal2 = new BigDecimal(String.valueOf(100d)); 
  4.      BigDecimal bigDecimal3 = BigDecimal.valueOf(100d); 
  5.      BigDecimal bigDecimal4 = new BigDecimal("100"); 
  6.      BigDecimal bigDecimal5 = new BigDecimal(String.valueOf(100)); 
  7.  
  8.      print(bigDecimal1); 
  9.      print(bigDecimal2); 
  10.      print(bigDecimal3); 
  11.      print(bigDecimal4); 
  12.      print(bigDecimal5);      
  13.  
  14. private static void print(BigDecimal bigDecimal) { 
  15.         System.out.println(String.format("scale %s precision %s result %s", bigDecimal.scale(), bigDecimal.precision(), bigDecimal.multiply(new BigDecimal("1.001")))); 

run一下我們發(fā)現(xiàn),以上前三種方式是將double轉(zhuǎn)換成BigDecimal之后,得到的BigDecimal的scale都是1,precision都是4,后兩種方式的toString方法得到的scale都是0,precision都是3,與1.001進(jìn)行乘運(yùn)算后,我們發(fā)現(xiàn),scale是兩個(gè)數(shù)的scale相加的結(jié)果。

我們?cè)谔幚砀↑c(diǎn)數(shù)的字符串的時(shí)候,應(yīng)該顯式的方式通過(guò)格式化表達(dá)式或者格式化工具來(lái)明確小數(shù)位數(shù)和舍入方式。

浮點(diǎn)數(shù)的舍入和格式化該如何選擇?

我們首先來(lái)看看使用String.format的格式化舍入,會(huì)有什么結(jié)果,我們知道浮點(diǎn)數(shù)有double和float兩種,下邊我們就用這兩種來(lái)舉例子:

  1. double num1 = 3.35; 
  2. float num2 = 3.35f; 
  3. System.out.println(String.format("%.1f", num1)); 
  4. System.out.println(String.format("%.1f", num2)); 

得到的結(jié)果似乎與我們的預(yù)期有出入,其實(shí)這個(gè)問(wèn)題也很好解釋?zhuān)琩ouble和float的精度是不同的,double的3.35相當(dāng)于3.350000000000000088817841970012523233890533447265625,而float的3.35相當(dāng)于3.349999904632568359375,String.format才有的又是四舍五入的方式舍入,所以精度問(wèn)題和舍入方式就導(dǎo)致了運(yùn)算結(jié)果與我們預(yù)期不同。

Formatter類(lèi)中默認(rèn)使用的是HALF_UP的舍入方式,如果我們需要使用其他的舍入方式來(lái)格式化,可以手動(dòng)設(shè)置。

到這里我們就知道通過(guò)String.format的方式來(lái)格式化這條路坑有點(diǎn)多,所以,「浮點(diǎn)數(shù)的字符串格式化還得要使用BigDecimal來(lái)進(jìn)行」。

來(lái),上代碼,測(cè)試一下究竟是不是那么回事:

  1. BigDecimal num1 = new BigDecimal("3.35"); 
  2. //小數(shù)點(diǎn)后1位,向下舍入 
  3. BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN); 
  4. System.out.println(num2); 
  5. //小數(shù)點(diǎn)后1位,四舍五入 
  6. BigDecimal num3 = num1.setScale(1, BigDecimal.ROUND_HALF_UP); 
  7. System.out.println(num3); 
  8. 輸入結(jié)果: 
  9. 3.3 
  10. 3.4 

這次得到的結(jié)果與我們預(yù)期一致。

BigDecimal不能使用equals方法比較?

我們都知道,包裝類(lèi)的比較要使用equals,而不能使用==,那么這一條在Bigdecimal中也適用嗎?數(shù)據(jù)說(shuō)話(huà),簡(jiǎn)單的一個(gè)測(cè)試來(lái)說(shuō)明:

  1. System.out.println(new BigDecimal("1").equals(new BigDecimal("1.0"))) 
  2. 結(jié)果:false 

按照我們的理解1和1.0是相等的,也應(yīng)該是相等的,但是Bigdecimal的equals在比較中不只是比較了value,還比較了scale,我們前邊說(shuō)了scale是小數(shù)點(diǎn)后的位數(shù),明顯兩個(gè)值的小數(shù)點(diǎn)后位數(shù)不一樣,所以結(jié)果為false。

實(shí)際的使用中,我們常常是只希望比較兩個(gè)BigDecimal的value,這里就要注意,要使用compareTo方法:

  1. System.out.println(new BigDecimal("1").compareTo(new BigDecimal("1.0"))) 
  2. 結(jié)果:true 

最后

再總結(jié)一下今天的文章:

  • 避免使用Double來(lái)進(jìn)行運(yùn)算
  • BigDecimal的初始化要使用String入?yún)⒒蛘連igDecimal.valueOf()
  • 浮點(diǎn)數(shù)的格式化建議使用BigDecimal
  • 比較兩個(gè)BigDecimal的value要使用compareTo

 

責(zé)任編輯:武曉燕 來(lái)源: 故里學(xué)Java
相關(guān)推薦

2021-06-24 07:54:20

vite 靜態(tài)處理public

2018-09-27 14:50:04

機(jī)器學(xué)習(xí)數(shù)據(jù)科學(xué)書(shū)籍

2018-12-20 11:20:47

物聯(lián)網(wǎng)設(shè)備物聯(lián)網(wǎng)

2019-06-17 05:00:53

預(yù)測(cè)性維護(hù)物聯(lián)網(wǎng)IOT

2011-10-12 11:07:12

iCloudiOS5蘋(píng)果

2021-10-09 18:26:59

二叉樹(shù)多叉樹(shù)搜索

2023-11-23 17:02:34

LinuxSED工具

2021-08-05 07:28:27

SQL觸發(fā)器結(jié)構(gòu)

2020-09-17 09:18:49

iOS 14蘋(píng)果推送

2010-03-15 10:35:46

三層交換

2023-10-23 10:20:25

2020-07-17 08:36:16

JVM性能監(jiān)控

2020-06-10 07:38:30

Spring框架周期

2017-03-03 10:37:07

Java泛型設(shè)計(jì)

2020-04-16 18:04:07

JavaScript前端技術(shù)

2021-08-22 15:07:29

大數(shù)據(jù)信息安全隱私

2019-09-06 10:31:45

軟件開(kāi)發(fā)地圖

2024-05-13 08:05:26

JVMJava逃逸分析

2021-08-30 07:49:34

數(shù)據(jù)庫(kù)數(shù)倉(cāng)Doris

2013-12-06 11:14:54

開(kāi)發(fā)者程序員bug
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)