因此對于32為單精度浮點(diǎn)數(shù):在IEEE-754標(biāo)準(zhǔn)中,32位浮點(diǎn)數(shù)X的真值可表示為:
X = (-1)^S×(1.M)×2 ^(E-127);
精度丟失了解了float型數(shù)據(jù)的存儲(chǔ)原理,接下來了解一下float精度丟失的原因,以浮點(diǎn)數(shù)2.7為例:
首先,十進(jìn)制轉(zhuǎn)換成二進(jìn)制 。由于2.7無法用二進(jìn)制精確表示,因此此處出現(xiàn)一次精度丟失 。
2.7 => 10.10110011001…
然后,用IEEE標(biāo)準(zhǔn)表示二進(jìn)制浮點(diǎn)數(shù),得到s=0,M=1.010110011001…,E=1 。
10.1011001… => (-1)^0 × 1.01011001… × 2^1
最后,按照IEEE標(biāo)準(zhǔn)保存數(shù)據(jù) 。此時(shí)是單精度浮點(diǎn)數(shù),M只能保存小數(shù)點(diǎn)后23位,多余的部分被丟棄了,因此此處又一次精度丟失 。
精度丟失示意
溢出既然存儲(chǔ)有位數(shù)限制,那么溢出就很好理解了 。超過最大能表示的數(shù)就是上溢,超過最小能表示的數(shù)就是下溢,只要計(jì)算出最大和最小能表示的數(shù)十多大就可以得出上下溢出的極限:
上溢極限:
上溢極限
下溢極限:
下溢極限
以上關(guān)于本文的內(nèi)容,僅作參考!溫馨提示:如遇健康、疾病相關(guān)的問題,請您及時(shí)就醫(yī)或請專業(yè)人士給予相關(guān)指導(dǎo)!
「愛刨根生活網(wǎng)」www.malaban59.cn小編還為您精選了以下內(nèi)容,希望對您有所幫助:- 網(wǎng)絡(luò)語言縮寫真的好嗎? yyds什么意思是什么梗
- 什么是網(wǎng)絡(luò)語言?
- 如何確認(rèn)伴侶愛的語言
- 漢語言文學(xué)”專業(yè)有啥用?如果你還在猶豫,不妨進(jìn)來看看
- 語言暴力的形成原因有哪些
- 現(xiàn)代流行語言
- 嵐語是什么語言 嵐語是什么意思
- 網(wǎng)絡(luò)語言 來歷
- 語言暴力屬于冷暴力嗎
- 冷暴力與語言暴力有哪些區(qū)別
