float 的有效數字為七位是怎么得出來的


以下內容來自CSDN網友xian_wwq的回答(http://bbs.csdn.net/topics/390874239):

float:
   1bit(符號位) 8bits(指數位) 23bits(尾數位)
精度是由尾數的位數來決定的
float:2^23 = 8388608,一共七位,這意味着最多能有7位有效數字,
但絕對能保證的為6位,也即float的精度為6~7位有效數字;


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM