float數據類型研究,發現其能顯示的有效數字極為有限




1. 范圍
  float和double的范圍是由指數的位數來決定的。
  float的指數位有8位,而double的指數位有11位,分布如下:
  float:
  1bit(符號位) 8bits(指數位) 23bits(尾數位)
  double:
  1bit(符號位) 11bits(指數位) 52bits(尾數位)
  於是,float的指數范圍為-127~+128,而double的指數范圍為-1023~+1024,並且指數位是按補碼的形式來划分的。
  其中負指數決定了浮點數所能表達的絕對值最小的非零數;而正指數決定了浮點數所能表達的絕對值最大的數,也即決定了浮點數的取值范圍。
  float的范圍為-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;double的范圍為-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308。

2.  精度
  float和double的精度是由尾數的位數來決定的。浮點數在內存中是按科學計數法來存儲的,其整數部分始終是一個隱含着的“1”,由於它是不變的,故不能對精度造成影響。
  float:2^23 = 8388608,一共七位,這意味着最多能有7位有效數字,但絕對能保證的為6位,也即float的精度為6~7位有效數字;
  double:2^52 = 4503599627370496,一共16位,同理,double的精度為15~16位。

 

博主測試:

public class TestFloat : MonoBehaviour {

	public float f = 0f;
	public double f2 = 0f;

	// Use this for initialization
	void Start () {

		f = 123456700.987654321f;//89換成00則不會進行四舍五入
		f2 = 123456789.987654321d;//如果是f就成單精度的了

		Debug.Log (f);

		Debug.Log (f2);
	}

 

 

 

輸出

1.234567E+08  

 

*1.234568E+08(四舍五入)

 

小數部分全部丟失

 

123456789.987654

 

小數部分丟失了一些

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM