兩種類型
double范圍比decimal大,精度比之低
| 類型 |
大致范圍 |
精度 |
.NET Framework 類型 |
|---|
| double |
±5.0 × 10−324 到 ±1.7 × 10308 |
15 到 16 位 |
| decimal |
(-7.9 x 1028 - 7.9 x 1028) / (100 - 28) |
28 到 29 位有效位 |
如果計算 2^64 次方
結果值是 18446744073709551616 這個數長度是20位,超過了double的15位精度了 如果用double表示, 則會表示為 18446744073709600000 最后五位變成0,並且向前進一位.
如果用decimal表示,沒有超出精度范圍.18446744073709551616M=18446744073709551616 ;
如果計算2^100次方 結果是31位數
2^100 = 1267650600228229401496703205376
則超出了這兩種能表示的精度范圍
-----------------------------------------------------------------------------------------------------------------
最小量子 bit
B(字節) = 8bit
K=2^10 B
M=2^10 K
G=2^10 M
T=2^10 G
P=2^10 T
E=2^10 P
Z=2^10 E
Y=2^10 Z