decimal與 float的區別


decimal 數據類型最多可存儲 38 個數字,所有數字都能夠放到小數點的右邊。 decimal 數據類型存儲了一個准確(精確)的數字表達法;不存儲值的近似值。
定義 decimal 的列、變量和參數的兩種特性如下:
· p 小數點左邊和右邊數字之和,不包括小數點。如 123.45,則 p=5,s=2。
指定精度或對象能夠控制的數字個數。
· s
指定可放到小數點右邊的小數位數或數字個數。
p 和 s 必須遵守以下規則:0 <= s <= p <= 38。
numericdecimal 數據類型的默認最大精度值是 38。在 Transact-SQL 中, numeric decimal 數據類型在功能上等效。
當數據值一定要按照指定精確存儲時,可以用帶有小數的 decimal 數據類型來存儲數字。
float real 數據
float real 數據類型被稱為近似的數據類型。在近似數字數據類型方面, floatreal 數據的使用遵循 IEEE 754 標准。
近似數字數據類型並不存儲為多數數字指定的精確值,它們只儲存這些值的最近似值。在很多應用程序中,指定值與存儲值之間的微小差異並不明顯。但有時這些差異也值得引起注意。由於 floatreal 數據類型的這種近似性,當要求精確的數字狀態時, 比如在財務應用程序中,在那些需要舍入的操作中,或在等值核對的操作中,就不使用這些數據類型。這時就要用 integer decimal money smallmone 數據類型。
在 WHERE 子句搜索條件中(特別是 = 和 <> 運算符),應避免使用 floatreal 列。最好限制使用 floatreal 列做> 或 < 的比較。
IEEE 754 規格提供了四種舍入模式:舍入到最接近的值、上舍入、下舍入和舍入到零。Microsoft® SQL Server™ 使用上舍入。所有的數值必須精確到確定的精度,但會產生細小的浮點值變化。因為浮點數字的二進制表示法可以采用很多合法舍入規則中的任意一條,因此我們不可能可靠地量化一個浮點值。
轉換 decimal numeric 數據
對於 decimal numeric 數據類型,Microsoft® SQL Server™ 將精度和小數位數的每個特定組合看作是不同的數據類型。例如, decimal( 5,5) 和 decimal( 5,0) 被當作不同的數據類型。(因此在編存儲過程當中使用的變量采用Real 或 Float,而不采用decimal類型)
在 Transact-SQL 語句中,帶有小數點的常量自動轉換為 numeric 數據值,且必然使用最小的精度和小數位數。例如,常量 12.345 被轉換為 numeric 值,其精度為 5,小數位為 3。
decimal numeric floatreal 轉換會導致精度損失。從 intsmallinttinyintfloatrealmoney smallmoneydecimalnumeric 轉換會導致溢出。
默認情況下,在將數字轉換為較低精度和小數位數的 decimalnumeric 值時,SQL Server 使用舍入法。然而,如果 SET ARITHABORT 選項為 ON,當發生溢出時,SQL Server 會出現錯誤。若僅損失精度和小數位數,則不會產生錯誤。
 
 
Float 的科學計數法與值的問題,問題的根源在於 float 類型本身是一種不精確的數據表示方法, 也就是說, 你放一個數據進去, 拿出來的時候可能會存在一點點點誤差, 而這點點點誤差在做數據比較的時候就會導致數據不一致.


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM