ADC的分辨率被定義為輸入信號值的最小變化，這個最小數值變化會改變數字輸出值的一個數值。對於一個理想ADC來說，傳遞函數是一個步寬等於分辨率的階梯。然而，在具有較高分辨率的系統中（≥16位），傳輸函數的響應將相對於理想響應有一個較大的偏離。這是因為ADC以及驅動器電路導致的噪聲會降低ADC的分辨率。
A/D轉換器的精確度是指對於給定模擬輸入，實際數字輸出與理論預期數字輸出之間的接近度。換而言之，轉換器的精確度決定了數字輸出代碼中有多少個比特表示有關輸入信號的有用信息。
上圖是基本ADC的測量電路，理想ADC生成一個數字輸出代碼，是關於模擬信號電壓和電壓參考輸入的方程，其中輸出代碼 ＝滿量程壓 × [VIN+ - VIN-] / [VREF+ - VREF-] ＝ 滿量程電壓 × [VIN /VREF]
每個數字輸出代碼表示參考電壓的一個小數值。必須注意，ADC動態范圍將要轉換的信號的最大振幅，這樣才能使ADC轉換精度最大化。
如上圖所示 ，假設Vin = 2.5V，Vref = 3.3V，那么對於16位ADC，最低有效位就為 3.3/2^16 = 50.35uV，如果ADC的最大信號為2.5V，那么 2.5 / 1LSB = 49652,結果有15884未被利用，這次轉換后的精度或ENOB損失就為0.4位。ENOB(有效位數) ＝1.44ln(滿量程/LSB) ，損失 = 總的位數 - ENOB；
，