float 类型精度和两数比较大小


  1. Windows VS2008 下,float型精度是7位小数.
  2. 在精度范围内,可以直接用< , > , == 逻辑判断两个float类型数据的大小.
  3. 在精度范围之外,多余数位将被忽略,从而分不同情况 :
  4. 以下是小数位为9,8,7的验证.结果证明 7位为有效小数位数,>7位的都忽略.
  • 若多余位之前的有效位数字相等 , 则判断为两数相等 , 既多余位已经不起作用;
  • 若多余位之前的有效位数字不等, 则依据有效位进行> ,<, == ,>= ,<= 的逻辑判断.
void floatSub() {
	float a = 0.854698762;
	float b = 0.854698763;
	if (a < b) {
		cout<<"a < b\n";
	}
	else if (a == b) {
		cout<<"a = b\n";
	}
	else
		cout<<"a > b\n";
}
void floatSub() {
	float a = 0.85462836;
	float b = 0.85462839;
	if (a < b) {
		cout<<"a < b\n";
	}
	else if (a == b) {
		cout<<"a = b\n";
	}
	else
		cout<<"a > b\n";
}
void floatSub() {
	float a = 0.8546286;
	float b = 0.8546289;
	if (a < b) {
		cout<<"a < b\n";
	}
	else if (a == b) {
		cout<<"a = b\n";
	}
	else
		cout<<"a > b\n";
}
 
 

7位以下小数位都可以进行比较逻辑运算.


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM