今天,写了一个矩阵法求定积分的函数,发现无论如何更改,结果总是0.后来发现是数据类型整错了,进行除法时一定要注意数据类型。
下面将常用的int,float类型分别做除数,被除数看得出的结果如何。
1.int/int 毫无疑问,结果为int型,如1/2,结果为0
2.int/float 结果仍为0
3.float/int 结果为0.500000
4.float/float 结果为0.500000
综上可得,如要得到指定类型的结果,被除数必须为相对应的类型.
今天,写了一个矩阵法求定积分的函数,发现无论如何更改,结果总是0.后来发现是数据类型整错了,进行除法时一定要注意数据类型。
下面将常用的int,float类型分别做除数,被除数看得出的结果如何。
1.int/int 毫无疑问,结果为int型,如1/2,结果为0
2.int/float 结果仍为0
3.float/int 结果为0.500000
4.float/float 结果为0.500000
综上可得,如要得到指定类型的结果,被除数必须为相对应的类型.
本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。