计算机计算小数的方法


以0.5为例,0.5*2=1,所以二进制表示为0.10

以0.625为例,0.625*2=1.25,所以二进制表示为0.101

而这种情况下,0.1是无限循环状态,所以我们使用IEEE 754标准,即float,与double使用sem序列,表达式为n=(-1)^s*m*2^e

  当n<0时,s=1,n>=0,s=0;

  m是尾数位,有效数字位;e是n的指数位。

注意:JAVA当中不要用float与double进行金额计算,会发生精度丢失,建议使用BigDecimal来计算。

本文链接:https://zhuanlan.zhihu.com/p/265281184


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM