我猜作为开发工程师，大部分人都用过浮点数。但是你是否用对了呢？你是否知道，浮点数有近一半的值，在-1与+1以内呢？ 本节大纲有： 1、基本数据类型 2、认识浮点数规律 3、我在浮点数上踩过的坑 在计算机的眼中，一切都是数字 ...

平时接触C及Java较多，这种层次的语言对数据的表示有一定局限。基本的数据类型无外呼整数和浮点数。整数好说，一般仅需考虑越界问题。但对于浮点数，除了范围外，通常很容易忽略精度问题。 浮点数为什么会有精度问题？计算机中的浮点数对应于数学当中的小数。简单计算下，32位 ...

浮点数在内存中的存储机制喝整形数据不同，有舍入误差，在计算机中用近似表示任意某个实数。具体来说，这个数由一个整数或定点数（即尾数）乘以某个基数（计算机中通常是2）的整数次幂得到。这种表示方法类似于基数为10的科学计数法。所以浮点数在运算过程中随着因为无法精确表示而进行的近似或舍入。但是这种设计 ...

　　上一篇博客我们讲解了二进制小数如何表示以及IEEE浮点标准。而且我们也提到过因为这种表示方法限制了浮点数的范围和精度，浮点数只能近似的表示一个数。 　　比如 数字1/5，我们能用十进制小数 0.2 准确的表示，但是我们却不能把它准确的表示为一个二进制小数，我们只能通过增加二进制表示的长度 ...

前言 　　上一章我们简单介绍了IEEE浮点标准，本次我们主要讲解一下浮点运算舍入的问题，以及简单的介绍浮点数的运算。 　　之前我们已经提到过，有很多小数是二进制浮点数无法准确表示的，因此就难免会遇到舍入的问题。这一点其实在我们平时的计算当中会经常出现，就比如之前我们提到过的0.3，它就 ...

2020-04-08 21:54:53 1 DSP中的数据表述DSP中数据通常是有定点数与浮点数表示，其中可以对字长进行相关定义，可以选取字长为16位、24位、32位不同字长使用。而格式与字长决定了数据的精度与动态范围，同时也一定程度上决定了DSP处理器的功耗、成本与编程难度。 定点数 ...

　　2.6我们进行了二进制整数运算的最后一役，本次LZ将和各位一起进入浮点数的世界，这里没有无符号，没有补码，但是有各种各样的惊奇。倘若你真正的进入了浮点数的世界，一定会发现它原来是这么有意思，而不是像之前一样，觉得了解浮点数的内容没什么用，只要会简单的使用就行了。当然，这其中也可能有部分猿友 ...

完整版教程下载地址：http://www.armbbs.cn/forum.php?mod=viewthread&tid=94547 第8章 DSP定点数和浮点数（重要） 本期教程主要跟大家讲解一下定点数和浮点数的基础知识，了解这些基础知识对于后面学习ARM官方的DSP库大有裨益 ...