原文:深入理解计算机系统(2.7)------浮点数舍入以及运算

上一篇博客我们讲解了二进制小数如何表示以及IEEE浮点标准。而且我们也提到过因为这种表示方法限制了浮点数的范围和精度,浮点数只能近似的表示一个数。 比如 数字 ,我们能用十进制小数 . 准确的表示,但是我们却不能把它准确的表示为一个二进制小数,我们只能通过增加二进制表示的长度来提高表示的精度。如下: 那我们该怎么办呢 舍入 对于不能精确的表示的数,我们采取一种系统的方法,找到 最接近 的匹配值, ...

2017-09-23 09:06 0 6291 推荐指数:

查看详情

深入理解计算机系统(2.8)---浮点数舍入,Java中的舍入例子以及浮点数运算(重要)

前言   上一章我们简单介绍了IEEE浮点标准,本次我们主要讲解一下浮点运算舍入的问题,以及简单的介绍浮点数运算。   之前我们已经提到过,有很多小数是二进制浮点数无法准确表示的,因此就难免会遇到舍入的问题。这一点其实在我们平时的计算当中会经常出现,就比如之前我们提到过的0.3,它就 ...

Thu Oct 03 12:51:00 CST 2013 0 3286
深入理解计算机系统2.7)---二进制浮点数,IEEE标准(重要)

  2.6我们进行了二进制整数运算的最后一役,本次LZ将和各位一起进入浮点数的世界,这里没有无符号,没有补码,但是有各种各样的惊奇。倘若你真正的进入了浮点数的世界,一定会发现它原来是这么有意思,而不是像之前一样,觉得了解浮点数的内容没什么用,只要会简单的使用就行了。当然,这其中也可能有部分猿友 ...

Tue Oct 01 08:22:00 CST 2013 2 7726
计算机系统中的浮点数

人类世界的小数的表示形式 1、我们最习惯的小数表示形式是十进制,形式为:   它的值为: 2、小数的二进制表示法,形式为:   它的值为: IEEE浮点标准 在计算机系统中,因为有字节的限制(C语言中float类型占4字节,double类型占8字节),小数的表示要复杂 ...

Mon Apr 08 18:16:00 CST 2013 3 2697
深入理解计算机系统2.7)------二进制小数和IEEE浮点标准

  整数的表示和运算我们已经讲完了,在实际应用中,整数能够解决我们大部分问题。但是某些需要精确表示的数,比如某件商品的价格,某两地之间的距离等等,我们如果用整数表示将会有很大的出入,这时候浮点数就产生了。   在 20世纪80年代以前,每个计算机厂商都设计了自己表示浮点数的规则,以及对浮点数执行运算 ...

Fri Sep 22 18:27:00 CST 2017 2 5133
深入理解计算机系统

深入理解计算机系统 卡内基·梅隆一门棵。 原书第3版资料. 第三版源码. 原书第2版资料. 计算机系统漫游 源文件到目标文件的翻译过程可分为四个阶段, 这四个阶段的程序被称为预处理器,编译器,汇编器和链接器,它们一起构成了编译系统(compilation ...

Mon May 13 02:40:00 CST 2019 0 773
深入理解计算机系统 CSAPP

Computer Systems A Programmer's perspective 关于进程与线程的相关知识 进程 像hello这样的程序在现代系统上运行时,操作系统会提供一种假象,就好像系统上只有这个程序在运行。程序看上去是独占地使用处理器、主存和I/O设备。处理器看上去就 ...

Sun Feb 20 01:42:00 CST 2022 0 1453
深入理解计算机系统(3.4)---算数与逻辑运算指令详解

引言   上一章我们已经着重讨论了数据传送(或者说复制)指令,相信各位猿友现在都已经对此有一些了解了。说真的,LZ在看第三章的过程中,不断的被汇编的魅力深深的震撼,这些看似简单的汇编指令,却可 ...

Thu Oct 24 07:23:00 CST 2013 0 2694
深入理解计算机系统(2.6)------整数的运算

  前面两篇博客我们详细讲解了计算机中整数的表示,包括有符号和无符号(补码编码)的详细介绍。那么这篇博客我们将对它们的运算有个详细的了解。   在讲解之前首先看下面的一个程序,看看输出结果是啥? #include <stdio.h> int main() { int i ...

Thu Sep 21 20:13:00 CST 2017 2 2900
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM