建立什么网站,如何做一起好的视频宣传自己的网站,阿里云网站301重定向怎么做,南京关键词优化服务转载#xff1a;http://blog.csdn.net/turkeyzhou/article/details/2755970 在程序编写的时候#xff0c;我们会忽略一些细节上的问题#xff0c;尤其是写java这种高级语言#xff0c;久而久之#xff0c;我们会对底层缺乏认识#xff0c;这也是为什么前段时间会有人说j…转载http://blog.csdn.net/turkeyzhou/article/details/2755970 在程序编写的时候我们会忽略一些细节上的问题尤其是写java这种高级语言久而久之我们会对底层缺乏认识这也是为什么前段时间会有人说java对学生有害的原因近段时间在重新温习操作系统感觉收获颇丰甚是欣慰今天突然发现一个关于float的小问题若不是仔细回忆差点就忘记啦所以来讨论下public class FloaTest{public static void main(String[] args){float floatNumberA1.0;float floatNumberB0;for(int addCount0;addCount10;addCount){floatNumberB0.1;}if(floatNumberBfloatNumberA){System.out.println(equals); }else{System.out.println(unequals); }}}输出的结果却出乎我们意料是unequals 原因在于计算机在内存表示float的时候都是有误差的我们应该想起在内存float的表示形式
下面引自一边别的文章 首先说一下原,反,补,移码. 移码其实就等于补码,只是符号相反. 对于正数而言,原,反,补码都一样, 对负数而言,反码除符号位外,在原码的基础上按位取反,补码则在反码的基础之上,在其最低位上加1,要求移码时,仍然是先求补码,再改符号. 浮点数分为float和double,分别占4,8个字节,即32,64位. 我仅以32位的float为例,并附带说double. 在IEEE754标准中,规定,float的32位这样分: 符号位(S) 1 阶码(E) 8 尾数(M) 23
这里应该注意三点: A,阶码是用移码表示的,这里会有一个127的偏移量,它的127相当于0,小于127时为负,大于127时为正,比如:10000001表示指数为129-1272,表示真值为2^2,而01111110则表示2^(-1). B, 尾数全都是小数点后面的数, C, 但尾数中省略了一个1,因此尾数全为0时,也是1.0...00; 接下来只要说明几个问题就明白了,以123.456为例,表示为二进制就是:N (2) 1111011. 01110100101111001 ,这里,会右移6位,得到N (2) 1.111011 01110100101111001*2^6; 这种形式就可以用于上图中的表示格式了. 符号位(S) 0 阶码(E) 00000110 尾数(M) 11101101110100101111001 注意到,上面的阶码第一位为0表正,尾数比N(2)表示的第一位少了个1,这就是上面说的默认为第一位为1. 由于在将十进制转为二进制的过程中,常常不能正好转得相等, (当然,像4.0这样的就不会有损失,而1.0/3.0这样的必然损失),所以就产生了浮点数的精度问题, 实际上,小数点后的23位二进制数,能影响的十进制数的前8位,这是为什么呢?一般人在这时往往迷迷胡胡了,其实很简单,在上面表示的尾数中,是二进制的,小数点后有23位,最后一位的值为1时,它就是1/2^220.000000238实际取的时候肯定是0.0000002,也就是说,对于一个float型的浮点数,其有效的位数是从左到右数7位(包括缺省的1才是7位),当到达上面这个第8位时,就不可靠了,但我们的VC6可以输出最长的1.0/3.0为0.33333333333333331,这主要是编译器的问题了, 而并不是说浮点数小数点后的16位都有效. 如果不信的话,可以去试一下double类型的1.0/3.0, 得到的也将是小数点后17位. ..另外,编译器或电路板一般都有去噪声的修正能力,它能够使得超过7位的十进制数即使无效了也不会变得离谱,这也是上面为什么一直都是输出333而不是345之类的,. 可以这样试一下: float f123456789; coutfendl;//这里肯定得到123456789. 这里有一个被人遗忘的问题,就是10进制小数怎么变为2进制小数,其实很简单,就是将10进的小数部分不断乘以2,进位时就将对应的2进制位写入1. 因此将上面的N (2) 1.111011 01110100101111001*2^6;再转回十进制数时,很可能已经不再是123.456了. 好,精度问题应该说清楚了. 下面说示数范围. 阶码的示数位数是8位移码,最大为127最小为-127,这里的127用来作为2的指数,因此为2^127,约等于 1.7014*10^38, 而我们知道,float的示数范围约为-3.4*10^38-------3.4*10^38, 这是因为尾数的24位(默认第一位为1)全为1是,非常接近2, 1.11..11很明显约为2,因此浮点数的范围就出来了. double的情况与float完全相似,只是它的内在形式是 符号位(S) 1 阶码(E) 11 尾数(M) 52 主要的区别在于它的阶码有11位了, 这就有2^1023约等于 0.8572*10^308, 尾数53位约为2,故double的示数范围约为 -1.7*10^308.------1.7*10^308. 至于其精度,同样,1.0/2^514.4*10^(-16).小数点后15位有效,加上缺省的那一位,因此对于double浮点数,从左到右的16位数都是可靠的.有时,我们会听到定点小数这个词,单片机(如手机等)一般只使用定点数,迷糊的时候,我们会以为 float a23.4; 这种是定点小数, float a2.34E1这种为浮点数,其实这是错误的, 上面只是同一个浮点数的不同表示,都是浮点数. 定点小数是有这种提法,认为整就是定点小数,小数点定在个位后面,小数部分为0.也可认为纯小数是定点小数,但它只能表示小于1的纯小数.然后再说一下C/C中的几个函数, C中默认输出小数点后的5位小数,但可以设置,有两种方法:调用setpression或者使用cout.pression,但效果是不同的:float mm123.456789f;coutmmendl; //123.457 虽说默认为不数点后5位,但只是整数部分只有一位才这样.setprecision(10); //设置小数点后的位数,但当整数部分有两位时,与默认情况没什么两样,不起作用.coutmmendl; //123.457cout.precision(4); //设置总的位数.coutmmendl; //123.4 总之效果是比较怪的,个人认为虽然这样显得不够确定,但实为硬件系统所限.无可厚非.对于0的实际表示,有人认为0一般能绝对为0,而-0则可能表示一个极小的数. 为此,本人想到了一种很好的验证办法,证明了不管0还是-0,它都是2^(-127),代码如下:float fDigital 0.0f; unsigned long nMem;// 临时变量用于存储浮点数的内存数据// 将内存按位复制到临时变中以便取用,此时的nMem并不等于fDigital了,它是按位复制的。nMem *(unsigned long*)fDigital;coutnMemendl; //一般得到一个很大的整数.bitset32mybit(nMem);//妙在此处,这里的输出就是32float的内存表示了.终于完全直观地看到了.coutmybitendl; //00000000000000000000000000000000 用-0.0来试,也是如此.如果你还认为上面那一长串的0表示的是绝对的0,那么请重新看本文. 事实上,本人的这种做法是比较巧妙的,将上面的fDigital用任何其它浮点数表示,这个bitset数都可以反映出它的内存表示.有移码表示阶码有是有原因的,主要是移码便于对阶操作,从而比较两个浮点数的大小. 这里要注意的是,阶码不能达到11111111的形式,IEEE规定,当编译器遇到阶码为0XFF时,即调用溢出指令. 总之,阶码化为整数时,范围是:-126~127.最后,有一个往往高手也汗颜的地方,一定要记住,浮点数没有无符号型的usinged float/double是错误的.
