为什么我们代码将浮点数、整数进行强制转换,或打印输出时会出精度损失,或出错的情况?
想要搞明白这个问题,就需要了解一下整数、浮点数的存储规则。
浮点数存储规则
根据国际标准IEEE(电气和电子工程协会)规定,任何一个浮点数NUM的二进制数可以写为:
NUM = (-1) ^ S * M * 2 ^ E; (S表示符号,E表示阶乘,M表示有效数字) ①当S为0时,表示一个正数;当S为1时,表示一个负数; ②M表示有效数字,1<= M <2; ③2^E表示指数比如十进制的3.0,二进制就是0011.0 就可以写成(-1)^ 0 * 1.1 * 2 ^ 1 再比如十进制的-3.0,二进制就是-0011.0 就可以写成(-1)^ 1 * 1.1 * 2 ^ 1 而规定float类型有一个符号位(S),有8个指数位(E),和23个有效数字位(M) double类型有一个符号位(S),有11个指数位(E),和52个有效数字位(M) 以float类型为例:

测试
代码如下:void test(void){float m=134.375;char *a=(char*)&m;printf("0x%p:%d ",a,*a);printf("0x%p:%d ",a+1,*(a+1) );printf("0x%p:%d ",a+2,*(a+2) );printf("0x%p:%d ",a+3,*(a+3) );}
代码输出结果:

具体的计算过程如下:

精度损失
我们可以把十进制的小数部分乘以2,取整数部分作为二进制的一位,剩余小数继续乘以2,直至不存在剩余小数为止。例如0.2可以转换为:0.2 x 2 = 0.4 00.4 x 2 = 0.8 00.8 x 2 = 1.6 10.6 x 2 = 1.2 10.2 x 2 = 0.4 00.4 x 2 = 0.8 00.8 x 2 = 1.6 1… 即:.0011001…它是一个无限循环的二进制数,这就是为什么十进制小数转换成二进制小数的时候为什么会出现精度损失的情况。 之前前不久给大家分享的《单精度、双精度、多精度和混合精度计算的区别是什么?》可能大家不是很明白,今天看了浮点数的存储规则,你明白了吗?整数的存储规则
理解了浮点数的存储规则,再理解整数就很简单了。
整数在内存中都是以补码的形式进行存储,整数有正负之分。当需存储有符号数时,用第一位来表示正(0)和负(1)。
正数的反码和补码还是它本身,下面主要讨论下负数的反码和补码。反码是其原码除去最高符号位后其余位按位取反,补码是其反码在加上1 。
测试代码:
输出结果:void test(void){int8_t n=-123;uint8_t *p=(uint8_t *)&n;printf("%d ",n);printf("%d ",*p);}

计算过程如下:

审核编辑 :李倩
全部0条评论
快来发表一下你的评论吧 !