越来越有感觉
float占用4个字节,也就是32个比特。 double占用8个字节,也就是64个比特lei。 float和double的范围是由指数的位数来决定的。float的指数范围为-127--128,double的范围是-1023-1024。 负指数决定了绝对值最小的非零数,正指数决定了绝对值最大的数。也即决定了范围。 也即float的范围为-2^128-2^128,double的范围是-2^1024-2^1024。 float和double的精度是由尾数位决定的。浮点数在内存中是按照科学计数法来存储的,其整数部分始终是一个隐藏着的1。由于他是不变的,因此对精度不会造成影响的。 float精度范围是:2^23一共7位,因此最多能表示7位,但是能保证的是6位。 double的精度范围是2^52一共16位,同理最多能表示16位,但是能保证的是15位。
淡淡蓝郁
±(0.25%F.S.+1digit),其中F.S.为英文full scale缩写,意即满量程的意思,digit中文意思为数字,是指仪表显示值最后一位,也叫最小分辨率。 精度计算举例:某温控仪表的精度为±(0.25%F.S.+1digit),T型热电偶输入范围为-199.9~400.0℃,那么满量程=400+199.9=599.9℃,因为显示值带有一位小数,所以最小分辨率为0.1℃,则1digit=0.1℃。 即,接T型热电偶时的此仪表的精度=±(0.25%F.S.+1digit)=±(0.25%×599.9+0.1)=1.59975≈1.6℃。 其他类型传感器输入时,仪表精度计算方法同上。其他仪表精度算法与与此类似。
优质英语培训问答知识库