• 回答数

    4

  • 浏览数

    118

爱吃之虎虎
首页 > 英语培训 > 精度范围英文

4个回答 默认排序
  • 默认排序
  • 按时间排序

越来越有感觉

已采纳

float占用4个字节,也就是32个比特。 double占用8个字节,也就是64个比特lei。 float和double的范围是由指数的位数来决定的。float的指数范围为-127--128,double的范围是-1023-1024。 负指数决定了绝对值最小的非零数,正指数决定了绝对值最大的数。也即决定了范围。 也即float的范围为-2^128-2^128,double的范围是-2^1024-2^1024。 float和double的精度是由尾数位决定的。浮点数在内存中是按照科学计数法来存储的,其整数部分始终是一个隐藏着的1。由于他是不变的,因此对精度不会造成影响的。 float精度范围是:2^23一共7位,因此最多能表示7位,但是能保证的是6位。 double的精度范围是2^52一共16位,同理最多能表示16位,但是能保证的是15位。

精度范围英文

329 评论(12)

淡淡蓝郁

±(0.25%F.S.+1digit),其中F.S.为英文full scale缩写,意即满量程的意思,digit中文意思为数字,是指仪表显示值最后一位,也叫最小分辨率。 精度计算举例:某温控仪表的精度为±(0.25%F.S.+1digit),T型热电偶输入范围为-199.9~400.0℃,那么满量程=400+199.9=599.9℃,因为显示值带有一位小数,所以最小分辨率为0.1℃,则1digit=0.1℃。 即,接T型热电偶时的此仪表的精度=±(0.25%F.S.+1digit)=±(0.25%×599.9+0.1)=1.59975≈1.6℃。 其他类型传感器输入时,仪表精度计算方法同上。其他仪表精度算法与与此类似。

115 评论(15)

dongdong88z

表示该设备的误差允许范围是±(0.25%F.S.+1digit)就是±(0.25%×量程+1个字)这个是数字显示的?

191 评论(14)

夢女孩儿

应是仪表量程的0.25%,再加上最后一位显示值。

224 评论(10)

相关问答