有效数字是指在数值比较或运算中,包含信息至某一有效位数的那些数字。在一个近似数中,有效数字位数取决于最后那个不确定的数字。如果要确定的近似数是 (23.496),而近似值是 (23.494),这里的近似值是以精确值的小数点后第三位进行四舍五入的。
精确到的小数位是 (t$ 或千分位,即到 [a3,4,...])。
在计算或公布数据时常常使用这种表示法:
对于 (23.494) 来说,有效数字由最后的不确定数字确定,即第二位的4。但由于用的是四舍五入规则,第二位的4就构成一个不确定位,所以:
根据这些信息,通常我们不能完全确定不确定位的具体数值,所以认为有效数字位数到第2位即到确信的3为止。
所以,近似值 (23.494) 的有效数字位数为 3位。