舍入误差(Round-off error)是由于计算机有效数位的限制,在计算过程中,对数据的四舍五入造成的误差。采用双精度浮点数,可以降低舍入误差。
对
举一反三
内容
- 0
( )误差是在计算过程中对数字进行舍入后形成的。
- 1
数值计算过程中一般会产生( )误差。 A: 截断误差 B: 混淆误差 C: 舍入误差 D: 随机误差 E: 反演误差
- 2
数值计算讨论的主要误差是( )。 A: 模型误差 B: 观测误差 C: 方法误差 D: 舍入误差
- 3
误差在数值计算中是不可避免的,以下哪个误差根据测量工具或仪器本身的精度可以知道其误差的上限值?( ) A: 舍入误差 B: 截断误差 C: 观测误差 D: 模型误差
- 4
用一个算法进行计算,由于初始数据误差(由舍入误差造成的)在计算中传播使计算结果误差增长很快,则称该算法是数值不稳定的.