数值计算误差初步理解及简单分析

(整期优先)网络出版时间:2011-03-13
/ 1
介绍了数值计算中的误差类别,用数学表达式举例,说明了截断误差,根据IEEE754标准用数学表达式说明了舍入误差;并对截断误差与舍入误差进行了简单的分析;最后给出了数值计算中应注意的事项。