对传统线性最小二乘法的扩展

对传统线性最小二乘法的扩展

[摘 要] 最小二乘法因其在数据处理方面的优越性，一直广泛应用于科学计算和生产应用各领域。但在实际应用中，却发现传统的最小二乘法在处理结果上还有一些不尽人意之处。本文将提出一些改进的算法。

[关键词] 传统线性最小二乘法    加权最小二乘法

一、引言

在科学实验和生产经验中，经常要从一组实验数据（xi，yi）（i=1,2,…,m）出发，寻求函数y=f(x)的一个近似表达式y=(x)（称为经验公式），以用来预测数据的变化情况。即根据给定的m个点（xi，yi），求曲线y=f(x)的一条近似曲线y=(x)，这是一个曲线拟合问题。

首先，由实验提供的数据通常带有测试误差。如果要求近似曲线y=(x)严格通过每个数据点（xi，yi），就会使曲保留原有的测试误差。当个别数据的误差比较大时插值效果显然是不理想的。其次，由实验提供的数据往往较多，用插值法得到近似表达式，明显缺乏实用价值。

二、传统的线性最小二乘法

2.1基本原理

在一般情况下，我们不能要求近似曲线y=(x)严格地通过每一个数据点（xi，yi），亦即不能要求拟合函数在所有xi处的残差i=（xi）－yi（i=1,2,…,m）都有严格地等于零。但是，为了使近似曲线能尽量反映所给数据点地变化趋势，则要求|i |都较小。