《origin曲線擬合.ppt》由會員分享,可在線閱讀,更多相關《origin曲線擬合.ppt(46頁珍藏版)》請在裝配圖網上搜索。
1、第三章 曲線擬合的最小二乘法 /函數平方逼近初步,Numerical Analysis,曲線擬合問題: (建立試驗數據的模型) 在實際應用中,往往并不需要曲線通過給定的數據點,而只要求用曲線(函數)近似代替給定的列表函數時,其 誤差在某種度量意義下最小。 函數逼近問題: (連續(xù)函數的逼近) 在實際應用中常需為解析式子比較復雜的函數尋找一個簡單函數來近似代替它,并要求其誤差在某種度量意義下最小。 可統(tǒng)稱為最佳逼近問題, 3.1 擬合與逼近問題,,,一. 問題的提出,插值法是使用插值多項式來逼近未知或復雜函數的, 它要求插值函數與被插函數在插值節(jié)點上函數值相同 , 而在其他點上沒有要求。在
2、非插值節(jié)點上有時函數值 會相差很大。若要求在被插函數的定義區(qū)間上都有 較好的近似,就是最佳逼近問題。,必須找到一種度量標準來衡量什么是最佳逼近.,最佳一致逼近是在函數空間 M中選 P(x) 滿足 但由于絕對值函數不宜進行分析運算,常替之以 來討論,于是最佳逼近問題變?yōu)樽罴哑椒奖平鼏栴} 這即為連續(xù)函數的最佳平方逼近. 對于離散的問題,最佳平方逼近問題為: 就是常說的曲線擬合的最小二乘法.,最佳逼近,,,,,二. 預備知識,內積:,常采用的內積與范數,1.正交函數族與正交多項式 定義1 若f(x),g(x)Ca,b, (x)為a,b上的權函數 且滿足: 則稱f(x)與g(x)在a,b上帶權(
3、x)正交。,正交多項式,,若函數族 0(x), 1(x), , n(x), 滿足關系 則稱k(x)是a,b上帶權(x)的正交函數族。 例如,三角函數族 1 ,cosx , sinx , cos2x , sin2x , 就是在區(qū)間 -, 上的正交函數族。,,定義2 設 n(x) 是a,b上首項系數 an0 的 n次多項式,(x)為a,b上權函數,如果多項式序列 滿足關系式: 則稱為多項式序列 為在a,b上帶權(x)正交,稱n(x)為a,b上帶權(x)的n次正交多項式。,,,只要給定區(qū)間a,b及權函數(x), 均可由一族線性無關的冪函數 1 , x , , xn ,
4、利用逐個正交化手續(xù)(Gram-Schmidt正交化方法): 構造出正交多項式序列 。,,,2.勒讓德多項式,定義3 當區(qū)間為 -1,1, 權函數 (x) 1 時, 由1,x,,xn ,正交化得到的多項式就稱為勒讓德 (Legendre) 多項式,并用 P0(x),P1(x),,Pn(x), 表示。 這是勒讓德于1785年引進的。1814年羅德利克(Rodrigul) 給出了簡單的表達式:,,由于(x2 -1)n 是2n次多項式,求n階導數后得到 于是得首項 xn 的系數 顯然最高項系數為1的勒讓德多項式為:,,,勒讓德多項式有下述幾個重要性質: 性質1. 正交性 性質2.奇偶性
5、 pn(-x)=(-1)n pn (x) 性質3.遞推關系(n+1)pn+1(x)=(2n+1)xpn(x)-npn-1(x) (n=1,2,) (*) 由p0(x)=1,p1(x)=x,利用 (*) 就可推出pn(x)的 表達式:,,性質4. pn(x) 在區(qū)間-1,1內有n個不同的實零點。,,,,實例:考察某種纖維的強度y與其拉伸倍數x的關系,下表是實際測定的24個纖維樣品的強度與相應的拉伸倍數的記錄:,一. 實例講解,3.2 曲線擬合(最小二乘法),纖維強度隨拉伸 倍數增加而增加,,并且24個點大致分 布在一條直線附近,,---------(1),,,,,必須找到一
6、種度量標準來衡量什么曲線最接近所有數據點.,,,二、 問題的提法,定義平方誤差(偏差平方和):,我們選取的度量標準是,---------(2),---------(3),,,使得,,,,,,,,,,,三、法方程組,由,可知,因此可假設,因此求最小二乘解轉化為,二次函數,,,由多元函數取極值的必要條件,得,即,,,---------(4),即,,,引入記號,則由內積的概念可知,---------(5),---------(6),顯然內積滿足交換律,,,方程組(4)便可化為,---------(7),將其表示成矩陣形式,-----(8),,,,并且其系數矩陣為對稱陣.,根據Cramer法則,法方程
7、組有唯一解,,,,即,是,的最小值,所以,因此,,,,作為一種簡單的情況,,基函數之間的內積為,,,平方誤差,例1. 回到本節(jié)開始的實例,從散點圖可以看出,纖維強度和拉伸倍數之間近似與線性關系,故可選取線性函數,為擬合函數,其基函數為,建立法方程組,根據內積公式,可得,,,法方程組為,解得,平方誤差為,,,擬合曲線與散點 的關系如右圖:,,,四、加權最小二乘法,各點的重要性可能是不一樣的,權:,即權重或者密度,統(tǒng)稱為權系數.,定義加權 平方誤差為,-----(9),,,使得,,,由多元函數取極值的必要條件,得,即,,,引入記號,定義加權內積,-----(10),,,矩陣形式(法方程組)為,方程
8、組(10)式化為,-----(11),---(12),,,平方誤差為,作為特殊情形,用多項式作擬合函數的法方程組為,-----(13),五、最小二乘原理的其他應用,1、算術平均:最小二乘意義下誤差最小 2、超定方程組的最小二乘解 P103 例3.3.3,3.3 連續(xù)函數的最佳平方逼近,1. 最佳平方逼近問題,-----(14),2. 解法(法方程),-----(15),最小二乘法方法評注,曲線擬合的最小二乘法是實驗數據處理的常用方法。最佳逼近可以在一個區(qū)間上比較均勻的逼近函數。具有方法簡單易行,實效性大,應用廣泛等特點。 但當法方程組階數較高時,往往出現病態(tài)。因此必須謹慎對待和加以巧妙處理。有效方法之一是引入正交多項式以改善其病態(tài)性(簡介基本思想)。,,See you next chapter!,復習題 P32 例1.8.3 習題 3.13.3、3.6、3.7、3.9 3.13(1)、3.20,