向量到子空間的距離最小二乘法.ppt

《向量到子空間的距離最小二乘法.ppt》由會員分享，可在線閱讀，更多相關(guān)《向量到子空間的距離最小二乘法.ppt（16頁珍藏版）》請在裝配圖網(wǎng)上搜索。

1、2 標準正交基,3 同構(gòu),4 正交變換,1 定義與基本性質(zhì),6 對稱矩陣的標準形,8酉空間介紹,7 向量到子空間的 距離最小二乘法,第九章 歐幾里得空間,5 子空間,一、向量到子空間的距離,9.7 向量到子空間的距離,二、最小二乘法,1、向量間的距離,長度 稱為向量 和 的距離，,基本性質(zhì),（i）,（ii） 并且僅當 的等號才成立；,（iii）(三角形不等式),一、向量到子空間的距離,定義,記為,2、向量到子空間的距離,(1) 設(shè) 為一固定向量 ，如果 與子空間 中,每個向量垂直， 稱 垂直于子空間 記作,如果 則,注意,(2) 向量到子空間中的各向量的距離以垂線為最短.,如

2、圖示意，對給定 ，設(shè) 是 中的滿足,的向量，,對 有,則,因 是子空間，,則,由勾股定理,證：,故,所以,二、最小二乘法,問題提出,實系數(shù)線性方程組,,即任意,,不等于零,可能無解，,都可能使,設(shè)法找實數(shù)組,這樣的,此問題叫最小二乘法問題.,使最小,,為方程組的最小二乘解,（least squares solution），,最小二乘法的表示,設(shè),,用距離的概念，就是,由, 設(shè)則,要找 使最小，等價于找子空間,中向量 使 到它的距離 比到,中其它向量的距離都短.,設(shè),這等價于,,即,這樣等價于,,為此必,或,這就是最小二乘解所滿足的代數(shù)方程.,已知某種材料在生產(chǎn)過程中的廢品率 與某種,化學成份 有關(guān)下列表中記載了某工廠生產(chǎn)中,與相應的 的幾次數(shù)值：,找出 對 的一個近似公式.,例1,把表中數(shù)值畫出圖來看，發(fā)現(xiàn)它的變化趨勢,近于一條直線因此我們決定選取 的一次式,來表達當然最好能選到適當?shù)?使得下面的等式,解：,都成立.,實際上是不可能的任何 代入上面各式都發(fā)生,些誤差.于是想找到 使得上面各式的誤差的平方,和最小，即找 使,最小.,最小二乘解 所滿足的方程就是,易知,解得,即為,