《計(jì)量經(jīng)濟(jì)學(xué)（第四版）》教學(xué)PPT課件

《計(jì)量經(jīng)濟(jì)學(xué)（第四版）》教學(xué)PPT課件,計(jì)量經(jīng)濟(jì)學(xué)（第四版）,計(jì)量,經(jīng)濟(jì)學(xué),第四,教學(xué),PPT,課件 2.3 2.3 一元線性回歸模型的參數(shù)估計(jì)一元線性回歸模型的參數(shù)估計(jì)(Estimation of Simple Linear Regression Model)一、參數(shù)的普通最小二乘估計(jì)（一、參數(shù)的普通最小二乘估計(jì)（OLSOLS）二、參數(shù)估計(jì)的最大或然法二、參數(shù)估計(jì)的最大或然法(ML)(ML)三、參數(shù)估計(jì)的矩法三、參數(shù)估計(jì)的矩法(MM)(MM)四、最小二乘估計(jì)量的性質(zhì)四、最小二乘估計(jì)量的性質(zhì) 五、參數(shù)估計(jì)量的概率分布及隨機(jī)干五、參數(shù)估計(jì)量的概率分布及隨機(jī)干 擾項(xiàng)方差的估計(jì)擾項(xiàng)方差的估計(jì) 一、參數(shù)的普通最小二乘估計(jì)（一、參數(shù)的普通最小二乘估計(jì)（OLSOLS）1 1、最小二乘原理、最小二乘原理根據(jù)被解釋變量的所有觀測(cè)值與估計(jì)值之差的根據(jù)被解釋變量的所有觀測(cè)值與估計(jì)值之差的平方和最小的原則求得參數(shù)估計(jì)量。平方和最小的原則求得參數(shù)估計(jì)量。為什么取平方和？為什么取平方和？2 2、正規(guī)方程組、正規(guī)方程組該關(guān)于參數(shù)估計(jì)量的線性方程組稱為該關(guān)于參數(shù)估計(jì)量的線性方程組稱為正規(guī)方程正規(guī)方程組組（normal equations）。）。3 3、參數(shù)估計(jì)量、參數(shù)估計(jì)量求解正規(guī)方程組得到結(jié)構(gòu)參數(shù)的普通最小二乘求解正規(guī)方程組得到結(jié)構(gòu)參數(shù)的普通最小二乘估計(jì)量估計(jì)量（ordinary least squares estimators）及其離差形式：及其離差形式：4 4、“估計(jì)量估計(jì)量”（estimator）和）和“估計(jì)值估計(jì)值”(estimate)的區(qū)別的區(qū)別 如果給出的參數(shù)估計(jì)結(jié)果是由一個(gè)具體樣本資料如果給出的參數(shù)估計(jì)結(jié)果是由一個(gè)具體樣本資料計(jì)算出來(lái)的，它是一個(gè)計(jì)算出來(lái)的，它是一個(gè)“估計(jì)值估計(jì)值”，或者，或者“點(diǎn)估點(diǎn)估計(jì)計(jì)”，是參數(shù)估計(jì)量的一個(gè)具體數(shù)值；，是參數(shù)估計(jì)量的一個(gè)具體數(shù)值；如果把上式看成參數(shù)估計(jì)的一個(gè)表達(dá)式，那么，如果把上式看成參數(shù)估計(jì)的一個(gè)表達(dá)式，那么，則是則是Y Yi i的函數(shù)，而的函數(shù)，而Y Yi i是隨機(jī)變量，所以參數(shù)估計(jì)也是隨機(jī)變量，所以參數(shù)估計(jì)也是隨機(jī)變量，在這個(gè)角度上，稱之為是隨機(jī)變量，在這個(gè)角度上，稱之為“估計(jì)量估計(jì)量”。5 5、例題（采用、例題（采用EviewsEviews進(jìn)行進(jìn)行OLSOLS估計(jì)）估計(jì)）數(shù)據(jù)數(shù)據(jù)OLS估計(jì)估計(jì)二、參數(shù)估計(jì)的最大似然法二、參數(shù)估計(jì)的最大似然法(ML)(ML)1 1、最大似然法、最大似然法最大似然法最大似然法(Maximum Likelihood,ML)，也稱，也稱最大或然法最大或然法，是不同于最小二乘法的另一種參，是不同于最小二乘法的另一種參數(shù)估計(jì)方法，是從最大或然原理出發(fā)發(fā)展起來(lái)數(shù)估計(jì)方法，是從最大或然原理出發(fā)發(fā)展起來(lái)的其它估計(jì)方法的基礎(chǔ)。的其它估計(jì)方法的基礎(chǔ)?；驹恚夯驹恚寒?dāng)從模型總體隨機(jī)抽取當(dāng)從模型總體隨機(jī)抽取n組樣本觀組樣本觀測(cè)值后，最合理的參數(shù)估計(jì)量應(yīng)該使得從模型測(cè)值后，最合理的參數(shù)估計(jì)量應(yīng)該使得從模型中抽取該中抽取該n組樣本觀測(cè)值的概率最大。組樣本觀測(cè)值的概率最大。ML必須已知隨機(jī)項(xiàng)的分布。必須已知隨機(jī)項(xiàng)的分布。2 2、估計(jì)步驟、估計(jì)步驟Yi的分布Yi的概率函數(shù) Y的所有樣本觀測(cè)值的聯(lián)合概率似然函數(shù) 對(duì)數(shù)似然函數(shù) 對(duì)數(shù)似然函數(shù)極大化的一階條件結(jié)構(gòu)參數(shù)的ML估計(jì)量3 3、討論、討論在滿足一系列基本假設(shè)的情況下，模型結(jié)構(gòu)參在滿足一系列基本假設(shè)的情況下，模型結(jié)構(gòu)參數(shù)的數(shù)的最大似然估計(jì)量最大似然估計(jì)量與與普通最小二乘估計(jì)量普通最小二乘估計(jì)量是是相同的。相同的。但是，分布參數(shù)的估計(jì)結(jié)果不同。但是，分布參數(shù)的估計(jì)結(jié)果不同。4 4、例題、例題ML估計(jì)估計(jì)三、參數(shù)估計(jì)的矩法三、參數(shù)估計(jì)的矩法(MM)(MM)矩估計(jì)的基本原理矩估計(jì)的基本原理是用相應(yīng)的樣本矩來(lái)估計(jì)總體是用相應(yīng)的樣本矩來(lái)估計(jì)總體矩。矩。對(duì)一元線性回歸模型，在滿足基本假設(shè)時(shí)，存在兩個(gè)對(duì)一元線性回歸模型，在滿足基本假設(shè)時(shí)，存在兩個(gè)總體矩條件。總體矩條件。相應(yīng)的樣本矩條件構(gòu)成關(guān)于待估參數(shù)的正規(guī)方程組。相應(yīng)的樣本矩條件構(gòu)成關(guān)于待估參數(shù)的正規(guī)方程組。求解該方程組，得到參數(shù)估計(jì)。求解該方程組，得到參數(shù)估計(jì)。參數(shù)估計(jì)與參數(shù)估計(jì)與OLS估計(jì)相同。估計(jì)相同。由基本假設(shè)，寫(xiě)出兩個(gè)總體矩條件由基本假設(shè)，寫(xiě)出兩個(gè)總體矩條件 相應(yīng)的樣本矩條件構(gòu)成正規(guī)方程組相應(yīng)的樣本矩條件構(gòu)成正規(guī)方程組MM估計(jì)估計(jì)四、最小二乘估計(jì)量的性質(zhì)四、最小二乘估計(jì)量的性質(zhì)1 1、概述、概述當(dāng)模型參數(shù)估計(jì)出后，需考慮參數(shù)估計(jì)值的精當(dāng)模型參數(shù)估計(jì)出后，需考慮參數(shù)估計(jì)值的精度，即是否能代表總體參數(shù)的真值，或者說(shuō)需度，即是否能代表總體參數(shù)的真值，或者說(shuō)需考察參數(shù)估計(jì)量的統(tǒng)計(jì)性質(zhì)?？疾靺?shù)估計(jì)量的統(tǒng)計(jì)性質(zhì)。準(zhǔn)則：準(zhǔn)則：線性性線性性(linear)，即它是否是另一隨機(jī)變量的線性，即它是否是另一隨機(jī)變量的線性函數(shù)；函數(shù)；無(wú)偏性無(wú)偏性(unbiased)，即它的均值或期望值是否等于，即它的均值或期望值是否等于總體的真實(shí)值；總體的真實(shí)值；有效性有效性(efficient)，即它是否在所有線性無(wú)偏估，即它是否在所有線性無(wú)偏估計(jì)量中具有最小方差。計(jì)量中具有最小方差。這三個(gè)準(zhǔn)則也稱作估計(jì)量的這三個(gè)準(zhǔn)則也稱作估計(jì)量的小樣本性質(zhì)小樣本性質(zhì)。擁有擁有這類(lèi)性質(zhì)的估計(jì)量稱為這類(lèi)性質(zhì)的估計(jì)量稱為最佳線性無(wú)偏估計(jì)量最佳線性無(wú)偏估計(jì)量（best liner unbiased estimator,BLUE）。當(dāng)不滿足小樣本性質(zhì)時(shí)，需進(jìn)一步考察估計(jì)量當(dāng)不滿足小樣本性質(zhì)時(shí)，需進(jìn)一步考察估計(jì)量的的大樣本或漸近性質(zhì)大樣本或漸近性質(zhì)(asymptotic properties)：漸漸近近無(wú)無(wú)偏偏性性，即即樣樣本本容容量量趨趨于于無(wú)無(wú)窮窮大大時(shí)時(shí)，是是否否它它的的均值序列趨于總體真值；均值序列趨于總體真值；一一致致性性，即即樣樣本本容容量量趨趨于于無(wú)無(wú)窮窮大大時(shí)時(shí)，它它是是否否依依概概率率收斂于總體的真值；收斂于總體的真值；漸漸近近有有效效性性，即即樣樣本本容容量量趨趨于于無(wú)無(wú)窮窮大大時(shí)時(shí)，是是否否它它在在所有的一致估計(jì)量中具有最小的漸近方差。所有的一致估計(jì)量中具有最小的漸近方差。2、高斯、高斯馬爾可夫定理馬爾可夫定理(Gauss-Markov theorem)在給定經(jīng)典線性回歸的假定下，最小二乘估計(jì)在給定經(jīng)典線性回歸的假定下，最小二乘估計(jì)量是具有最小方差的線性無(wú)偏估計(jì)量。量是具有最小方差的線性無(wú)偏估計(jì)量。下面分別對(duì)最小二乘估計(jì)量的線性性、無(wú)偏性下面分別對(duì)最小二乘估計(jì)量的線性性、無(wú)偏性和有效性進(jìn)行證明，作為不熟悉的同學(xué)的自學(xué)和有效性進(jìn)行證明，作為不熟悉的同學(xué)的自學(xué)內(nèi)容。內(nèi)容。證：證：易知故同樣地，容易得出（2）證明最小方差性其中，ci=ki+di，di為不全為零的常數(shù)則容易證明由于最小二乘估計(jì)量擁有一個(gè)由于最小二乘估計(jì)量擁有一個(gè)“好好”的估計(jì)量所應(yīng)的估計(jì)量所應(yīng)具備的小樣本特性，它自然也擁有大樣本特性具備的小樣本特性，它自然也擁有大樣本特性。五、參數(shù)估計(jì)量的概率分布及隨機(jī)干五、參數(shù)估計(jì)量的概率分布及隨機(jī)干擾項(xiàng)方差的估計(jì)擾項(xiàng)方差的估計(jì)1 1、參數(shù)估計(jì)量的概率分布、參數(shù)估計(jì)量的概率分布 2 2、隨機(jī)干擾項(xiàng)、隨機(jī)干擾項(xiàng) 的方差的方差 2 2的估計(jì)的估計(jì) 2又稱為又稱為總體方差總體方差。由于隨機(jī)項(xiàng)由于隨機(jī)項(xiàng) i i不可觀測(cè)，只能從不可觀測(cè)，只能從 i i的估計(jì)的估計(jì)殘殘差差ei i出發(fā)，對(duì)總體方差進(jìn)行估計(jì)。出發(fā)，對(duì)總體方差進(jìn)行估計(jì)。可以證明可以證明，2的最小二乘估計(jì)量最小二乘估計(jì)量為：它是關(guān)于它是關(guān)于 2的無(wú)偏估計(jì)量。的無(wú)偏估計(jì)量。在在最大或然估計(jì)法最大或然估計(jì)法中，求解似然方程：中，求解似然方程：2 2的的最最大大或或然然估估計(jì)計(jì)量量不不具具無(wú)無(wú)偏偏性性，但但卻卻具具有有一一致性致性。