考研統(tǒng)計(jì)學(xué)多元回歸知識(shí)要點(diǎn)
應(yīng)用統(tǒng)計(jì)碩士考研需要掌握統(tǒng)計(jì)學(xué)先關(guān)知識(shí)點(diǎn),考研總結(jié)了一些統(tǒng)計(jì)學(xué)要點(diǎn),方便大家進(jìn)行學(xué)習(xí)。下面是有關(guān)多元回歸的知識(shí)點(diǎn),具體內(nèi)容如下。
1.多重共線性
回歸模型中兩個(gè)或兩個(gè)以上的自變量彼此相關(guān)
多重共線性帶來(lái)的問(wèn)題有
可能會(huì)使回歸的結(jié)果造成混亂,甚至?xí)逊治鲆肫缤?/p>
可能對(duì)參數(shù)估計(jì)值的正負(fù)號(hào)產(chǎn)生影響,特別是各回歸系數(shù)的正負(fù)號(hào)有可能同我們預(yù)期的正負(fù)號(hào)相反
2.多重共線性的識(shí)別
檢測(cè)多重共線性的最簡(jiǎn)單的一種辦法是計(jì)算模型中各對(duì)自變量之間的相關(guān)系數(shù),并對(duì)各相關(guān)系數(shù)進(jìn)行顯著性檢驗(yàn)
若有一個(gè)或多個(gè)相關(guān)系數(shù)顯著,就表示模型中所用的自變量之間相關(guān),存在著多重共線性
如果出現(xiàn)下列情況,暗示存在多重共線性
模型中各對(duì)自變量之間顯著相關(guān)。
當(dāng)模型的線性關(guān)系檢驗(yàn)(F檢驗(yàn))顯著時(shí),幾乎所有回歸系數(shù)的t檢驗(yàn)卻不顯著
回歸系數(shù)的正負(fù)號(hào)與預(yù)期的相反。
3.變量選則過(guò)程
在建立回歸模型時(shí),對(duì)自變量進(jìn)行篩選
選擇自變量的原則是對(duì)統(tǒng)計(jì)量進(jìn)行顯著性檢驗(yàn)
將一個(gè)或一個(gè)以上的自變量引入到回歸模型中時(shí),是否使得殘差平方和(SSE)有顯著地減少。如果增加一個(gè)自變量使SSE的減少是顯著的,則說(shuō)明有必要將這個(gè)自變量引入回歸模型,否則,就沒(méi)有必要將這個(gè)自變量引入回歸模型
確定引入自變量是否使SSE有顯著減少的方法,就是使用F統(tǒng)計(jì)量的值作為一個(gè)標(biāo)準(zhǔn),以此來(lái)確定是在模型中增加一個(gè)自變量,還是從模型中剔除一個(gè)自變量
變量選擇的方法主要有:向前選擇、向后剔除、逐步回歸、最優(yōu)子集等
4.向前選擇
從模型中沒(méi)有自變量開(kāi)始
對(duì)k個(gè)自變量分別擬合對(duì)因變量的一元線性回歸模型,共有k個(gè),然后找出F統(tǒng)計(jì)量的值最高的模型及其自變量(P值最小的),并將其首先引入模型
分別擬合引入模型外的k-1個(gè)自變量的線性回歸模型
如此反復(fù)進(jìn)行,直至模型外的自變量均無(wú)統(tǒng)計(jì)顯著性為止
5.向后剔除
先對(duì)因變量擬合包括所有k個(gè)自變量的回歸模型。然后考察p(p
考察p-1個(gè)再去掉一個(gè)自變量的模型(這些模型中每一個(gè)都有k-2個(gè)的自變量),使模型的SSE值減小最少的自變量被挑選出來(lái)并從模型中剔除
如此反復(fù)進(jìn)行,一直將自變量從模型中剔除,直至剔除一個(gè)自變量不會(huì)使SSE顯著減小為止
6.逐步回歸
將向前選擇和向后剔除兩種方法結(jié)合起來(lái)篩選自變量
在增加了一個(gè)自變量后,它會(huì)對(duì)模型中所有的變量進(jìn)行考察,看看有沒(méi)有可能剔除某個(gè)自變量。如果在增加了一個(gè)自變量后,前面增加的某個(gè)自變量對(duì)模型的貢獻(xiàn)變得不顯著,這個(gè)變量就會(huì)被剔除
按照方法不停地增加變量并考慮剔除以前增加的變量的可能性,直至增加變量已經(jīng)不能導(dǎo)致SSE顯著減少
在前面步驟中增加的自變量在后面的步驟中有可能被剔除,而在前面步驟中剔除的自變量在后面的步驟中也可能重新進(jìn)入到模型中
7.虛擬自變量
用數(shù)字代碼表示的`定性自變量
虛擬自變量可有不同的水平
只有兩個(gè)水平的虛擬自變量。比如,性別(男,女)
有兩個(gè)以上水平的虛擬自變量,貸款企業(yè)的類型(家電,醫(yī)藥,其他)
虛擬變量的取值為0,1
回歸模型中使用虛擬自變量時(shí),稱為虛擬自變量的回歸
當(dāng)虛擬自變量只有兩個(gè)水平時(shí),可在回歸中引入一個(gè)虛擬變量,比如,性別
一般而言,如果定性自變量有k個(gè)水平,需要在回歸中模型中引進(jìn)k-1個(gè)虛擬變量
例:引進(jìn)虛擬變量時(shí),回歸方程可寫:
E(y) =b0+ b1x1+ b2x2
女( x2=0):E(y|女性) =b0 +b1x1
男(x2=1):E(y|男性) =(b0 + b2 ) +b1x1
b0的含義表示:女性職工的期望月工資收入
(b0+ b2)的含義表示:男性職工的期望月工資收入
b1含義表示:工作年限每增加1年,男性或女性工資的平均增加值
b2含義表示:男性職工的期望月工資收入與女性職工的期望月工資收入之間的差值 (b0+ b2)-b0= b2。
已經(jīng)進(jìn)入10月份了,距離考試的時(shí)間越來(lái)越近了。正處于考研復(fù)習(xí)的關(guān)鍵時(shí)刻,考生們保持良 好的心態(tài),全身心的投入到考研復(fù)習(xí)中去。
考研統(tǒng)計(jì)學(xué)多元回歸知識(shí)要點(diǎn)相關(guān)文章: