《《管理統(tǒng)計(jì)學(xué)》PPT課件.pptx》由會(huì)員分享，可在線閱讀，更多相關(guān)《《管理統(tǒng)計(jì)學(xué)》PPT課件.pptx（39頁珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、演講者： xxx第十一章 相關(guān)與回歸分析管理統(tǒng)計(jì)學(xué)Management statistics 管 理 統(tǒng) 計(jì) 學(xué)Management statistics 1.變量間的相關(guān)關(guān)系2.一元線性回歸 3.多元線性回歸 4.可線性化的非線性回歸 目錄 變量之間的關(guān)系:確定型的函數(shù)關(guān)系和不確定性的函數(shù)關(guān)系 回歸分析研究隨機(jī)變量之間的相關(guān)關(guān)系的一種統(tǒng)計(jì)方法。 相關(guān)關(guān)系線性相關(guān)非線性相關(guān)完全相關(guān)不相關(guān) 正相關(guān)負(fù)相關(guān)正相關(guān)負(fù)相關(guān)管 理 統(tǒng) 計(jì) 學(xué)Management statistics 相關(guān)關(guān)系的特點(diǎn) 變量間關(guān)系不能用函數(shù)關(guān)系精確表達(dá)一個(gè)變量的取值不能由另一個(gè)變量唯一確定當(dāng)變量取某個(gè)值時(shí)，變量的取值可能有幾
2、個(gè)各觀測(cè)點(diǎn)分布在直線周圍 -3 -2 -1 0 1 2 -2 -1 0 1 2 (a) x y -2 -1 0 1 2 -2 -1 0 1 2 (b) x y -2 -1 0 1 2 -2 -1 0 1 2 (c) x y -3 -2 -1 0 1 2 3 0 2 4 6 8 (d) x y 不相關(guān)正相關(guān)負(fù)相關(guān)相關(guān)但無線性關(guān)系管 理 統(tǒng) 計(jì) 學(xué)Management statistics 相關(guān)系數(shù)對(duì)變量之間關(guān)系密切程度的度量 的取值范圍是 -1 ,1 :完全相關(guān) /完全正相關(guān) /完全負(fù)相關(guān) /不存在線性相關(guān)關(guān)系 /負(fù)相關(guān) /正相關(guān) r 222 )()(*)( )( yynxx yyxxr 管 理
3、 統(tǒng) 計(jì) 學(xué)Management statistics 對(duì)相關(guān)系數(shù)的顯著性檢驗(yàn)提出假設(shè) : =0計(jì)算檢驗(yàn)的統(tǒng)計(jì)量 確定顯著性水平 ，并作出決策 若t 拒絕; 若t 接受。0H 2)-(1 2 2 ntrnr /2t /2t 管 理 統(tǒng) 計(jì) 學(xué)Management statistics 例11.1 設(shè)有10個(gè)廠家的投入和產(chǎn)出如下，根據(jù)這些數(shù)據(jù)，我們可以認(rèn)為投入和產(chǎn)出之間存在相關(guān)性嗎？廠家1 2 3 4 5 6 7 8 9 10投入20 40 20 30 10 10 20 20 20 30產(chǎn)出30 60 40 60 30 40 40 50 30 70 管 理 統(tǒng) 計(jì) 學(xué)Management sta
4、tistics 決定系數(shù)說明自變量解釋因變量變化百分比的度量 。回歸分析一組樣本數(shù)據(jù)出發(fā)，確定變量之間的數(shù)學(xué)關(guān)系式，對(duì)這些關(guān)系式的可信程度進(jìn)行各種統(tǒng)計(jì)檢驗(yàn)，并從影響某一特定變量的諸多變量中找出哪些變量的影響顯著，哪些不顯著。然后利用所求的關(guān)系式，根據(jù)一個(gè)或幾個(gè)變量的取值來預(yù)測(cè)或控制另一個(gè)特定變量的取值，并給出這種預(yù)測(cè)或控制的精確程度。 管 理 統(tǒng) 計(jì) 學(xué)Management statistics 相關(guān)分析與回歸分析的區(qū)別分析對(duì)象的相互地位不同分析對(duì)象的變量類型不同兩者的目的不同 管 理 統(tǒng) 計(jì) 學(xué)Management statistics 一元線性回歸的基本概念1一元線性回歸（linear r
5、egression），只研究一個(gè)自變量與一個(gè)因變量之間的統(tǒng)計(jì)關(guān)系。 2對(duì)于只涉及一個(gè)自變量的簡(jiǎn)單線性回歸模型可表示為：3其中，b0和b1稱為模型的參數(shù)；e是誤差項(xiàng)，有 4描述y的平均值或期望值如何依賴于x的方程稱為回歸方程對(duì)于一個(gè)給定的x值，y 的期望值為：0 1y xb b e 0 1E y b bx 2 0,Ne 最小二乘回歸法（least squares regression）就是尋找一條直線，使得所有點(diǎn)到該直線的垂直距離的平方和最小。用數(shù)據(jù)尋找一條直線的過程也叫做擬合一條直線。 包含殘差的散點(diǎn)圖 Text in here真實(shí)值與預(yù)測(cè)值的差就是回歸直線在每個(gè)給定點(diǎn)上的誤差，我們稱之為殘差
6、（residual）。從幾何上講，殘差是回歸直線到樣本數(shù)據(jù)點(diǎn)之間的垂直距離，確定斜率和截距的方程使回歸直線位于樣本點(diǎn)之間。這樣，從回歸直線到樣本點(diǎn)之間的垂直距離相互抵消，使總和為0。 一元線性回歸方程 殘差一般沿著軸顯示 投入與產(chǎn)出例子中沿軸的殘差分布： 殘差也用來確定異常點(diǎn)（outliers），異常點(diǎn)就是與其他點(diǎn)偏離，與總體趨勢(shì)不符的數(shù)據(jù)點(diǎn)。異常點(diǎn)往往使殘差幅度加大，在散點(diǎn)圖中很容易識(shí)別?；貧w直線方程會(huì)受到計(jì)算中每個(gè)點(diǎn)的影響，因此，異常點(diǎn)的存在可能會(huì)使回歸直線向異常點(diǎn)偏離。 回歸方程的顯著性檢驗(yàn)（總體顯著性檢驗(yàn)）觀測(cè)值與其平均值的偏差平方和 稱為總離差平方和。記為SST（total devi
7、ation sum of squares） SST來源于兩個(gè)方面：一是由于自變量x的取值不同造成的；二是除x以外的其他因素(如對(duì)的非線性影響、測(cè)量誤差等)的影響造成的。可分解為兩部分： 2 2 2 ( ) ( ) ( )SST y y y y y y 總離差平方和反映因變量的個(gè)觀察值與其均值的總離差 Description of the contents Description of the contents Description of the contents Description of the contents其中 稱作回歸平方和（regression sum of squares）,
8、記作SSR； 稱作殘差平方和（residual sum of squares）,記作SSE。 SST=SSR+SSE 2( )SST y y 2( ) ,SSR y y 2( ) ,SSE y y 回歸平方和反映自變量的變化對(duì)因變量 y 取值變化的影響殘差平方和反映除以外的其他因素對(duì)取值的影響，也稱為不可解釋的平方和或剩余平方和 2)( yy 2)( yy 回歸系數(shù)的顯著性檢驗(yàn)在簡(jiǎn)單回歸（一元回歸）中只有一個(gè)回歸系數(shù)需要檢驗(yàn)，而回歸系數(shù)就是回歸直線的斜率，所以檢驗(yàn)總體顯著性的F檢驗(yàn)就等價(jià)于回歸系數(shù)的檢驗(yàn)。 對(duì)回歸系數(shù)的顯著性檢驗(yàn)就是檢驗(yàn)x與y之間是否具有線性關(guān)系，或者說，檢驗(yàn)自變量x對(duì)因變量y
9、的影響是否顯著。 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 檢驗(yàn)步驟如下：提出假設(shè) (沒有線性關(guān)系) (有線性關(guān)系) 計(jì)算檢驗(yàn)的t統(tǒng)計(jì)量 ，自由度為n-2；確定顯著性水平，并進(jìn)行決策 若 拒絕H0 ； 若 接受H 0 。0 1: 0H b 1 1: 0H b /2( 2),t t n /2( 2),t t n 221r nt r 回歸系數(shù)的顯著性檢驗(yàn)步驟如下： 預(yù)測(cè)標(biāo)準(zhǔn)誤差預(yù)測(cè)標(biāo)準(zhǔn)誤差是y的實(shí)際值與y的估計(jì)推算值離差的一般水平，反映y的預(yù)測(cè)值對(duì)y的實(shí)際值的代表性的優(yōu)劣。預(yù)測(cè)標(biāo)準(zhǔn)誤差的計(jì)算公式為： 式中：n-2是自由度，Syx是y對(duì)x的預(yù)測(cè)標(biāo)準(zhǔn)誤差
10、。 2( )2yx y yS n 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 回歸方程在估計(jì)和預(yù)測(cè)中的應(yīng)用點(diǎn)估計(jì) y的平均值的點(diǎn)估計(jì)利用估計(jì)的回歸方程，對(duì)于自變量x的一個(gè)給定值x0，求出因變量y的平均值的一個(gè)估計(jì)值 就是平均值的點(diǎn)估計(jì)。 y的個(gè)別值的點(diǎn)估計(jì)利用估計(jì)的回歸方程，對(duì)于自變量x的一個(gè)給定值x 0 ，求出因變量y的一個(gè)個(gè)別值的估計(jì)值 就是個(gè)別值的點(diǎn)估計(jì)。 0 ,E y0 ,y北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 區(qū)間估計(jì) 對(duì)于自變量的一個(gè)給定值x0，根據(jù)回歸方程得到因變量的一個(gè)估計(jì)區(qū)間。置
11、信區(qū)間估計(jì)利用估計(jì)的回歸方程，對(duì)于自變量 x 的一個(gè)給定值x0，求出因變量y的平均值 的估計(jì)區(qū)間，這一估計(jì)區(qū)間稱為置信區(qū)間。用公式表示在1 - 置信水平下的置信區(qū)間： 0E y 2 222 1 ( )( 2) ( )yx x xy t n S xn x n 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 回歸方程在估計(jì)和預(yù)測(cè)中的應(yīng)用 相關(guān)系數(shù)，決定系數(shù)和預(yù)測(cè)標(biāo)準(zhǔn)誤差的三者關(guān)系 相關(guān)系數(shù)衡量的是兩變量之間相關(guān)的強(qiáng)弱程度。當(dāng)散點(diǎn)圖中各點(diǎn)都趨近于回歸直線時(shí)，相關(guān)系數(shù)也較大（趨于1）。因此，預(yù)測(cè)標(biāo)準(zhǔn)誤差和相關(guān)系數(shù)用的是不同的度量方法來表達(dá)相同的信息。他們的計(jì)算
12、當(dāng)中都會(huì)用到 。 相關(guān)系數(shù)的平方是決定系數(shù)。決定系數(shù)衡量的變量y中有百分之多少能用變量x來解釋。 2( )y y北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 決定系數(shù)r2可以直接從ANOVA中得出。它表示回歸平方和占總離差平方和的比例。當(dāng)SSE或標(biāo)準(zhǔn)誤差減小時(shí)，r2增加。預(yù)測(cè)標(biāo)準(zhǔn)誤差也可以從ANOVA中得出： 2 1SSR SSEr SST SST 2 yx SSES n 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 多元線性回歸 描述因變量 y 如何依賴于自變量 和誤差項(xiàng)e 的方程稱為多元線性回歸模型。涉
13、及個(gè)自變量的多元線性回歸模型可表示為 ：總體回歸參數(shù) 是未知的，要利用樣本數(shù)據(jù)去估計(jì)。用樣本統(tǒng)計(jì)量 代替回歸方程中的未知參數(shù),即得到估計(jì)的回歸方程： 1 2, , , mx x x0 1 1 2 2 m my x x xb b b b e 0 1, , , mb b b 0 1, , , mb b b0 1 1 2 2 m my b b x b x b x 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 二元線性回歸方程為： 其中， 分別是 的偏回歸系數(shù)。 同理三元線性回歸方程為 ： 由樣本數(shù)據(jù)推算、估計(jì)回歸方程中各個(gè)回歸系數(shù)，是多元回歸分析中的一個(gè)重
14、要方面，下面簡(jiǎn)要介紹回歸系數(shù)的計(jì)算方法。0 1 1 2 2y b b x b x 0 1 1 2 2 3 3y a b b x b x b x 1 2,b b 1 2,x x北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 二元線性回歸方程中回歸系數(shù) 可由以下方程組解出：用手解這些方程枯燥而費(fèi)時(shí)，一般來說，自變量超過3個(gè)時(shí)，要用矩陣運(yùn)算，可以借助計(jì)算機(jī)軟件解出參數(shù)。1 2, ,a b b 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 對(duì)多元回歸模型的評(píng)估 如果檢驗(yàn)水平合適而且數(shù)據(jù)足夠多，用多元回歸模型幾乎可以處
15、理所有數(shù)據(jù)組。模型一旦建立，一件很重要的事就是檢驗(yàn)?zāi)Ｐ团c數(shù)據(jù)是否很好擬合以及與回歸分析的假設(shè)前提是否相符。檢驗(yàn)回歸模型是否恰當(dāng)?shù)姆椒ㄓ泻芏啵纾簷z驗(yàn)?zāi)Ｐ驼w的顯著性、檢驗(yàn)回歸系數(shù)的顯著性、計(jì)算殘差、檢驗(yàn)樣本決定系數(shù)等 。 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 模型的整體檢驗(yàn) 對(duì)多元回歸方程的整體性檢驗(yàn)，就是要看自變量 是否整體上對(duì)隨機(jī)變量y有影響。 檢驗(yàn)方法是將回歸離差平方和(SSR)同殘差平方和(SSE)加以比較，應(yīng)用 F 檢驗(yàn)來分析二者之間的差別是否顯著。如果是顯著的，因變量與自變量之間存在線性關(guān)系；如果不顯著，則因變量與自變量之間不存在
16、線性關(guān)系。 1 2, , , mx x x 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 多元回歸模型的整體性檢驗(yàn)的步驟如下：提出假設(shè) H0: H1: 至少有一個(gè)回歸系數(shù)不等于0 。計(jì)算檢驗(yàn)統(tǒng)計(jì)量 F回歸平方和 ；殘差平方和確定顯著性水平和分子自由度m,分母自由度n-m-1,找出臨界值F ；作出決策：若F F ，拒絕H0；若F F ，接受H0 。1 2 0mb b b / /( 1) /( 1)S m SSR mF S n m SSE n m 回殘2( )SSR y y 2( )SSE y y 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management sta
17、tistics管 理 統(tǒng) 計(jì) 學(xué) 多重樣本決定系數(shù) 多重樣本決定系數(shù)R2定義為回歸平方和占總離差平方和的比例，反映回歸直線的擬合程度。公式為：R2的取值范圍在 0, 1 之間，R21,說明回歸方程擬合得越好； R2 0，說明回歸方程擬合的越差。 2 SSRR SST 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 多重預(yù)測(cè)標(biāo)準(zhǔn)差 預(yù)測(cè)標(biāo)準(zhǔn)差可以通過除以模型誤差自由度再進(jìn)行開方來計(jì)算： 也可以直接計(jì)算： 在多元線性回歸中，對(duì)每一個(gè)自變量都要單獨(dú)進(jìn)行檢驗(yàn)，應(yīng)用t檢驗(yàn)。1e SSES n m 2( )1e y yS n m 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Man
18、agement statistics管 理 統(tǒng) 計(jì) 學(xué) 回歸系數(shù)的顯著性檢驗(yàn)步驟如下：提出假設(shè) (自變量與 因變量沒有線性關(guān)系) (自變量與 因變量有線性關(guān)系) 如果不能拒絕零假設(shè),說明自變量不顯著 ；如果拒絕零假設(shè)，說明能增加預(yù)測(cè)因變量的顯著性。計(jì)算檢驗(yàn)的統(tǒng)計(jì)量 t確定顯著性水平，并進(jìn)行決策 拒絕H 0 ； 不拒絕0 : 0iH b 1: 0iH b 0 1ii bbt t n mS 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué)/2,t t /2t t 可線性化的非線性回歸在實(shí)際經(jīng)濟(jì)問題中，許多回歸模型的因變量y與x之間不是線性關(guān)系，但y與未知參數(shù)
19、 ， 之間的關(guān)系卻是線性的。線性回歸的“線性”是針對(duì)參數(shù)而言，而不是針對(duì)自變量而言。這樣，我們可通過變量代換法將非線性模式線性化，再按線性模型的方法處理。下面給出幾種常見的非線性模型及其線性化方法。0b 1b 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 指數(shù)函數(shù) 對(duì)上式兩邊取自然對(duì)數(shù)，得 令 ， ， 則xy b b lnlnln xy yy ln lna blnbxbay 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 冪函數(shù) 對(duì)上式兩邊取對(duì)數(shù)，得 令 ， 則bxy xy lglglg b yy lg xx
20、 lg lg xy b 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 雙曲函數(shù) 令 ，則 xy 1b x x1 xy b 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 對(duì)數(shù)函數(shù) 令 ，則xy lgb xx lg xy b 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) 令 ， ，則S型曲線 xey b 1y y1 xex xy b 北京理工大學(xué)管理與經(jīng)濟(jì)學(xué)院學(xué)Management statistics管 理 統(tǒng) 計(jì) 學(xué) The End管理統(tǒng)計(jì)學(xué)Management statistics
《管理統(tǒng)計(jì)學(xué)》PPT課件.pptx
