Enkel linjär regression. Enkel linjär regression. Enkel linjär regression

Transkript

1 Enkel linjär regression Exempel.7 i boken (sida 31). Hur mycket dragkraft behövs för att en halvledare skall lossna från sin sockel vid olika längder på halvledarens ben och höjder på sockeln. De halvledare som betraktas är av samma storlek (bortsett benlängden). 7 Scatterplot of vs Enkel linjär regression Fitted Line Plot = S R-Sq 9.% R-Sq(adj) 9.2% Hur tolkar man βˆ ochβˆ1? Stat Fitted Line Plot 2 Enkel linjär regression Plots for Normal Probability Plot of the s s Versus the Fitted Values Percent Fitted Value Frequency 8 2 Histogram of the s s Versus the Order of the Data Observation Order Vad tycker vi? 3 1

2 Jämför leverage-värdet med 2*p/n = 2*2/2 =.1, och Cooks avstånd med 1. Högt leverage-värde. Under Storage i Stat Regression Enkel linjär regression Regression Analysis: versus = Predictor Coef SE Coef T P Constant Test H : β = Test H : β 1 = S = R-Sq = 9.% R-Sq(adj) = 9.2% Regression Error Total 2.9 Stat Regression Enkel linjär regression För halvledare med en benlängd på 1, vad skulle man uppskatta den genomsnittliga dragstyrkan till? 7 Fitted Line Plot = S R-Sq 9.% R-Sq(adj) 9.2% Om man vill uppskatta dragstyrkan för en specifik halvledare med benlängd 1, hur skulle man göra då?

3 Enkel linjär regression Predicted Values for New Observations New Obs Fit SE Fit 9% CI 9% PI (3.8; 7.) (39.79; 2.2) Values of Predictors for New Observations New Wire Obs Length 1 1. CI är ett konfidensintervall för det förväntade (genomsnittliga) dragstyrkan för halvledare med benlängd 1, medan PI (prediktionsintervall) är ett konfidensintervall för en specifik halvledares (med benlängd 1) dragstyrka. Notera att PI blir bredare. Orsak: vi måste ta hänsyn till en enskilds (kommande) mätnings mätfel (ε). Under option i Stat Regression 7 Enkel linjär regression Fitted Line Plot = Regression 9% CI 9% PI S R-Sq 9.% R-Sq(adj) 9.2% CI och PI för alla benlängder mellan och 2. Under option i Stat Fitted Line Plot 8 Exempel: Halvledarexemplet med en kvadratisk term (2:a grads polynom). Fitted Line Plot = **2 7 S 2.98 R-Sq 97.% R-Sq(adj) 97.3% Stat Fitted Line Plot 9 3

4 Plots for 99 Normal Probability Plot of the s. s Versus the Fitted Values Percent Fitted Value.8 Histogram of the s. s Versus the Order of the Data Frequency Observation Order 1 Regression Analysis: versus Wire Len; Wire Len sq = sq Predictor Coef SE Coef T P Constant sq S = 2.98 R-Sq = 97.% R-Sq(adj) = 97.3% Test H : β = Test H : β 1 = Test H : β 2 = Regression Error Lack of Fit Pure Error Total 2.9 Under option i Stat Regression (pure error) Test H : modellen är korrekt P-värde =.3 vid enkel linjär regression 11 Exempel: Halvledarexemplet, men nu även med den förklarande variabeln sockelhöjd. Matrix Plot of ; ; Die Height Die Height Graph Matrix Plot 12

5 erna vi får när vi anpassar ett enkelt linjärt samband mellan dragstyrka och benlängd är den variation vi inte lyckats förklara med denna modell. Om vi plottar residualerna mot sockelhöjd får vi följande resultat. s Versus Die Height (response is ) Die Height Detta tyder på att sockelhöjd kan förklara ytterligare en del av variationen. 13 Regression Analysis: versus ; Die Height = Die Height Predictor Coef SE Coef T P VIF Constant Test H : α = Test 1.17 H : β 1 = Die Height Test 1.17 H : β 2 = S = R-Sq = 98.1% R-Sq(adj) = 97.9% Regression Test H : β 1 = β 2 = Error Total 2.9 R 2 ökade från 9. till 98.1 (justerad R 2 från 9.2 till 97.9). 1 Ett visst (enkelt) samband mellan benlängd och sockelhöjd verkar finnas. Multikolinjäritet? R 2 = 1.3%!

6 Regression Analysis: versus ; Die Height = Die Height Predictor Coef SE Coef T P VIF Constant Die Height S = R-Sq = 98.1% R-Sq(adj) = 97.9% Under option i Stat Regression (variance inflation factors) 1 Betraktar vi andragradspolynomet finner vi att vi har ett starkt samband mellan benlängd och benlängd 2. R 2 = 92.% (multikolinjäritet)! 17 Regression Analysis: versus ; sq = sq Predictor Coef SE Coef T P VIF Constant sq S = 2.98 R-Sq = 97.% R-Sq(adj) = 97.3% Ett sätt att reducera multikolinjäriteten vid polynomregression är att först centrera den förklarande variabeln runt dess medelvärde och sedan skapa andragradsvariabeln, osv. 18

7 Regression Analysis: Pull Strengt versus Cent Wire Le; Cent Wire Le = Cent +.9 Cent sq Predictor Coef SE Coef T P VIF Constant Cent Cent sq S = 2.98 R-Sq = 97.% R-Sq(adj) = 97.3% Notera att regressionsparametrarna inte blir de samma! 19 Regression Analysis: Pull Strengt versus Cent Wire Le; Cent Wire Le = Cent +.28 Cent sq +.1 Die Height Predictor Coef SE Coef T P VIF Constant Cent Cent sq Die Height S = R-Sq = 98.% R-Sq(adj) = 98.% Regression Error Total Extremt värde, men ej inflytelserik 21 7

8 Regression Analysis: versus ; Die Height = Die Height Predictor Coef SE Coef T P Constant Die Height S = R-Sq = 98.1% R-Sq(adj) = 97.9% Regression Error Total 2.9 Source DF Seq SS Die Height Source DF Seq SS Die Height Betrakta variation som regressionslinjen förklarade Om vi bara stoppar in benlängd så förklarade den enkla regressionslinjen Genom att även ta med sockelhöjd så ökade förklaringen med 1.9, dvs till beskriver hur mycket sockelhöjd förklarar givet att benlängd finns med i modellen. Om vi stoppar in de förklarande variablerna i omvänd ordning får vi Source DF Seq SS Die Height Samband: regression variansanalys Under Calc Make Indicator Variables 2 8

9 Samband: regression variansanalys General Linear Model: Hållfasthet versus Garntyp Factor Type Levels Values Garntyp fixed A; B; C; D for Hållfasthet, using Adjusted SS for Tests Source DF Seq SS Adj SS Adj MS F P Garntyp Error Total S =.1 R-Sq = 72.3% R-Sq(adj) =.8% 2 Samband: regression variansanalys Regression Analysis: Hållfasthet versus Garntyp_A; Garntyp_B;... * Garntyp_D is highly correlated with other X variables * Garntyp_D has been removed from the equation. Hållfasthet = Garntyp_A Garntyp_B Garntyp_C Predictor Coef SE Coef T P Constant Garntyp_A Garntyp_B Garntyp_C S =.1 R-Sq = 72.% R-Sq(adj) =.% Regression Error Samband: regression variansanalys Hållfasthet = Garntyp_A Garntyp_B Garntyp_C Garntyp A: Hållfasthet = *1-1.83* * =.3 Garntyp B: Hållfasthet = * *1-2.21* =. Garntyp C: Hållfasthet = * * *1 =.7 Garntyp D: Hållfasthet = * * * =.88 Descriptive Statistics: Hållfasthet Total Variable Garntyp Count Mean StDev Variance Hållfasthet A B C D

10 Samband: regression variansanalys Vi kan konstatera att variansanalys bara är ett specialfall av regression. Vill vi analysera modeller med både kontinuerliga och kategoriska variabler kan vi använda Stat ANOVA General Linear Model, där de kontinuerliga variablerna specificeras under Covariates. 28 1