Regressions- och Tidsserieanalys - F1

Transkript

1 Regressions- och Tidsserieanalys - F1 Kap 3: Enkel linjär regression Linda Wänström Linköpings universitet May 4, 2015 Wänström (Linköpings universitet) F1 May 4, / 25

2 Regressions- och tidsserieanalys, 7.5 hp Mål: Innehåll: Tillägna sig metodik för att analysera samt tolka statistiska modeller för samband mellan variabler och statistiska modeller för tidsseriedata. Enkel och multipel linjär regressionsanalys Index Efterfrågeanalysmodeller Modeller för tidsseriedata Analys av data med hjälp av statistisk programvara. Wänström (Linköpings universitet) F1 May 4, / 25

3 Regressions- och tidsserieanalys, 7.5 hp Ansvarig lärare Linda Wänström Examination Projekt Tenta Litteratur rum i B-huset, plan 2 (ovanför JAVA) Del 1: Index och efterfrågeanalys Del 2: Tidsserieanalys Inlämning senast 5/6 Onsdag 3/6 kl 8-12 Får ta med: boken (utan anteckningar), miniräknare samt ett eget "formelblad" (A4-sida (fram och bak) där ni själva skriver formler och annat ni tycker är viktigt) Bowerman, O Connel, Koehler & Brooks (2005) 4th ed. Forecasting, time series, and regression. Brooks. Wänström (Linköpings universitet) F1 May 4, / 25

4 Exempel: IT bland individer 2013 (från SCB s hemsida) Det blir allt vanligare att hämta information från myndigheters webbplatser. Wänström (Linköpings universitet) F1 May 4, / 25

5 Exempel: Detaljhandelns försäljning, september 2013 (från SCB s hemsida) Försäljningsvolymen ökade med 1,6 procent i september jämfört med samma månad förra året. Uppgifterna är kalenderkorrigerade. Wänström (Linköpings universitet) F1 May 4, / 25

6 Exempel: Samband mellan storlek och pris på lägenheter Fitted Line Plot Pris = ,14 KVM S 1208,14 R Sq 36,4% R Sq(adj) 35,0% 4000 Pris KVM Wänström (Linköpings universitet) F1 May 4, / 25

7 Exempel Antag att vi vill veta om det finns något samband mellan mängden lokalt inriktad annonsering och företags försäljning hur stor försäljning vi kan förvänta oss vid en annonsering på kr Wänström (Linköpings universitet) F1 May 4, / 25

8 Enkel linjär regressionsmodell y = beroende variabel, responsvariabel, undersökningsvariabel x = oberoende variabel, prediktorvariabel, förklaringsvariabel Modellen antar att sambandet mellan x och y kan approximeras med en rät linje Vi kan visuellt inspektera om sambandet ser linjärt ut genom att titta på ett spridningsdiagram (scatter plot) Wänström (Linköpings universitet) F1 May 4, / 25

9 Exempel: y = försäljning (milj kr), x = annonsering (10000 kr) Distrikt y i x i Wänström (Linköpings universitet) F1 May 4, / 25

10 Spridningsdiagram Försäljning Annonsering Wänström (Linköpings universitet) F1 May 4, / 25

11 Enkel linjär regressionsmodell y = β 0 + β 1 x + ɛ β 0 + β 1 x = µ y x är medelvärdet för den beroende variabeln y när värdet på den oberoende variabeln är x β 0 är linjens skärning med y axeln β 1 är linjens lutning ɛ är en felterm Wänström (Linköpings universitet) F1 May 4, / 25

12 Minskakvadratskattningar för skärning och lutning Vi tar ett stickprov på n värden på x och y för att beräkna skattningar b 0 och b 1 b 1 = SS xy SS xx = = n x i y i i=1 n (x i x) (y i y) i=1 = (x i x) 2 n i=1 ( n n xi 2 i=1 )( n ) x i y i i=1 i=1 n ( n ) 2 x i i=1 n b 0 = y b 1 x Wänström (Linköpings universitet) F1 May 4, / 25

13 Spridningsdiagram med inritad skattad regressionslinje Försäljning Annonsering Wänström (Linköpings universitet) F1 May 4, / 25

14 Summan av de kvadrerade avvikelserna från linjen (SSE) SSE = n ei 2 i=1 = n (y i ŷ i ) 2 i=1 Wänström (Linköpings universitet) F1 May 4, / 25

15 Minitab-utskrift Regression Analysis: Försäljning versus Annonsering The regression equation is Försäljning = 0, ,05 Annonsering Predictor Coef SE Coef T P Constant 0,4357 0,6425 0,68 0,523 Annonsering 1,0504 0,1349 7,79 0,000 S = 0, R Sq = 91,0% R Sq(adj) = 89,5% Analysis of Variance Source DF SS MS F P Regression 1 40,914 40,914 60,68 0,000 Residual Error 6 4,046 0,674 Total 7 44,960 Wänström (Linköpings universitet) F1 May 4, / 25

16 Uppskattningar och prognoser Anpassad regressionslinje ŷ = b 0 + b 1 x ŷ är en punktskattning för medelvärdet för y när värdet på oberoende variabeln är x. ŷ är också en punktskattning för ett enskilt värde på y när värdet på oberoende variabeln är x. Wänström (Linköpings universitet) F1 May 4, / 25

17 Modellantaganden y = β 0 + β 1 x + ɛ För varje x-värde är medelvärdet för värdena på feltermen noll. Konstant varians. För varje x-värde har värdena på feltermen en konstant varians. Denna varians kallas för σ 2. Normalfördelning. För varje x-värde följer värdena på feltermen en normalfördelning. Oberoende. Alla värden på feltermen är statistisk oberoende av alla andra värden på feltermen. Wänström (Linköpings universitet) F1 May 4, / 25

18 Variansskattning: Mean Square Error och Standard Error (Standardfel) Om antagandena är uppfyllda och SSE är summan av de kvadrerade avvikelserna från linjen gäller Punktskattning för σ 2 (MSE) är s 2 = SSE n 2 Punktskattning för σ (Standardfel) är s = s 2 Wänström (Linköpings universitet) F1 May 4, / 25

19 Signifikanstest för lutning och skärning Test för lutning (om antagandena håller) H 0 : β 1 = 0 H a : β 1 = 0 t = b 1 s b1, där s b1 = s SSxx Förkasta H 0 om t > t [α/2](n 2) Test för skärning (om antagandena håller) H 0 : β 0 = 0 H a : β 0 = 0 t = b 0 s b0, Förkasta H 0 om t > t [α/2](n 2) 1 där s b0 = s n + x 2 SS xx Wänström (Linköpings universitet) F1 May 4, / 25

20 Konfidensintervall för lutning Om antagandena håller är ett 100(1 α)% konfidensintervall för den sanna lutningen β 1 [ b 1 ± t [α/2](n 2) s b1 ] Wänström (Linköpings universitet) F1 May 4, / 25

21 Distance value Distancevalue = 1 n + (x 0 x) 2 SS xx Wänström (Linköpings universitet) F1 May 4, / 25

22 Konfidensintervall för medelvärdet för y vid ett specifikt x-värde ŷ = b 0 + b 1 x 0 Om antagandena är uppfyllda är ett 100(1 α)% konfidensitvervall för µ y x0 [ ŷ ± t [α/2](n 2) s ] Distancevalue Wänström (Linköpings universitet) F1 May 4, / 25

23 Prognosintervall för ett värde på y vid ett specifikt x-värde ŷ = b 0 + b 1 x 0 Om antagandena är uppfyllda är ett 100(1 α)% prognosintervall för y vid x 0 [ ŷ ± t [α/2](n 2) s ] 1 + Distancevalue Wänström (Linköpings universitet) F1 May 4, / 25

24 Förklaringsgrad: Determinationskoeffi cienten Total variation = Förklarad variation + Oförklarad variation SST = SSR + SSE n (y i y) 2 = n (ŷ i y) 2 + n (y i ŷ i ) 2 i=1 i=1 i=1 r 2 = SSR SST Wänström (Linköpings universitet) F1 May 4, / 25

25 Korrelationskoeffi cienten Ett mått på hur starkt sambandet mellan y och x är r = ± r 2 r = SS xy SSxx SS yy Wänström (Linköpings universitet) F1 May 4, / 25