1/23 REGRESSIONSANALYS. Statistiska institutionen, Stockholms universitet

Transkript

1 1/23 REGRESSIONSANALYS F4 Linda Wänström Statistiska institutionen, Stockholms universitet

2 2/23 Multipel regressionsanalys Multipel regressionsanalys kan ses som en utvidgning av enkel linjär regressionsanalys. Vi har nu er än en oberoende variabel. I Svårare att välja bästa modell I Svårare att visualisera skattad modell I Tolkningar kan vara svårare I Krångligare beräkningar - men vi har datorer!

3 3/23 Multipel regressionsmodell I En beroende variabel Y och k oberoende variabler X 1, X 2,..., X k. Y = β 0 + β 1 X 1 + β 2 X β k X k + E

4 4/23 Exempel med 2 oberoende variabler Vi vill beskriva sambandet mellan sparande och inkomst och utgift där Y = sparande, X 1 = inkomst, och X 2 = utgift. Vi funderar på följande modell: Y = β 0 + β 1 X 1 + β 2 X 2 + E Möjliga (men inte alla) alternativa modeller är Y = β 0 + β 1 X 1 + β 2 X 2 + β 3 X β 4 X E Vilken modell ska vi välja? Y = β 0 + β 1 X 1 + β 2 X 2 + β 3 X 1 X 2 + E

5 5/23 Exempel med 2 oberoende variabler forts. Om vi börjar med den enklaste modellen vill vi hitta det plan som bäst passar data. I Ett sätt: minimera de kvadrerade avvikelserna från planet: n i=1 (Y i by i ) 2 = n i=1 (Y i bβ 0 bβ 1 X i1 bβ 2 X i2 ) 2

6 6/23 Statistiska antaganden för en multipel linjär modell I Existence I Oberoende I Linjäritet I Homoskedasticitet I Normalfördelning

7 7/23 Statistiska antaganden för en multipel linjär modell Existence För varje kombination av värden på X 1, X 2,..., X k är Y en stokastisk variabel med en viss sannolikhetsfördelning med ändligt medelvärde och varians.

8 8/23 Statistiska antaganden för en multipel linjär modell Oberoende Y -observationerna är statistiskt oberoende

9 9/23 Statistiska antaganden för en multipel linjär modell Linjäritet µ Y jx1,x 2,...,X k = β 0 + β 1 X 1 + β 2 X β k X k

10 10/23 Statistiska antaganden för en multipel linjär modell Homoskedasticitet Variansen för Y är densamma för varje x kombination av X 1, X 2,..., X k, dvs σ 2 Y jx 1,X 2,...,X k = σ 2

11 11/23 Statistiska antaganden för en multipel linjär modell Normalfördelning Y är normalfördelad för varje x kombination av X 1, X 2,..., X k.

12 12/23 Hur skattas parametrarna? Att bestämma en multipel regressionsekvation I Minsta kvadratmetoden

13 13/23 Minsta kvadratmetoden Bästa ekvationen är den som minimerar summan av de kvadrerade avvikelserna mellan de observerade Y -värdena och de skattade Y -värdena. Låt by i = bβ 0 + bβ 1 X 1i + bβ 2 X 2i bβ k X ki Summan av de kvadrerade avvikelserna kan skrivas n i=1(y i by ) 2 = n i=1(y i bβ 0 bβ 1 X 1i bβ 2 X 2i... bβ k X ki ) 2 Minsta kvadratskattningarna är de värden bβ 0, bβ 1,...,bβ k som minimerar nämnda kvadratsumma.

14 14/23 ANOVA-tabell Uppdelning av variation i Y Total variation i Y kan delas upp i av regressionen förklarad variation i Y och oförklarad variation i Y n i=1 SSY = SSR + SSE (Y i Y ) 2 = n i=1 ( by i Y ) 2 + n i=1 (Y i by i ) 2

15 15/23 ANOVA-tabell Källa df SS MS F Modell k SSR MSR=SSR/k MSR/MSE Fel n k 1 SSE MSE=SSE/(n k 1) Total n 1 SSY=SSR+SSE R 2 = SSY SSE SSY

16 16/23 Exempel med sparande, inkomst och utgift Vi samlar in data från 8 distrikt data one; input fors bef annons; cards; ; proc gplot; plot fors*bef fors*annons; proc reg; model fors=bef annons; run;

17 17/23 Spridningsdiagram fors annons

18 18/23 Spridningsdiagram fors bef

19 19/23 Exempel med sparande, inkomst och utgift forts. Modell: MODEL1 Beroendevariabel: sparande Antal lästa observationer 13 Antal använda observationer 13 Variansanalys Modell Fel Korrigerad total Rot MSE R kvadrat Beroende medel Just. R kvadr Koeff.var Parameterskattningar Summa av Medel Källa DF kvadrater kvadrat F värde Sh. > F Parameter Standard Variabel DF skattning fel t värde Pr > t Skärning inkomst boende

20 20/23 Uppgift En ekonom är intresserad av att undersöka sambandet mellan låneinstituts vinster, avkastning samt antal kontor. Hon samlar in uppgifter om vinst, Y (1000-tals kr.), avkastning, X 1 (1000-tals kr.) och antal kontor, X 2. Följande tre modeller beaktas Y = β 0 + β 1 X 1 + E Y = β 0 + β 2 X 2 + E Y = β 0 + β 1 X 1 + β 2 X 2 + E Se datautskrifter på följande sidor. 1. Vad är SSY samt SSE i regressionsanalyserna? 2. Bestäm R 2 -värdena för respektive modell 3. Använd minsta kvadrat-ekvationen med två oberoende variabler. Vad är den uppskattade vinsten för ett institut med en avkastning på 5000 kr samt 10 kontor?

21 21/23 Uppgift Modell 1 Beroendevariabel: y Antal lästa observationer 25 Antal använda observationer 25 Variansanalys Modell Fel Korrigerad total Parameterskattningar Summa av Medel Källa DF kvadrater kvadrat F värde Sh. > F Parameter Standard Variabel DF skattning fel t värde Pr > t Skärning x x

22 22/23 Uppgift Modell 2 Beroendevariabel: y Antal lästa observationer 25 Antal använda observationer 25 Variansanalys Modell Fel Korrigerad total Parameterskattningar Summa av Medel Källa DF kvadrater kvadrat F värde Sh. > F Parameter Standard Variabel DF skattning fel t värde Pr > t Skärning x

23 23/23 Uppgift Modell 3 Beroendevariabel: y Antal lästa observationer 25 Antal använda observationer 25 Variansanalys Modell Fel Korrigerad total Parameterskattningar Summa av Medel Källa DF kvadrater kvadrat F värde Sh. > F Parameter Standard Variabel DF skattning fel t värde Pr > t Skärning x