Multivariata metoder

Transkript

1 Multivariata metoder F3 Linda Wänström Linköpings universitet 17 september Wänström (Linköpings universitet) Multivariata metoder 17 september 1 / 21

2 Principalkomponentanalys Syfte med principalkomponentanalys Bilda linjärkombinationer (index) Z 1, Z 2,..., Z p från p variabler X 1, X 2,..., X p Z 1, Z 2,..., Z p är okorrellerade med varandra Var(Z 1 ) Var(Z 2 ),..., Var(Z p ). Wänström (Linköpings universitet) Multivariata metoder 17 september 2 / 21

3 Principalkomponentanalys Antag n observationer på p variabler. Den första PCn är den linjärkombination av variablerna X 1, X 2,..., X p med högst varians, givet att Z 1 = a 11 X 1 + a 12 X a 1p X p Den andra PCn a a a 2 1p = 1. Z 2 = a 21 X 1 + a 22 X a 2p X p väljs så att Var(Z 2 ) är så stor som möjligt givet att a a a 2 2p = 1 samt Corr(Z 1 Z 2 ) = 0. De övriga PC väljs på motsvarande sätt. Om det finns p variabler kan det bildas högst p PCs. Wänström (Linköpings universitet) Multivariata metoder 17 september 3 / 21

4 Stegen i principalkomponentanalys 1 Standardisera variablerna 2 Beräkna kovariansmatrisen C 3 Ta fram egenvärdena λ 1, λ 2,..., λ p samt egenvektorerna d 1, d 2,..., d p. Koeffi cienterna för den i:te principalkomponenten är elementen i d i och λ i är dess varians. 4 Spara de komponenter med egenvärden större än 1 / som förklarar tillräckligt mycket variation i data (exempelvis 90%). 5 Beräkna PC-"scores" Wänström (Linköpings universitet) Multivariata metoder 17 september 4 / 21

5 Exempel Digit Span (ds), Piat Math (pm), Piat Reading Recognition (prr), Piat Reading Comprehension (prc), PPVT Pearson Correlation Coefficients, N = 377 Prob > r under H0: Rho=0 ds pm prr prc ppvt ds pm prr prc ppvt Wänström (Linköpings universitet) Multivariata metoder 17 september 5 / 21

6 Principalkomponentanalys i SAS data one (type=corr); input _type_ $ _name_ $ x1 x5; datalines; corr x corr x corr x corr x corr x ; proc princomp; var x1 x5; run; Wänström (Linköpings universitet) Multivariata metoder 17 september 6 / 21

7 Utskrift från SAS Eigenvalues of the Correlation Matrix Eigenvalue Difference Proportion Cumulative Eigenvectors Prin1 Prin2 Prin3 Prin4 Prin5 x x x x x Wänström (Linköpings universitet) Multivariata metoder 17 september 7 / 21

8 Explorativ faktoranalys Syfte med explorativ faktoranalys Undersöka faktorstrukturen i ett datamaterial Antal bakomliggande faktorer? Vilka variabler laddar på vilka faktorer? Antagande: korrelationer mellan variabler beror på bakomliggande (latenta) faktorer. Spearman s g-faktor C F E Ma P Mu C F E Ma P 1.40 Mu 1 Wänström (Linköpings universitet) Multivariata metoder 17 september 8 / 21

9 Stegen i EFA 1 Standardisera variablerna 2 Beräkna kovariansmatrisen C 3 Välj antal faktorer 1 Tex med tumregeln: antal faktorer=antal egenvärden större än 1 4 Skatta laddningarna 1 Principalkomponentmetod 2 Iterativ principalfaktormetod 3 Least Squares 5 Rotera faktorerna för enklare tolkningar 6 Beräkna faktor-"scores" Wänström (Linköpings universitet) Multivariata metoder 17 september 9 / 21

10 Exempel i SAS: 13 mentala tester Data EFA (type=corr); input _type_ $ _name_ $ I S A V C DS PC CS PA BD OA SS M; cards; N corr I corr S corr A corr V corr C corr DS corr PC corr CS corr PA corr BD corr OA corr SS corr M ; proc factor method=prinit rotate=v maxiter=50 scree preplot plot; var I S A V C DS PC CS PA BD OA SS M; run; Wänström (Linköpings universitet) Multivariata metoder 17 september 10 / 21

11 The SAS System The FACTOR Procedure Initial Factor Method: Iterated Principal Factor Analysis Prior Communality Estimates: ONE Preliminary Eigenvalues: Total = 13 Average = 1 Eigenvalue Difference Proportion Cumulative Wänström (Linköpings universitet) Multivariata metoder 17 september 11 / 21

12 Scree Plot of Eigenvalues 6 ˆ 1 5 ˆ 4 ˆ E i g e n v 3 ˆ a l u e s 2 ˆ 2 1 ˆ factors will be retained by the MINEIGEN criterion ˆ Šˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒƒƒƒƒƒˆƒ Wänström (Linköpings universitet) Multivariata Number metoder 17 september 12 / 21

13 Factor Pattern Factor1 Factor2 Factor3 I S A V C DS PC CS PA BD OA SS M Wänström (Linköpings universitet) Multivariata metoder 17 september 13 / 21

14 Variance Explained by Each Factor Factor1 Factor2 Factor Final Communality Estimates: Total = I S A V C DS PC CS PA BD OA SS M Wänström (Linköpings universitet) Multivariata metoder 17 september 14 / 21

15 Plot of Factor Pattern for Factor1 and Factor2 Plot of Factor Pattern for Factor1 and Factor3 Factor1 1.9 D.8 A J C.7 E K.G L I.5 F.4 H.3 M.2 F.1 a c t o.1 r I=A S=A A=C V=D C=E DS=F PC=G CS=H PA=I BD=J OA=K SS=L M=M Factor D J A.7C K E G.6 L I.5 F.4 H M.3.2 F.1 a c t o.1 r I=A S=A A=C V=D C=E DS=F PC=G CS=H PA=I BD=J OA=K SS=L M=M Wänström (Linköpings universitet) Multivariata metoder 17 september 15 / 21

16 Plot of Factor Pattern for Factor2 and Factor3 Factor H.4 L.3 KJ M.2 F I1 a c G F t C o.1 r 3.2 E A.3B D I=A S=B A=C V=D C=E DS=F PC=G CS=H PA=I BD=J OA=K SS=L M=M Wänström (Linköpings universitet) Multivariata metoder 17 september 16 / 21

17 The FACTOR Procedure Rotation Method: Varimax Orthogonal Transformation Matrix Wänström (Linköpings universitet) Multivariata metoder 17 september 17 / 21

18 Rotated Factor Pattern Factor1 Factor2 Factor3 I S A V C DS PC CS PA BD OA SS M Wänström (Linköpings universitet) Multivariata metoder 17 september 18 / 21

19 Variance Explained by Each Factor Factor1 Factor2 Factor Final Communality Estimates: Total = I S A V C DS PC CS PA BD OA SS M Wänström (Linköpings universitet) Multivariata metoder 17 september 19 / 21

20 Plot of Factor Pattern for Factor1 and Factor2 Plot of Factor Pattern for Factor1 and Factor3 Factor D A.7 E.6 C.5.4 G F I J.3 L K.2 H F.1 M a c t o.1 r I=A S=A A=C V=D C=E DS=F PC=G CS=H PA=I BD=J OA=K SS=L M=M Factor D A.7 E.6 C.5.4 G JFI.3 K L.2 H F.1 M a c t o.1 r I=A S=A A=C V=D C=E DS=F PC=G CS=H PA=I BD=J OA=K SS=L M=M Wänström (Linköpings universitet) Multivariata metoder 17 september 20 / 21

21 Plot of Factor Pattern for Factor2 and Factor3 Factor KJ.6.5 G.4.3 A M C L.2 DEF F.1 H a c t o.1 r I=A S=A A=C V=D C=E DS=F PC=G CS=H PA=C BD=J OA=K SS=L M=M Wänström (Linköpings universitet) Multivariata metoder 17 september 21 / 21