Jesper Rydén. Matematiska institutionen, Uppsala universitet Tillämpad statistik för STS vt 2014

Transkript

1 Föreläsning 11. Jesper Rydén Matematiska institutionen, Uppsala universitet Tillämpad statistik för STS vt 2014

2 Old Faithful Old Faithful Eruption times Waiting times

3 Dagens föreläsning Överblick: Korrelationskoefficient ρ Multivariat normalfördelning Inferens kring ρ Fishers z-transform Spearmans test

4 Korrelationskoefficient Korrelationskoefficient för slumpvariabler X och Y : ρ XY = C[X, Y ] V[X ] V[Y ] Pga Cauchy-Schwartz olikhet gäller 1 ρ 1. Ett uttryck för graden av linjärt beroende. Korrelationskoefficient för stickprov x 1,..., x n och y 1,..., y n : r = S xy Sxx S yy där S xx = (x i x) 2, S xy = (x i x)(y i ȳ), S yy = (y i ȳ) 2.

5 Typ av samband Betrakta följande observationer (x, y): (0, 0), (2, 16), (3, 81), (6, 1296). Skattad korrelationskoefficient: r = 0.84, förhållandevis högt värde. Det verkar dock här finnas ett tydligt funktionssamband mellan x och y (i själva verket: y = x 4 )

6 Population mean vector, covariance matrix Consider a random vector X = (X 1,..., X p ). Population mean vector: where E[X] = µ µ = µ 1 µ 2. µ p Covariance matrix: Σ = E(X µ)(x µ) σ 11 σ 12 σ 1p σ 12 σ 22 σ 2p = σ 1p σ 2p σ pp and µ j = E[X j ].

7 Population correlation matrix Population correlation coefficient ρ ik = σ ik σii σkk Population correlation matrix 1 ρ 12 ρ 1p ρ 12 1 ρ 2p ρ = ρ 1p ρ 2p 1

8 Standard deviation matrix Standard deviation matrix σ V 1/2 0 σ22 0 = σpp Some relations: Σ = V 1/2 ρ V 1/2 ρ = (V 1/2 ) 1 Σ (V 1/2 ) 1

9 Standardized variables IMPORTANT FACT: The sample covariance matrix of the standardized variables is the correlation matrix of the original variables.

10 Multivariate Normal Distribution Mathematical tractability Multivariate central limit theorem Suitable for modelling of naturally occuring phenomena We write X N p (µ, Σ). Density: f (x) = 1 (2π) p/2 (det(σ)) 1/2 exp { (x µ) Σ 1 (x µ)/2 }, x R p

11 Illustration, Multivariate Normal Example: µ = [ 3 2 ] [, Σ = ].

12 Properties Linear combinations of the components are normally distributed All subsets of X are normally distributed. Zero correlation is equivalent to statistical independence Conditional distributions are normally distributed

13 Geometrical Interpretation Contours of constant density for the p dimensional normal distribution are ellipsoids defined by x such that (x µ) Σ 1 (x µ) = c 2 These ellipsoids are centered at µ and have axes ±c λ i e i, where Σe i = λ i e i, i = 1,..., p

14 Ellipsoids and Probabilities The solid ellipsoid of x values satifying has probability 1 α. (x µ) Σ 1 (x µ) χ 2 p(α)

15 Korrelationskoefficient för ett stickprov Korrelationskoefficient: r = S xy Sxx S yy där S xx = (x i x) 2, S xy = (x i x)(y i ȳ), S yy = (y i ȳ) 2. Man kan visa att approximativt gäller Fördelning. Då ρ = 0 gäller att E[r] = ρ, V[r] = (1 ρ2 ) 2 r n 2 t(n 2) 1 r 2 n

16 Fördelning för ρ Density function, n=10 Density function, n=100 function(x) dpearson(x, N = 10, rho = 0) (x) function(x) dpearson(x, N = 100, rho = 0) (x) x x Density function, n=10 Density function, n=1000 function(x) dpearson(x, N = 10, rho = 0.7) (x) function(x) dpearson(x, N = 10, rho = 0.7) (x) x x

17 Fishers z-transform Betrakta Z = 1 ( ) 1 + r 2 ln. 1 r Det gäller approximativt att Z N(0, 1). Gauss approximationsformler 1 : E[Z] 1 ( ) 1 + ρ 2 ln, V[Z] 1 1 ρ n 3 Approximativa konfidensintervall kan konstrueras. 1 Presenteras i kursen Statistisk riskanalys 1MS027

18 Exempel Kronbladen hos svärdsliljan studeras. Tillgängligt: Observationer av längd (x) och bredd (y) hos 50 kronblad hos svärdslilja (Iris setosa canadensis). Antag att mätningarna kommer från en tvådimensionell normalfördelning. Bestäm ett 95% konfidensintervall för korrelationen ρ. [Tavlan]

19 Samband: Korrelationskoefficient och förklaringsgrad Betrakta korrelationkoefficienten r xy = c xy s x s y där och s 2 x = 1 n 1 c xy = 1 n 1 n i=1 n (x i x)(y i ȳ) i=1 (x i x) 2, s 2 y = 1 n 1 n (y i ȳ) 2 i=1 Man kan visa (Stokastik, Sats 9.1) att r 2 xy = R 2. [Tavlan]

20 Statistiska test Hypotesen ρ = 0 kan testas genom att utnyttja att r n 2 t(n 2) 1 r 2 I en modell för enkel linjär regression y = α + βx kan man testa hypotesen β = 0 genom att utnyttja att Släktskap finns. β s/ S xx t(n 2)

21 Typ av samband (igen) Betrakta följande observationer (x, y): (0, 0), (2, 16), (3, 81), (6, 1296). Skattad korrelationskoefficient: r = 0.84, förhållandevis högt värde. Det verkar dock här finnas ett tydligt funktionssamband mellan x och y (i själva verket: y = x 4 )

22 Spearmans rangkorrelationskoefficient Givet: n observationspar (x 1, y 1 ),..., (x n, y n ). Rangordna och tilldela i vardera följden ordningstalen 1 till n. Låt d j vara differensen mellan rangerna i det j:te talparet. Spearmans rangkorrelationskoefficient: där S = n j=1 d 2 j. Hypotes: r s = 1 6S n 3 n H 0 : X och Y är oberoende Test: Förkasta H 0 om r s a. Om n stort (n 10) gäller att u = n 1r s är en obs från N(0, 1) (osv.)

23 Exempel Man undersökte förändring i puls hos 10 personer som höll andan så länge de kunde. Försöket genomfördes vid normal rumstemperatur och personerna höll huvudet i vatten, dels med temperaturen 10 C, dels med temperaturen 30 C. Mätresultat anges för varje individ som minskning av antalet slag per minut. [Tavlan]

24 En omnibus-rutin för test av korrelationskoefficient med R Som alternativ kan väljas Pearson Spearman Kendall cor.test

25 Partiell korrelation NE: Den korrelation mellan två variabler som kvarstår efter det att den del i de bägge variablerna som kan predikteras (linjärt) från en tredje variabel har eliminerats. Betrakta slumpvariablerna X 1, X 2 och X 3 med korrelationskoefficienterna ρ 12, ρ 13 och ρ 23. Motsvarande stickprovskorrelationskoefficienter: r 12, r 13 och r 23. Partiell korrelationskoefficient (engelska: partial correlation coefficient): r 12 r 13 r 23 r 12 3 = (1 r13 2 )(1 r 23 2 ) (Källa: G.W. Snedecor, W.G. Cochran: Statistical Methods (6th ed) R-rutin: pcor.test

26 Test kan utföras; denna korrelation är inte signifikant (skild från noll). Det kan inte uteslutas att för flera åldrar är B och C okorrelerade. Exempel Slumpmässigt stickprov om 142 äldre kvinnor från Iowa (IA) och Nebraska (NE). Variabler: Från data: A: Ålder, B: Blodtryck, C: Kolesterolhalt r AB = , r AC = , r BC = Det anses känt att B och C ökar med ökande ålder. Kan B och C anses vara korrelerade pga. deras gemensamma förhållande till ålder? Vi beräknar r BC A = ( )( ). =

27 Kursen är slut! Lycka till med statistiska analyser i fortsatta studier och arbetsliv! Välkommen att läsa ytterligare fortsättningskurser! :-)