SF1901: Sannolikhetslära och statistik

Transkript

1 SF1901: Sannolikhetslära och statistik Föreläsning 6. Kovarians, korrelation, väntevärde och varians för summor av s.v.:er, De stora talens lag Jan Grandell & Timo Koski Jan Grandell & Timo Koski Matematisk statistik / 39

2 Repetition: Flerdimensionella stokastiska variabler Det två-dimensionella fallet: Låt (X,Y) vara en två-dimensionell s.v. F X,Y (x,y) = P(X x, Y y) kallas (den simultana) fördelningsfunktionen för (X, Y). F X (x) = P(X x) = P(X x, Y ) = F X,Y (x, ) kallas den marginella fördelningsfunktionen för X. F Y (y) = F X,Y (,y) kallas den marginella fördelningsfunktionen för Y. Jan Grandell & Timo Koski Matematisk statistik / 39

3 Repetition: Flerdimensionella stokastiska variabler Definition X och Y är oberoende stokastiska variabler om F X,Y (x,y) = F X (x)f Y (y) obs! Detta bör gälla för ALLA (x,y). Jan Grandell & Timo Koski Matematisk statistik / 39

4 Repetition: Simultan sannolikhetsfunktion (X,Y) är en diskret två-dimensionell s.v., om där F X,Y (x,y) = j=0k=0 0 j [x] 0 k [y] p X,Y (j,k)dudv p X,Y (j,k) = 1, p X,Y (j,k) 0. Funktionen p X,Y (i,k) kallas den simultana sannolikhetsfunktionen för (X,Y). Jan Grandell & Timo Koski Matematisk statistik / 39

5 Simultan täthet (X,Y) är en kontinuerlig två-dimensionell s.v., om där F X,Y (x,y) = x y f X,Y (u,v)dudv f X,Y (x,y)dxdy = 1, f X,Y (x,y) 0. Funktionen f X,Y (x,y) kallas den simultana täthetsfunktionen för (X,Y). Jan Grandell & Timo Koski Matematisk statistik / 39

6 Repetition: Marginalfördelningar fört kontinuerliga s.v.er Låt (X,Y) vara en kontinuerlig två-dimensionell s.v.. Den marginella fördelningsfunktionen för Y är och F Y (y) = F X,Y (,y) = f Y (y) = d dy F Y(y) = y f X,Y (x,v)dxdv f X,Y (x,y)dx är den marginella täthetsfunktionen för Y. Analogt är f X (x) = d dx F X(x) = den marginella täthetsfunktionen för X. f X,Y (x,y)dy Jan Grandell & Timo Koski Matematisk statistik / 39

7 Oberoende stokastiska variabler Definition X och Y är oberoende stokastiska variabler om för alla (x,y). f X,Y (x,y) = f X (x)f Y (y) Jan Grandell & Timo Koski Matematisk statistik / 39

8 Ett exempel (X, Y) är en 2-dimensionell st.v. med den simultana sannolikhetstätheten { 24xy 0 x 1,0 y 1,x +y 1, f X,Y (x,y) = 0 för övrigt. Vi checkar att f X,Y(x,y)dxdy = x 1 x 0 ydxdy= x(1 x)2 dx = (x 2x2 +x 3 )dx = 12 ( ) ( 4 = ) 12 = 1, s.s.b. Jan Grandell & Timo Koski Matematisk statistik / 39

9 Ett exempel (forts.): marginella sl-tätherna f X (x) = [ y 2 = 24x 2 ] 1 x 0 f X,Y (x,y)dy = 24x 1 x 0 ydy = 12x(1 x) 2, 0 x 1. P.s.s f Y (y) = 12y(1 y) 2, 0 y 1. Detta ger E [Y] = E [X] = xf X (x)dx = 12 x 2 (1 x) 2 dx = Jan Grandell & Timo Koski Matematisk statistik / 39

10 Ett exempel (X, Y) är en 2-dimensionell st.v. med den simultana sannolikhetstätheten { 24xy 0 x 1,0 y 1,x +y 1, f X,Y (x,y) = 0 för övrigt. Vi checkar att f X,Y(x,y)dxdy = x 1 x 0 ydxdy= x(1 x)2 dx = (x 2x2 +x 3 )dx = 12 ( ) ( 4 = ) 12 = 1, s.s.b. Jan Grandell & Timo Koski Matematisk statistik / 39

11 Ett exempel (forts.): oberoende f X (x) = 12x(1 x) 2, 0 x 1. f Y (y) = 12y(1 y) 2, 0 y 1. ( f X,Y (1/2,1/2)) = 6,f X (1/2)f Y (1/2) = ) 2 = 4 ( ) 3 2 = D.v.s., f X,Y (1/2,1/2)) = f X (1/2)f Y (1/2), och X och Y är beroende. Jan Grandell & Timo Koski Matematisk statistik / 39

12 Väntevärdet av g(x,y) Sats Låt (X,Y) vara en tvådimensionell s.v. Då gäller { E [g(x,y)] = g(x,y)f X,Y(x,y)dxdy för (X,Y) kontinuerlig, k=0 j=0 g(k,j)f X,Y(k,j) för (X,Y) diskret. Jan Grandell & Timo Koski Matematisk statistik / 39

13 Väntevärdet av g(x,y) = X +Y Sats Låt (X,Y) vara en tvådimensionell s.v. Då gäller E [X +Y] = E [X]+E [Y] Bevis. Låt (X,Y) vara en kontinuerlig tvådimensionell s.v.. Den föregående satsen visar med g(x,y) = x +y att = = x xf X,Y (x,y)dxdy + (x +y)f X,Y (x,y)dxdy = f X,Y (x,y)dydx + xf X (x)dx + y yf X,Y (x,y)dxdy f X,Y (x,y)dxdy yf Y (y)dy = E [X]+E [Y] Jan Grandell & Timo Koski Matematisk statistik / 39

14 Kovarians och korrelationskoefficient Låt (X,Y) vara en tvådimensionell s.v. där vi är intresserade av sambandet mellan Xs och Ys variation. Det kan vara natuligt att betrakta variablerna X µ X och Y µ Y. Vi skiljer på fallen då X och Y samvarierar resp. motverkar varandra, dvs. då ett stort/litet värde på X gör ett stort/litet värde på Y troligt resp. ett stort/litet värde på X gör ett litet/stort värde på Y troligt. Jan Grandell & Timo Koski Matematisk statistik / 39

15 Kovariansen mellan X och Y Betraktar vi nu variabeln (X µ X )(Y µ Y ), så innebär detta att den i första fallet, eftersom + + = + och = +, att den har en tendens att vara positiv. På motsvarande sätt, eftersom + = och + =, har den i andra fallet en tendens att vara negativ. Det som vi, lite slarvigt, har kallat tendens, kan vi ersätta med väntevärde. Vi leds då till följande definition. Definition Kovariansen mellan X och Y är där µ X = E(X) och µ Y = E(Y). C(X,Y) = E[(X µ X )(Y µ Y )], Jan Grandell & Timo Koski Matematisk statistik / 39

16 Kovariansen mellan X och Y Sats Kovariansen mellan X och Y är där µ X = E(X) och µ Y = E(Y). Bevis. : C(X,Y) = E[XY] µ X µ Y, C(X,Y) = E[(X µ X )(Y µ Y )] = E[XY X µ Y µ X Y + µ X µ Y ] = E[XY] E[X µ Y ] E[µ X Y]+µ X µ Y ] = E[XY] µ Y E[X] µ X E[Y]+µ X µ Y = E[XY] µ Y µ X µ X µ Y + µ X µ Y = E[XY] µ Y µ X Jan Grandell & Timo Koski Matematisk statistik / 39

17 Ett exempel (forts.): kovarians E[XY] = Detta ger från ovan = 8 xyf X,Y (x,y)dxdy = x 2 (1 x) 3 dx = x 24x 2 y 2 dydx C(X,Y) = E[XY] µ X µ Y = = Ett negativt samband. 0 Jan Grandell & Timo Koski Matematisk statistik / 39

18 Korrelationskoefficienten mellan X och Y Kovariansen kan sägas ha fel sort. Det verkar rimligt att ett mått på ett så abstrakt begrepp som samvariation skall vara sortfritt. Det vanligaste måttet är korrelationskoefficienten. Definition Korrelationskoefficienten mellan X och Y är ρ = ρ(x,y) = C(X,Y) D(X)D(Y). Man kan visa att ρ 1, där ρ = ±1 betyder att det finns ett perfekt linjärt samband, dvs. Y = ax +b. Jan Grandell & Timo Koski Matematisk statistik / 39

19 Korrelationskoefficienten mellan X och Y Sats Om X och Y är oberoende så är de okorrelerade, dvs. ρ(x,y) = 0. Omvändningen gäller ej, dvs. okorrelerade variabler kan vara beroende. Jan Grandell & Timo Koski Matematisk statistik / 39

20 Korrelationskoefficienten mellan X och Y Jan Grandell & Timo Koski Matematisk statistik / 39

21 Korrelationskoefficienten mellan X och Y Sats Om X och Y är oberoende så är de okorrelerade, dvs. ρ(x,y) = 0. Bevis: Per definition E[XY] = och p.g.a. oberoendet = = xf X (x)dx xyf X,Y (x,y)dxdy = xyf X (x)f Y (y)dxdy = yf Y (y)dy = = E(X) E(Y) = µ X µ Y. Då C(X,Y) = E[XY] µ X µ Y = 0. Jan Grandell & Timo Koski Matematisk statistik / 39

22 Ett exempel (forts.): korrelation E [ Y 2] = E [ X 2] = 1 Således är V(Y) = V(X) = = Detta ger från ovan 0 1 x 2 f X (x)dx = 12 x 3 (1 x) 2 dx = ρ = ρ(x,y) = C(X,Y) D(X)D(Y) = = 2 3 = Jan Grandell & Timo Koski Matematisk statistik / 39

23 Exempel Den simultana sannolikhetsfunktionen för stokastiska variablerna X och Y med p X,Y (j,k) X /Y Marginalfördelning för X: p X (0) = = 0.2, p X (1) = = 0.2 p X (2) = = 0.2, p X (3) = = 0.4 Jan Grandell & Timo Koski Matematisk statistik / 39

24 Exempel (forts.) På samma sätt fås marginalfördelning för Y: p Y (0) = 0.2,p Y (1) = 0.2 p Y (2) = 0.2,p Y (3) = 0.4. X och Y är INTE oberoende, ty, t.ex., p X (0) p Y (0) = = 0.04 = 0.2 = p X,Y (0,0) Jan Grandell & Timo Koski Matematisk statistik / 39

25 Exempel (forts.): BETINGADE FÖRDELNINGAR Materialet om betingade fördelningar kan överhoppas: I detta exempel p X Y=k (j) def = p X,Y (j,k),j = 0,1,2,3 p Y (k) p Y X=j (k) def = p X,Y (j,k),k = 0,1,2,3 p X (j) p Y X=2 (0) = p X,Y (2,0) p X (2) p Y X=2 (1) = p X,Y (2,1) p X (2) p Y X=2 (2) = p X,Y (2,2) p X (2) p Y X=2 (3) = p X,Y (2,3) p X (2) = = 0 = = 1 2 = = 1 2 = = 0 Jan Grandell & Timo Koski Matematisk statistik / 39

26 Exempel (forts.): BETINGADE FÖRDELNINGAR och p X Y=0 (0) = p X,Y (0,0) p Y (0) = = 1 p X Y=0 (1) = p X Y=0 (2) = p X Y=0 (3) = 0 Jan Grandell & Timo Koski Matematisk statistik / 39

27 Exempel (forts.):lts & BETINGADE FÖRDELNINGAR Utifrån definitionerna följer vidare att vi har p X (k) = p Y (j) = 3 3 p Y (j)p X Y=j (k) = p X,Y (k,j). j=0 j=0 3 3 p X (k)p Y X=k (j) = p X,Y (k,j). k=0 k=0 Jan Grandell & Timo Koski Matematisk statistik / 39

28 Exempel (forts.): E(X) = = 1.8. samt E(Y) = 1.8. E ( X 2) = = 4.6. V(X) = E ( X 2) E (X) 2 = = 1.36 = V(Y). Jan Grandell & Timo Koski Matematisk statistik / 39

29 Exempel (forts.): Kovarians och korrelation Kovariansen E(X Y) = = 4.5 C(X,Y) = E(X Y) E (X)E (Y) = = 1.26 Korrelationskoefficienten ρ(x,y) = C(X,Y) V(X) V(Y) = Vad säger detta? = = Jan Grandell & Timo Koski Matematisk statistik / 39

30 Mer om väntevärden Sats Låt (X,Y) vara en tvådimensionell s.v. Då gäller (1) E(aX +by) = ae(x)+be(y); (2) V(aX +by) = a 2 V(X)+b 2 V(Y)+2abC(X,Y). Bevis. (1) har visats tidigare. Jan Grandell & Timo Koski Matematisk statistik / 39

31 Mer om väntevärden: Bevis av (2) (2) fås av följande V(aX +by) = E[(aX +by aµ X bµ Y ) 2 ] = E[(aX aµ X +by bµ Y ) 2 = E[a 2 (X µ X ) 2 +b 2 (Y µ Y ) 2 +2ab(X µ X )(Y µ Y )] = a 2 V(X)+b 2 V(Y)+2abC(X,Y). Jan Grandell & Timo Koski Matematisk statistik / 39

32 Mer om väntevärden Följdsats Låt X och Y vara två oberoende (okorrelerade räcker) s.v. Då gäller E(X +Y) = E(X)+E(Y) V(X +Y) = V(X)+V(Y) E(X Y) = E(X) E(Y) V(X Y) = V(X)+V(Y). Jan Grandell & Timo Koski Matematisk statistik / 39

33 Mer om väntevärden Detta går att utvidga till godtyckligt många variabler: Sats Låt X 1,...,X n vara oberoende (okorrelerade räcker) s.v. och sätt Y = c 1 X c n X n. Då gäller och E(Y) = c 1 E(X 1 )+...+c n E(X n ) V(Y) = c 2 1 V(X 1)+...+c 2 n V(X n) Jan Grandell & Timo Koski Matematisk statistik / 39

34 Binomialfördelningen Antag att vi gör ett försök där en händelse A, med sannolikheten p = P(A), kan inträffa. Vi upprepar försöken n gånger, där försöken är oberoende. Sätt X = antalet gånger som A inträffar i de n försöken. Vi säger då att X är binomialfördelad med parametrarna n och p, eller kortare att X är Bin(n, p)-fördelad. Vi har ( ) n p X (k) = p k q n k, för k = 0,...,n, k där q = 1 p. Jan Grandell & Timo Koski Matematisk statistik / 39

35 X Bin(n,p), X = U U n Låt U 1,...,U n vara s.v. definierade av { 0 om A inträffar i försök nummer i, U i = 1 om A inträffar i försök nummer i. U 1,...,U n är oberoende och att X = U U n. Jan Grandell & Timo Koski Matematisk statistik / 39

36 X Bin(n,p), X = U U n Då och E(U i ) = 0 (1 p)+1 p = p V(U 1 ) = E(U 2 i ) E(U i ) 2 = E(U i ) E(U i ) 2 = p p 2 = p(1 p) så följer E(X) = ne(u i ) = np och V(X) = nv(u i ) = npq. Jan Grandell & Timo Koski Matematisk statistik / 39

37 Arimetiskt medelvärde X= 1 n n X i i=1 Sats Låt X 1,X 2,...,X n vara oberoende och likafördelade s.v. med väntevärde µ och standardavvikelse σ. Då gäller att E(X) = µ, V(X) = σ2 n och D(X) = σ n. Uttrycket X 1,X 2,...,X n är likafördelade betyder att de stokastiska variablernas fördelningar, dvs. att de stokastiska variablernas statistiska egenskaper, är identiska. Utfallen av variablerna varierar dock. Jan Grandell & Timo Koski Matematisk statistik / 39

38 Stora talens lag X= 1 n n i=1 X i Sats Stora talens lag För varje ε > 0 gäller Bevis. Enl. Tjebysjovs olikhet gäller P( X µ > ε) 0 då n. då n. P( X µ > ε) V(X) ε 2 = σ2 nε 2 0 Jan Grandell & Timo Koski Matematisk statistik / 39

39 Stora talens lag: ett frimärke från Schweiz Jan Grandell & Timo Koski Matematisk statistik / 39