Stokastiska vektorer

Transkript

1 TNG006 F Stokastiska vektorer 2 Kovarians och korrelation Definition 2 Antag att de sv X och Y har väntevärde och standardavvikelse µ X och σ X resp µ Y och σ Y Då kallas för kovariansen mellan X och Y och för korrelationen mellan X och Y C(X, Y E((X µ X (Y µ Y ρ(x, Y C(X, Y σ X σ Y Anmärkning 22 Kovariansen C(X, Y och korrelationen ρ(x, Y är mått på beroendet mellan X och Y 2 Om C(X, Y 0 säger vi att X och Y är okorrelerade Följande räknelagar gäller för kovariansen resp korrelationen Sats 23 Låt a, a m, b,, b n vara reella koefficienter Då gäller att C(X, Y E(X Y E(X E(Y 2 Om X och Y är oberoende så är C(X, Y 0 3 C(X, X V (X 4 C(a X + b, a 2 X 2 + b 2 a a 2 C(X, X 2 ( m 5 C a i X i, i n b j Y j j m n a i b j C(X i, Y j i j 6 ρ(x, Y 7 ρ(x, Y om och endast det finns ett linjärt samband mellan X och Y Vi har träffat på kovariansen tidigare i samband med variansen Det gäller att V (ax + by a 2 V (X + b 2 V (Y + 2ab(E(X Y E(X E(Y, (2

2 dvs V (ax + by a 2 V (X + b 2 V (Y + 2ab C(X, Y (22 Detta kan generalisereas till en linjärkombination av flera sv, ( n V a j X j j n a 2 jv (X j + 2 j n n i ji+ a i a j C(X i, X j (23 Vi behöver ett mått på graden av linjärt samband baserat på obsererade data Låt (x, y,, (x n, y n vara observationer av oberoende och likafördelade sv (X, Y,, (X n, Y n med kovarians C(X j, Y j c och korrelation ρ(x j, Y j ρ Vi skattar kovariansen med och korrelationen med ĉ n n (x j x(y j ȳ j r n n n j (x j x(y j ȳ n j (x j x 2 n n j (y j ȳ 2 Exempel 24 Antag att den sv X Re(, och låt Y X 2 Beroendet mellan X och Y X 2 är kvadratiskt Visa att X och Y är okorrelerade 2

3 22 Stokastiska vektorer Definition 25 Antag att X j, j, 2,, n är sv med väntevärde µ j E(X j, j, 2,, n Sätt c ij C(X i, X j, i, j, 2,, n Vi definierar en stokastik vektor som X (X, X 2,, X n t med väntevärdesvektor och kovaraiansmatris C µ (µ, µ 2,, µ n t c c 2 c 3 c n c 2 c 22 c 23 c 2n c n c n2 c n3 c nn Anmärkning 26 Notera att Diagonalelementen i C är c jj V (X j 2 C är symmetrisk, ty c ij C(X i, X j E((X i µ Xi (X j µ Xj C(X j, X i c ji 3 Om X j, j, 2,, n är oberoende, så är c ij 0 och C är en diagonalmatris 4 Kovariansen kan skrivas C E((X µ (X µ t Sats 27 Låt X vara en n stokastisk vektor Vi definierar en ny m -stokastisk vektor Y AX + b där A är en m n -matris och b en m -vektor Då gäller att E(Y A E(X + b 2 C Y A C X A t Bevis: Låt X (X,,, X n t, A (a ij m n, och b (b,, b m t Sätt Y AX + b Då är Y Y 2 Y m A X X 2 X m + b b 2 b m a X + a 2 X a n X n + b a 2 X + a 22 X a 2n X n + b 2 a m X + a m2 X a mn X n + b m 3

4 För j, 2,, m, gäller att E(Y j E(a j X +a j2 X 2 + +a jn X n +b j a j E(X +a j2 E(X 2 + +a jn E(X n +b j Dett ger att E(Y E(Y 2 E(Y m dvs E(Y AE(X + b a E(X + a 2 E(X a n E(X n + b a 2 E(X + a 22 E(X a 2n E(X n + b 2 a m E(X + a m2 E(X a mn E(X n + b m A E(X E(X 2 E(X m 2 Med µ X E(X och µ Y E(Y Aµ X + b, så följer av Anmärkning 26 att C Y E((Y µ Y (Y µ Y t E((Y Aµ X b (Y Aµ X b t E((AX + b Aµ X b (AX + b Aµ X b t E(A(X µ X (A(X µ X t E(A(X µ X ((X µ X t A t A E((X µ X (X µ X t A t A C X A t Vi noterar satsen ovan i specialfallet m, dvs Y Y och A (a, a 2,, a n a + b b 2 b m, Anmärkning 28 För linjärkombinationen av stokastiska variabler Y a X + a 2 X a n X n ax gäller att och E(Y ae(x C Y ac X a t Exempel 29 Låt X (X, X 2 t vara en stokastik vektor sådan att µ X (, t och ( C X Bestäm µ 2 Y och C Y för sv Y X + X 2 4

5 Exempel 20 Låt X oxh Y vara två beroende sv med väntevärden µ X och µ Y, standardavvikelser σ X och σ Y samt koorelationen ρ Bestäm kovariansmatrisen C 2 Prediktera Y mha en linjär funktion av X, dvs bestäm a och b, så att (a E(a + bx E(Y (b Variansen V (Y a bx blir minimal 5

6 23 Flerdimensionell normalfördelning Definition 2 En n -stokastisk vektor Y har flerdimensionell normalfördelning om Y µ + AX där µ är en n -vektor, A är en n m -matris och X är en m -vektor md oberoende N(0, komponenter Exempel 22 Om X (X, X 2 t ( är en normalfördelad stokastik vektor med väntevärdesvektor µ (, 2 t 2 och kovariansmatris C, skriver vi att 2 X N(µ, C N (( 2 ( 2, 2 Exempel 23 Bestäm väntevärdesmatris och kovariansmatris för en flerdimensionell normalfördelning Y µ + AX, där X är n vektor med oberoende N(0, komponenter Sats 24 Om Y har en flerdimensionell normalfördelning med väntevärdesmatris µ och kovariansmatris C med det C 0, så har Y täthetsfunktionen f Y (y,, y n ( 2π n det C e ((y µtc (y µ 2 Vi bevisar satsen i fallet m n och det A 0 Då är X A (Y µ Eftersom X har oberoende N(0, komponenter X j, j, 2,, n, så ges täthetsfunktionen för X av f X (x,,, x n f X (x f Xn (x n e x2 /2 e x2 n/2 2π 2π ( 2π n e (x2 +x2 2+x2 n /2 ( 2π n e (xt x/2 6

7 Låt M vara ett område i R n Då gäller att f Y (y,, y n dy dy n M f X (x,, x n dx dx n A (M A (M ( x/2 2π n e (xt dx dx n A(A (M ( 2π n e ((A (y µta (y µ/2 d(x,, x n d(y, y n dy dy n M ( 2π n e ((y µt (A ta (y µ/2 det A dy dy n M ( 2π n e ((y µt (AAt (y µ/2 det A dy dy n ( 2π n C (y µ/2 det C e ((y µt dy dy n, M ty det C det(aa t (det A 2 det A Alltså gäller att f Y (y,, y n ( 2π n det C e ((y µtc (y µ 2 Sats 25 Låt Z d + BY, där Y har flerdimensionell normalfördelning Då är även Z normalfördelad Bevis: Enligt definitionen kan Y skrivas Y µ+ax, där komponenterna i X är oberoende och N(0, Då följer att Z d + BY d + B(AX + µ d + Bµ + BAX ˆµ + ÂX, där ˆµ och  är fixa Definitionen av flerdimensionell normalfördelning ger nu att även Z är normalfördelad Sats 26 Antag att Y (Y,, Y n t har en flerdimensionell normalfördelning med kovariansmatris C sådan att det C 0 Då är Y j, j,, n oberoende om och endast om C är en diagonalmatris Bevis: Antag att Y j, j, 2,, n är oberoende Då är c ij C(Y i, Y j 0, i j och därmed är C Y en diagonalmatris 7

8 2 Antag nu omvändningen, dvs C Y är en diagonalmatris c c c nn Då är Enligt Sats 24 C Y /c /c /c nn f Y (y,, y n ( 2π n e c c 22 c nn e (y µ 2 /2c 2πc 2 ((y µtc (y µ 2πcnn e (yn µn2 /2c nn f Y (y f Yn (y n Eftersom f Y (y,, y n kan faktoriseras i produkten av täthetsfunktionerna för de endimensionella variablerna, så är Y j, j, 2,, n, oberoende Exempel 27 Låt X ( C X 3 ( X X 2 Bestäm täthetsfunktionen för Y Y 2 X + X 2 2 Bestäm P (Y > Y 2 + N(µ X, C X, där µ X ( Y Y 2 ( då Y 2X + X 2 och och 8

9 Övningar Stokastiska vektorer 5 Antag att den stokastiska vektorn X (X, X 2, X 3 t är N(µ, C, där µ (60, 60, 60 t och C Låt Y (X + X 2 + 2X 3 /4 Bestäm fördelningen för Y samt ett värde på a så att P (Y > a Låt X och X 2 vara oberoende och N(0, och låt den stokastiska vektorn Y definieras genom ( ( Y 2X X 2 Y 2 X + X 2 Bestäm täthetsfunktionen för Y Bestäm också P (Y > 2Y 2 53 I ett kommunikationssystem kan den i ett visst ögonblick mottagna signalen Y skrivas på formen Y X + Z, där X är den verkliga utsända signalen och Z en störning som är oberoende av X Vidare gäller att X N(0, 2 och Z N(0, (a Bestäm fördelningen för den stokastiska vektorn med komponenter X och Y (b Man vill rekonstruera X med hjälp av en linjär funktion ay +b av den mottagna signalen Bestäm konstanterna a och b så att E(aY +b E(X och V (X ay b är minimal 54 Mätningar på en tillverkningsprocess genomförs varje dag Av lång erfarenhet vet man att om processen är under kontroll, så gäller att för mätvärdena för dag t och dag t att ( X(t X(t N (( ( 2 6, 6 2 (a Stora förändringar från dag till dag anses bero på allvarliga störningar i driften Bestäm en gräns b för de normala variationerna från dag till dag, dvs bestäm b så att P ( X(t X(t < b 090 (b Låt U X(t X(t och V X(t + X(t Undersök om U och V är oberoende 55 Störningarna ε, ε 2 och ε 3 vid tre på varandra följande signalöverföringar i ett kommuniktionssystem kan anses utgöra komponenterna i en normalfördelad vektor med väntevärdesvektor µ och kovariansmatris C enligt nedan µ 0 0 0, C Beräkna sannolikheten att medelvärdet ε (ε + ε 2 + ε 3 / av de tre störningarna till sitt belopp överstiger 2 enheter 9

10 56 De sv X, X 2,, X 5 är oberoende och N(0, 2 Betrakta Y 5 (X + X X 5, Y 2 4X + X 2 X 3 X 4 X 5 (a Bestäm simultana fördelningen för (Y, Y 2 (b Beräkna P (Y > Y 2 (c Beräkna korrelationskoefficienten ρ(y, Y 2 mellan Y och Y 2 57 Den tvådimensionella stokastiska vektorn (X, X 2 t har täthetsfunktionen där c är en konstant och f(x, x 2 c e 2 Q(x,x 2, Q(x, x 2 5(x 2 2(x (x (x Ange fördelningarna för X och X 2 samt beräkna P (X > X Låt de sv X, X 2 och X 3 vara oberoende och N(0, Sätt Y X 2x 2 + X 3 och Y 2 c X + c 2 X 2 + c 3 X 3 Bestäm ett nödvändigt och tillräckligt villkor på c, c 2 och c 3 för att Y och Y 2 ska vara oberoende 0

11 Svar till Stokastiska vektorer Y N(60, 50 a f Y (y, y 2 6π e (2y2 2y y 2 +5y2 2/8, < y <, < y 2 < P (y > 2y ( X Y N (( 0 0, ( a 4/5, b 2 4 b 47 U och V är oberoende, ty U, V t är normalfördelad med en diagonalmatris som kovariansmatris 5 ε N(0, 02 P ( ε > (( ( a Y N, b Φ(35 03 c ρ 02 (( 7 X N 2 ( 2 5, 5 25 X N(, 2 och X 2 N( 2, 25 P (X > X Φ( Y och Y 2 oberoende om och endast om c 2c 2 + c 3 0