Matematisk statistik ör STS vt 004 004-05 - 04 Begt Rosé Itervallskattigar, syoymt koidesitervall eller statistiska osäkerhetsgräser Allmät om koidesitervall För att börja kokret återväder vi till det tidigare exemplet där det gällde att bestämma e "pryls" vikt. 5 oberoede mätigar av vikte gav öljade resultat ; x = 7.4, x = 4.3, x 3 = 3., x 4 = 5.6, x 5 = 36.. Följade statistiska modell aågs vara adekvat i sammahaget. Stickprovet x = (x, x, x 3, x 4, x 5 ) = (7.4, 4.3, 3., 5.6, 36.) är utallet av oberoede stokastiska variabler X = (X, X, X 3, X 4, X 5 ), alla N(, 8) - ördelade. Parameter står ör "pryles vikt" och dess värde s ligger ågostas i itervallet (00, 50). De örsta råga "Vad väger pryle?" diskuterades i öregåede avsitt. Slutsatse var att e bra (och högst aturlig) skattig av vikte ges av stickprovsmedelvärdet x (7.4 + 4.3 + 3. + 5.6 + 36.) / 5 = 3.7. Så lågt allt gott och väl. Me, äve om ma tror att 3.7 är e bra puktskattig, käer ma på sig att ma ite skattat "mitt i prick". Skattige 3.7 är öread med viss osäkerhet. Huvudråga i det här avsittet gäller att ge kvatitativa mått på skattigsosäkerheter. Det is lera syoymer ör det vi är ute eter. E är att ma vill ge osäkerhetsgräser ör e skattig, e aa är att ma vill age ett koidesitervall ör parameter och ett tredje är att ma vill age e itervallskattig. Felmargial är ytterligare ett ord. Vi betraktar problemet i allmä ormulerig, eligt () och () eda. x = (x, x,..., x ) är utallet av ett slumpmässigt stickprov X = (X, X,.., X ) rå e ördelig F, vilke är associerad med e edimesioell parameter. Det saa värdet s på är okät, och det är det ma vill uttala sig om utirå stickprovet. () *(X) är e (pukt)estimator ör, och *(x) motsvarade (pukt)estimat. () *(X) örutsätts vara e bra estimator, om ä ite vätevärdesriktig så åtmistoe med örsumbar skevhet. Situatioe eter beräkat puktestimat illustreras eda. Sat parametervärde puktskattig *(x) s * Parameterrummet A Etersom slumpe är med och stör, tror ma ite att *(x) hamat mitt i prick (dvs. atagit värdet s ). Äve om * är e bra estimator är puktskattige * öread med viss osäkerhet. Vi vill kua age osäkerhetsgräser a och a sådaa att (3) eda blir uppyllt. Där är ormulerige oeklige vag, me de kommer att preciseras. Det är så gott som säkert att det saa, me okäda, parametervärdet s ligger i itervallet a a. (3) Iormatioe till örogade ör att beräka osäkerhetsgräsera a och a är stickprovsvärdea x = (x, x,..., x ), och gräsera väljs som uktioer av x, a (x) resp. a (x). Etersom stickprovet är utalle av s.v. X = (X, X,.., X ) ka också osäkerhetsgräsera ses som utall av stokastiska variabler a (X) resp. a (X).
Ett örsta steg är ma vill ge e mer precis versio av utsaga i (3) är att bestämma vad ma vill lägga i i "så gott som säkert". Etersom slumpe is med i bilde ka ma ite uttala sig med 00 % säkerhet. Me ma ka vara 90 %, 95 % eller 99 % (eller ågot aat midre ä 00 %) säker på det som sägs. DEFINITION (Blom sida 88) : Gräsera a (x) och a (x) ger ett koidesitervall [a (x), a (x)] ör parameter med koidesivå - (syoymt med koidesgrad - ) om öljade relatio gäller ; P F (a (X) a (X)) = -, oavsett vilke av de möjliga populatioera F som är de saa. (4) Kommetar : Ma ka udra varör koidesivå iörs på orme -. Typiska värde på koidesivå är 90 %, 95 % och 99 %, vilka svarar mot = 0 %, 5 % resp. %. Storhete ka tolkas som "elriske" ör att saige ite ligger iom koidesitervallet. Iebörde "elrisk" kommer att att vara ä mer uttalad är vi kommer till hypotesprövig. Av "tabellpraktiska" skäl är det lämpligt att geomgåede arbeta i termer av elrisk. Därmed har vi åtmistoe iört ett ytt begrepp. Fråga är om koidesitervall verklige is? Det gör de, och ramställige vore aturligtvis kostig aars. Vi börjar med ett ekelt all, och betraktar seda successivt krågligare situatioer. Koidesitervall vid ormalördelad populatio med käd stadardavvikelse Här örutsätts att edaståede statistiska modell beskriver situatioe. Stickprovet X = (X, X,.., X ) kommer rå e ormalördelig N(m, ) vars vätevärde m är okät, meda stadardavvikelse är käd. (5) Kommetar : E kokretiserig av modelle (5) är att stickprovet utgörs av upprepade mätigar av e storhet m, med ett istrumet vars (slumpmässiga) mätel har käd variabilitet. Vi vill uttala oss om värdet på parameter m. Uder (5) är stickprovsmedelvärdet X de aturliga, och äve bästa, estimator ör m. Etersom stickprovet kommer rå e ormalördelig är också stickprovsmedelvärdet X ormalördelat, X N( m, / ). Neda ages ett alterativt sätt att uttrycka de sake på. X m Uder modelle (5) är reeresvariabel N(0,) - ördelad. (6) / Kommetar 3 : Bakgrude ör terme "reeresvariabel", vilke aväds särskilt i FT - samlige, är öljade. Resultat om reeresvariabler kommer att avädas i aslutig till såväl koidesitervall som hypotestestig. Det är praktiskt att ha e term som är "eutral" relativt termer som "koidesitervallvariabel" och "testvariabel". Frå (6) öljer (med litet etertake), där λ p står ör p - kvatile i N(0, ) - ördelige : P (- / ( X m ) /( / ) / ) = -, vilket ekvivalet ka skrivas ; P (- / / X - m / / ) = -, (7) som i si tur är ekvivalet med ; P ( X - / / m X + / / ) = -. (8) Relatioe (8) tillsammas med deiitioe (4) ger u öljade resultat.
SATS (Blom sida 96) : Uder modelle (5) är X / / eller ekvivalet [ X - / /, X + / / ] (9) ett koidesitervall ör parameter m med koidesivå -. Kommetar 4 : Det skall rimlige vara så, att ju säkrare ma vill vara på det ma säger, desto midre pregat blir det. Formel (9) iebär att ju högre koidesivå väljs desto lägre blir koidesitervallet. För koidesivå 90 % är = 0. och / är 0.05 =.64. Till koidesivå 95 % svarar 0.05 =.96 och till koidesivå 99 % 0.005 =.33. Exempel : I det iledade "pryl"- exemplet blir 95 % - versioe av koidesitervallet (9) ; x 0.05/ 8 / 5 = 3.7.96 8 / 5 = 3.7 7.0 = [ 5.7, 39.7]. 3 Koidesitervall baserade på ormalapproximatio Vi släpper u e av örutsättigara i modelle (5), ämlige att populatioe är ormalördelad. Vi örutsätter edaståede "magrare" modell. Stickprovet X = (X, X,.., X ) kommer rå e ördelig F med vätevärde m och stadardavvikelse. Vätevärdet m är okät, me är kät. (0) Kommetar 5 : Äve modelle (0) ka kokretiseras med e mätelssituatio, där mätele ite behöver vara ormalördelade. Det is e mägd adra kokretiserigar också. Vad gäller puktskattig av m, ger ju stickprovsmedelvärdet X vätevärdesriktig estimatio oavsett om populatioe är ormalördelad eller ej (Blom 0.3.(a)). För att kostruera ett koidesitervall ör m uder modelle (0) ka ma i låga stycke "plaka" det tidigare resoemaget uder modelle (5). I det igurerade ormalördeligar på två olika ställe. Dels örutsattes populatioe vara ormalördelad dels, och som e kosekves av populatioes ormalördelig, var estimator X ormalördelad. Vid etertake ises att de eda ormalördelig som var viktig ör att komma till koidesitervallet (9) var att estimator X var ormalördelad. Ett stickprovsmedelvärde ka kaske vara ormalördelat uta att populatioe är det? Nej, exakt ormalördelad är X bara om populatioe är ormalördelad. (Det är ett djupsiigt resultat som vi ite går i på.) Däremot säger cetrala gräsvärdessatse att ett stickprovsmedelvärde X är med god approximatio ormalördelat uder högst allmäa villkor. Versio av cetrala gräsvärdessatse Uder modelle (0) approximeras ördelige ör X väl av ormalördelige N(m, / ), bara stickprovet är "ågorluda stort". () Ett alterativt sätt att uttrycka () på, i aalogi med (6), är ; X m Uder (0) är reeresvariabel approx. N(0, ) - ördelad. () / Utgåede rå () ka samma resoemagslije som örut aväds, me u med ett visst mått av approximatio. De leder till öljade approximativa versio av (7) ; P (- / / X - m / / ) -, (3) som geom algebraisk omstuvig leder till öljade approximativa versio av (8) ; P ( X - / / m X + / / ) -, (4) som i si tur leder till edaståede resultat. 3
SATS (Blom sida 96) : Uder modelle (0) gäller, är stickprovet är "ågorluda stort", att ett koidesitervall ör m med approximativ koidesivå - ges av ; X / /. (5) Kommetarer 6 : (i) Skillade mella (9) och (5) är att i (9) är koidesivå exakt -, meda de i (5) är approximativt -. (ii) E ära till hads liggade råga är aturligtvis : Vilke stickprovsstorlek behövs ör att approximatioe i satse ova skall vara tillräckligt bra? Tyvärr is iget ekelt geerellt svar. Approximatioes godhet beror av hur populatiosördelige F ser ut. Om F är e ormalördelig räcker ju =, me ju midre F likar e ormalördelig, desto större behövs ör god approximatio. Extra stort behövs om F är e påtagligt sed ördelig. Det is olika tumregler ör "tillräckligt stort" stickprov, me ige är helt oelbar. Blom idikerar (på sid 08) att " 0" duger ör det mesta, och de tumregel aammar vi. 4 Approximativt koidesitervall är också populatioes σ är okät Hittills har populatioes stadardavvikelse atagits vara käd, vilket ota ite är allet i praktiska situatioer. Då står ma istället iör e situatio av öljade typ. Stickprovet X = (X, X,.., X ) kommer rå e ördelig F med vätevärde m och stadardavvikelse, där såväl m som σ är okäda. (6) Det är m vi vill uttala oss om. Nu ugerar dock ite itervallet (5), etersom det iehåller de okäda storhete. Me, så läge vi tillåter oss vara approximativa ka sake ädå ixas till, med ett approximatiosörarade som allmät ka ormuleras så här ; När ma "idealt" behöver det saa värdet på e viss parameter me ite har tillgåg till det, ka ma ta sig ur kipa på öljade sätt. Först skattas de öskade parameter och seda aväds skattige som om de vore det korrekta värdet. Föraradet medör aturligtvis ett mått av approximatio, me de ka ma ota leva med och ädå komma i stort sett rätt. (7) Kruxet uder modelle (6) är att är okät. Me ka ju skattas. Eligt Blom 0.3.(b) ger stickprovets stadardavvikelse s e kosistet skattig av. Vi aväder de och går seda ram eligt (7), som här iebär att i () ersätts med s, vilket ger ; X m Uder (6) är reeresvariabel approximativt N(0,) - ördelad. (8) s / Geom att utgå rå (8) och ölja de tidigare resoemagslije ås resultatet eda. SATS (Blom sida 08) : Uder modelle (6) gäller, är stickprovet är "ågorluda stort", att ett koidesitervall ör m med approximativ koidesivå - ges av ; X / s /. (9) Att (8) gäller med god approximatio är stickprovet är "ågorluda stort" ka visas mer rigoröst, me det gör vi ite. God approximatio i (8) kräver litet större ä i (). Geom att skattas späds de approximatio som is reda i () på. Trots det aväder vi ortsatt att " 0" är e astädig tumregel också ör är (9) ka avädas. 4
5 Approximativa koidesitervall i allmäare all Hittills har vi hållit oss till koidesitervall ör de speciella parameter = populatioes vätevärde. Måge gåg gäller dock itresset ågo aa parameter (t.ex. tredje kvartile, ör att ta ett exempel). Låt *(X) som valigt stå ör e (bra) estimator ör, och D[*(X)] ör estimators stadardavvikelse. Valige beror också D[*(X)] av det okäda parametervärdet. När så är allet, örutsätter vi att vi har e (bra) estimator ite bara ör parameter själv, uta också ör estimators stadardavvikelse D[*(X)]. De seare estimator beteckas D*[*(X)]. Blom beteckar motsvarade puktskattig med d(*), eller bara d, som kallas - estimators medelel (= skattade stadardavvikelse). Asymptotisk ormalitet gäller ite bara ör stickprovsmedelvärde. Saolikhetsteori tillhadahåller e mägd "cetrala gräsvärdessatser" ör olika stickprovsvariabler. För så gott som alla ågorluda vettiga estimatorer * gäller aktiskt öljade ; Vid "ågorluda stort" stickprov är ( * ) d ( *) approx. N(0, ) - ördelad. (0) Med resoemag som tidigare leder (0) till öljade resultat (Blom sida 08). SATS (Blom sida 08) : Vid "ågorluda stort" stickprov ger * / d(*) ett koidesitervall ör med approximativ koidesivå -. () 6 Koides itervall ör skillade mella vätevärdea i två populatioer Här behadlas öljade problematik. X = (X, X,.., X ) är ett stickprov rå ördelige F, som har vätevärde m och stadardavvikelse, och Y = (Y, Y,.., Y ) är ett stickprov rå F, som har vätevärde m och stadardavvikelse. De två stickprove örutsätts vara oberoede av varadra. Vad ka sägas om dierese m - m? () För att puktskatta m - m amäler sig X Y (= skillade mella stickproves medelvärde) som de aturliga estimator. Med i stort sett samma resoemag som tidigare ka osäkerhetsgräser ör skattige X Y ås uder olika modeller. I örsta omgåge atas att såväl F som F är ormalördeligar. Då gäller, etersom lijärkombiatioer av oberoede ormalördelade s.v. är ormalördelade ; Fördelige ör X Y är ( m m, / / ), (3) N eller alterativt uttryckt ; Reeresvariabel ( Y ( m m )) / / ) är N(0, ) - ördelad. (4) X / Utgåede rå (4) ås med samma typ av resoemag som tidigare ; SATS (Blom sida 04) : När stickprove i () kommer rå ormalördelade populatioer med käda och ges ett koidesitervall ör m - m med koidesivå - av ; X Y. (5) / 5
Häräst släpper vi atagadet om att de två populatioera är ormalördelade, me vi atar ortsatt att populatioeras stadardavvikelser och är käda. Vidare örutsätts båda stickprove vara "ågorluda stora". Vid etertake ises att cetrala gräsvärdessatse då rättärdigar öljade, till (5) aaloga, resultat ; SATS (Blom sida 0) : Uder ova agiva örutsättigar ges ett koidesitervall ör m - m med approximativ koidesivå - av ; X Y. (6) / Häräst allet är populatioeras stadardavvikelser betraktas som okäda. Geom att, i lije med det som sägs i (7), ersätta och med skattigara s och s ås öljade. SATS (Blom sida 0) : Uder örutsättig att X - och Y - stickprove är "ågorluda stora" ges ett koidesitervall ör m - m med approximativ koidesivå - av ; X Y s s /, där s och är stickproves variaser. (7) s 7 Elimierig av approximatioe i (9) i ett speciellt all Måga av koidesitervalle ova har skavake att koidesivå är ågot approximativ, vilket dock ite hidrar att de aväds i praktike. Me det är aturligtvis öskvärt att elimiera approximatio så lågt ma ka. I vissa av de tidigare alle ka ma det, åtmistoe uder tilläggsatagade. Det är ästa tema, och vi börjar med öljade situatio, som är e "korsig" mella modellera i (5) och (6). Stickprovet X = (X, X,.., X ) kommer rå e ormalördelig N(m, ) vars vätevärde m och stadardavvikelse båda är okäda. (8) Det vi vill är, som örut, att age ett koidesitervall ör m. Det tidigare koidesitervallet (9) baserades på öljade resultat ; X m Uder (6) är reeresvariabel T approx. N(0, ) - ördelad. (9) s/ Det som sägs i (9) är i och ör sig sat, me det går aktiskt att beräka de exakta ördelige ör variabel T. Följade gäller eligt Lemma på sida 97 i Blom. SATS : Uder (8) har variabel T i (9) ördelige med täthetsuktioe ; / x T(x) k, - < x <, (30) där k är de kostat som gör villkoret T (x) dx uppyllt. De mest itressata aspekte på T i (30) är att de okäda parameter örsvuit (me täker ma eter, bör det vara så.) Fördelige ör T beror bara av stickprovsstorleke, och de käer ma ju. Häräst litet termiologi och beteckigar. 6
DEFINITION (Blom sida 94) : E ördelig med täthetsuktio med orme ( ) / x h (x) = k, - < x <, (där k bestäms av h (x) dx ) (3) kallas ör e t - ördelig med rihetsgrader. Dess α - kvatil beteckas t ( ). Några egeskaper hos t - ördeligar ages eda. (i) E t - ördelig är symmetrisk krig 0. (3) ( ) / x (ii) x / k e / Iebörde av (33) är att t - ördeigar kovergerar mot N(0,) - ördelige är atalet rihetsgrader växer mot oädlighete. E kosekves av det är ; (= N(0,) - örd. täthet), är, - < x <. (33) t ( ) ( = N(0,) - ördeliges - kvatil), är, 0 < <. (34) Vi återväder u till problemet att age ett koidesitervall ör m uder modelle (8). Vid litet etertake ises att satse i aslutig till (30) medör öljade ; X m Uder (8) är reeresvariabel T t( - ) - ördelad. (35) s/ Utgåede rå (35) ka u ett koidesitervall ör m härledas med avädade av i stort sett samma resoemagslije som örut. Frå (35) öljer ; P (- t / (-) ( X m) /(s / ) t / (-)) = -. (36) Omstuvig av (36), som i steget rå (7) till (8), leder till edaståede resultat. SATS (Blom sida 98) : Uder modelle (8) ges ett koidesitervall ör m med koidesivå - av ; X t / (-) s /. (37) Kommetar 7 : Resultate i (37) och (34) rättärdigar det approximativa koidesitervallet (9) är är "ågorluda stort". Me är ite är "ågorluda stort" skall (37) avädas. Ma ka t.o.m. gå så lågt att ma säger att (37) alltid bör avädas är är okät. För det allra mesta har itervallet (37) e mer korrekt (me ädå ågot approximativ) koidesivå ä (9). 8 Elimierig av approximatioe i (7) i ett speciellt all Här örutsätts öljade modell, som är ett specialall av modelle (). X = (X, X,.., X ) och Y = (Y, Y,.., Y ) är oberoede stickprov rå ormalördelade populatioer med vätevärde m respektive m, båda okäda. Populatioeras stadardavvikelser är också okäda, me örutsätts vara lika : = =. (38) Öskemålet är, som örut, att age ett koidesitervall ör dierese m - m. Utsaga i (4) specialiserar sig här till ; X Y ( m m ) Uder (38) är reeresvariabel N(0,)- ördelad. (39) / / Variabel i (39) ka dock ite avädas som de står ör att kostruera ett koidesitervall ör m - m, etersom värdet på är okät. Me ma kaske ka å e avädbar reeresvariabel om ersätts med e lämplig skattig? Så blir allet om ma aväder de s.k. "poolade" - skattige s p (i Blom heter skattige iråga bara s, me i FT - samlige heter de s p ). De ka skrivas på lera alterativa sätt ; 7
s p Q S S Q xx yy ( ) s ( ) s. (40) Följade ka visas ; X Y ( m m ) Uder (38) är reeresvariabel s / / p t( + - ) - ördelad. (4) Geom att utgå rå (4) och resoera "som valigt" ås edaståede resultat. SATS (Blom sida 03) : Uder (38) ges ett koidesitervall ör m - m med koidesivå - av ; X Y t. (4) / ( ) s p / / 9 Några ytterligare saker som bör käas till 9. Koidesitervall vid stickprov / observatioer i par: Se Blom Avsitt.4.(e). 9. Esidiga / ekelsidiga koidesitervall, udre och övre koidesgräser. Se Blom Avsitt 3.. 9.3 E mootoitetspricip ör koidesitervall Förutsättig : [a (x), a (x)] är ett koidesitervall ör parameter, A, med koidesivå -. Då gäller öljade. ) Om uktioe (u) växer på u A, ges ett koidesitervall ör parameter () med koidesivå - av [(a (x)), (a (x))]. ) Om uktioe (u) avtar på u A, ges ett koidesitervall ör parameter () med koidesivå av [(b(x)), (a(x))]. Rättärdigade: E titt på edaståede igur ger att, är (u) är växade, så gäller ; - = P (a (X) a (X)) = P ((a (X) () (a (X))), (43) vilket rättärdigar ). ) ises aalogt. 8
9.4 Litet om χ - ördeligar SATS : Låt X, X,.., X vara oberoede N(0,) - ördelade s.v. Då har de s.v. U X X... X ördelige med edaståede täthetsuktio ; h (x) = k / x / x e, - < x <, (där k bestäms av h (x) dx ). (44) DEFINITION (Blom sida 6) : Fördelige med ovaståede täthetsutio kallas - ördelige med rihetsgrader. De åberopas med beteckige ( ) och dess α - kvatil beteckas ( ). Följade resultat är e kosekves av summarepresetatioe av - ördelade s.v. SATS (Blom sida 93) : Om U ( ) och U ( ) är oberoede, gäller U + U ( + ). (45) Följade ka bevisas. SATS (Blom sid 95) : Om X N(0,) och Y ( ) är ober. är X/ Y/ t( ). (46) SATS (Blom sida 93, samt FT - samlige Avsitt.3) : Låt X, X,.., X vara ett stickprov rå e N(m, ) - ördelig och låt, som valigt ; X ( X )/ och Q ( X X = (- ) s. i i i i ) Då är X och Q oberoede s.v. med X N( m, / ) och Q / (- ). (47) 9