STOCKHOLMS UNIVERSITET HT 2005 Statistiska istitutioe 2005-09-9 MC Istruktioer till DATORÖVNING Fortsättigskurs i statistik, momet, Statistisk Teori, 0 poäg. Saolikhetsteori - Cetrala gräsvärdessatse. Iledig Atag att f(x) är e fördelig med ädligt vätevärde E(X) µ och ädlig positiv varias Var(X) σ 2. Om vi drar ett iid stickprov, dvs stycke oberoede observatioer X i frå samma fördelig f(x), så är medelvärdet av observatioera X i X i e y stokastisk variabel (e statistika). Om vi låter så går fördelige för X, eligt cetrala gräsvärdessatse (CGS), mot e ormalfördelig med vätevärde E( X ) och varias Var( X ), age vad dessa är eda (se Hogg&Tais sid 249-250): E ( X ) (här ska i skriva e viss bokstav! Vilke? Varför) Var ( X ) (här också!) Vi ka alltså aväda ormalfördelige som e approximatio till de exakta fördelige om stickprovet är tillräckligt stort. Me hur stort är stort? Istället för att beräka de exakta fördelige är det gaska valigt att ma med hjälp av e dator simulerar e fördelig geom att upprepade gåger dra oberoede stickprov och för varje stickprov beräka statistika ma är itresserad av, som tex medelvärdet X. När ma har ett tillräckligt stort atal observerade/simulerade medelvärde x aväder ma seda de empiriska fördelige av dessa som e approximatio till de exakta fördelige. Det eklaste sättet är att låta e dator göra detta arbete eftersom det typiskt krävs ågra hudra oberoede stickprov ia ma får ågot avädbart. Vi börjar med att defiiera fördelige för atalet prickar är vi kastar e rättvis tärig. Starta Miitab och skriv i följade rader i sessiosföstret (kommetarera ska ite matas i!): MTB > set c DATA> :6 DATA> ed # Utfallsrummet -6 vid kast med tärig läggs i C MTB > set c2 DATA> 6() DATA> ed MTB > let c2c2/6 # Saolikhetera /6 läggs i C2 MTB > sum c2 # Kotroll att saolikhetera summerar till
Kotrollera i dataföstret att kolum C iehåller de olika möjliga utfalle och att kolum C2 iehåller saolikhetera för var och e av dessa. Nu ka vi låta Miitab kasta tärige åt oss säg 3 gåger geom att skriva i följade rader (observera semikolo efter första rade och pukt efter adra!): MTB > rad 3 C3; SUBC> disc C C2. # Geerera 3 observatioer (kast) och lägg resultatet i C3 # Age att det är observatioer frå e diskret fördelig där de möjliga utfalle fis i C och saolikhetera i C2 Resultatet av dea simulerade serie av tärigskast, dvs ett stickprov av storlek 3, har lagts i C3. Vi ka u beräka stickprovets medelvärde: MTB > mea C3 C4 # Beräka medelvärde av alla observatioer i C3, dvs de tre simulerade kaste, och lägg resultatet i C4 Nu har vi ett observerat medelvärde x frå ett stickprov av storlek 3. Detta ska u upprepas ett par hudra gåger ia vi ka approximera de sökta fördelige. Me istället för att upprepa alla kommado ova för had låter vi Miitab göra detta åt oss geom att skriva ett litet program, eller ett sk makro. 2. Simulerig av kast med rättvis tärig Vi ska u istället för att studera medelvärdet, titta på fördelige för summa Y X + + X av tärigskaste i ett stickprov. Vad vet vi om dea? Starta Ateckigar i Widows och skriv i följade rader (kommetarera ska ite matas i u heller! Me läs dem!): GMACRO # Talar om för Miitab att det är e makrofil DATA # Namet på file, tex DATA ERASE C4 # Radera allt som evetuellt ligger i C4 DO K :000 # Upprepa följade 000 ggr (K är e räkare) RAND K2 C3; # Dra ett stickprov av storlek K2 DISC C C2. # - - LET C4(K) SUM(C3) # Beräka och lagra stickprovets summa i C4 ERASE C3 # Radera sista stickprovet ENDDO # Slutrad för upprepig DESC C4 # Deskriptiv aalys av data i C4 LET K3 K2*7/2 # förklaras seare LET K4 SQRT(K2*35/2) # förklaras seare HIST C4; # Rita ett histogram DENS; # - - BAR; # - - DIST; # med ormalfördeligskurva iritat NORMAL; # - HPARA K3 K4; # - TITLE Rättvis tärig, X. # Ager histogrammets rubrik ENDMACRO # Markerar slut på file
Observera rad 7 ova. Spara seda er makrofil uder lämpligt filam tex Data.mac, (observera rad 2 i makrot ova) geom att via meyera välja Arkiv>Spara och i dialogföstret uder Filam skriva i var de ska sparas. Om i har e ege diskett med er skriver i A: istället C:. Kom bara ihåg var i har sparat file så att i kommer åt de är de ska köras. Observera att filamsädelse.mac är viktig. Iblad lägger Widows till ett.txt till filamet me detta måste i så fall tas bort ia i går vidare. Det ka bli lite problem med detta me ropa på mig (Michael) så får i hjälp vid behov. Ia vi ka köra makrot måste vi bestämma stickprovsstorlek, dvs atalet tärigskast. Börja med ett litet stickprov säg 3 geom att skriva i MTB > LET K23 # K2 är e Miitab-kostat som i ka sätta till valfritt värde Seda kör i igåg med att dra 500 oberoede stickprov av storlek 3 geom att aropa makrofile vi skapade. Detta görs geom att skriva (förutsatt att file heter Data.mac ) MTB > %<sökväg>\data # OBS! Procettecket % först ager att i vill köra ett makro där i ska byta ut <sökväg> ova och istället age de plats där i sparade makrofile. Ni ska u kua se hur Mitab jobbar med att dra stickprov och sparar de resulterade summora i C4. När allt är klart efter ågra sekuder ska i få ett resultat i sessiosföstret som bör se ut ugefär som: Descriptive Statistics Variable N N* Mea SE Mea StDev Miimum Q Media Q3 C4 000 0 0,497 0,0895 2,830 3,000 9,000 0,000 3,000 Variable Maximum C4 8,000 Dessutom ska ett histogram med e iritad ormalfördeligskurva ha geererats ugefär som de eda. Vad ka i säga om ert resultat? Rättvis tärig, X Normal 0,4 0,2 Mea 0,5 StDev 2,958 N 000 0,0 Desity 0,08 0,06 0,04 0,02 0,00 4 6 8 0 C4 2 4 6 8
Nu ska i göra detta för flera olika stickprovsstorlekar. Börja med och upprepa seda simulerigara för stickprovsstorlekara 0, 30, 00. Kom ihåg att varje gåg först ädra stickprovsstorlek geom att age värdet för K2 som i gjorde ova ia i kör makrot. Om i dubbelklickar på rubrike i histogrammet, dvs på Rättvis tärig, X, kommer i i editläge och ka ädra texte i rubrike. Byt ut X:et mot det värde på som i har valt för de seaste simulerige så blir det lättare att hålla reda på diagramme. För i det observerade medelvärdet och stadardavvikelse för summora i tabelle på sista sida (Mea resp. StDev i skärmutskrifte som i exemplet ova). Låt histogramme vara kvar för varje stickprovsstorlek. För vilket värde på tycker i att det börjar lika e ormalfördelig? Beräka slutlige de teoretiska värdea för respektive stickprovsstorlek. (Dessa värde fis reda agiva ågostas blad era resultat! Var?) Hur jämför sig de empiriska resultate med de teoretiska? Vad har de fördelig vi har agett i C och C2 för vätevärde och varias? Vad kallas dea fördelig? 3. Simulerig av kast med orättvis tärig Ni ska u upprepa alltsammas me med e orättvis tärig, dvs e tärig som ite har e likformig fördelig. Ädra saolikhetera i C2 för had geom att klicka i cellera direkt och skriv följade ya värde. C C2 0,80 2 0,0 3 0,05 4 0,02 5 0,02 6 0,0 Kom ihåg att aväda kommatecke som decimaltecke. Beräka u de teoretiska värdea på vätevärde och stadardavvikelse för dea fördelig. Beräka seda vätevärde och stadardavvikelse av summa Y för de olika stickprovsstorlekara. För i era resultat på sista sida. Gå seda i i er makrofil och ädra motsvarade tre rader eligt följade. Glöm ite att spara file. LET K3 K2*39/00 LET K4 SQRT(K2*8979/0000)) TITLE Orättvis tärig, X. Gör u om simulerigara med de ya fördelige geom att köra makrofile på precis samma sätt som tidigare. Välj samma stickprovsstorlekar som tidigare, dvs, 3, 0, 30, 00 och kom ihåg att ädra stickprovsstorlek ia i kör makrofile geom att age värdet på K2 som förut. För varje stickprovsstorlek för i seda i medelvärde och stadardavvikelse på sista sida. Hur jämför sig de empiriska resultate med de teoretiska för er valda fördelig? Om i tittar på de histogram som geererats, är ka vi säga att det börjar se ut som e ormalfördelig? Om i jämför med resultate med de rättvisa tärige, hur mycket sabbare eller lågsammare går det ia vi får ågot som börja lika e ormalfördelig?
Kast med rättvis tärig Fördelig (diskret likformig): x 2 3 4 5 6 Pr(X x) /6 /6 /6 /6 /6 /6 Vätevärde E(X) Stadardavvikelse SD(X) Simulerigsstudie Stickprovs- Teoretiskt Simulerat storlek, Vätevärde, E(Y) St.avv., SD(Y) Mea(y) StDev(y) 3 0 30 00 Kast med orättvis tärig Fördelig: x 2 3 4 5 6 Pr(X x) 80/00 0/00 5/00 2/00 2/00 /00 Vätevärde E(X) Stadardavvikelse SD(X) Simulerigsstudie Stickprovs- Teoretiskt Simulerat storlek, Vätevärde, E(Y) St.avv., SD(Y) Mea(y) StDev(y) 3 0 30 00
STOCKHOLMS UNIVERSITET HT 2005 Statistiska istitutioe 2005-09-9 MC Istruktioer till DATORÖVNING 2 Fortsättigskurs i statistik, momet, Statistisk Teori, 0 poäg. Iferes - Puktskattig. Iledig Vi ska jämföra ågra olika täkbara estimatorer för parameter λ i e Poissofördelig. Saolikhetsfuktioe för e Poissofördelige kommer vi ihåg och de ka i age här: f(x) Vi vet också vad vätevärdet och variase för e Poissofördelad slumpvariabel är och ager det här: E(X) Var(X) På föreläsigara har vi gått (eller kommer sart att gå) igeom åtmistoe två idéer om hur ma ka fia lämpliga estimatorer, tex maximum likelihood (ML). Det fis dock i pricip iga begräsigar är ma hittar på estimatorer och här kommer tre olika för λ som vi ska testa och jämföra. Estimator De första kadidate är stickprovsmedelvärdet x. Det ka relativt ekelt visas att detta är just ML-estimator för λ, me det är ekelt att ise att det också är mometestimator och mista kvadratskattige för λ. Vi skriver λˆ X ML X i i Därmed vet i också direkt vad vätevärdet och variase för ML-estimator är: E( λˆ ML ) ( ML ) Var λˆ Estimator 2. Eftersom det är fråga om e Poissofördelig med parameter λ visste vi ju vad variase är. Ma ka ju därför täka sig att stickprovsvariase ka fugera som estimator för λ, dvs λˆ SV S 2 i X 2 i X 2
Idexet SV får stå för stickprovsvarias. Vätevärdet för stickprovsvariase ka ekelt beräkas till ( λˆ ) λ λ E SV De är alltså vätevärdesriktig. Variase för S 2, dvs Var( λˆ SV ), däremot strutar vi tills vidare, vi ska i alla fall låta Miitab simulera stickprovsdragigar (se aars uppgift 6.2-4d i Hogg&Tais). Estimator 3. Atag att vi observerar k gåger fler 2:or ä :or i stickprovet, dvs # # ( 2) ( ) k där #(x) beteckar atalet observerade av värde x i stickprovet. Atalet :or resp 2:or i ett stickprov av storlek borde bli ugefär f() resp f(2) och geom att aväda Poissofördeliges saolikhetsfuktio ka vi beräka ett teoretiskt värde på kvote k eligt f f ( 2) ( ) f f ( 2) ( ) 2 λ exp λ exp ( λ) ( λ) 2!! λ 2 k; λ 2k E tredje kadidat som estimator för l ka alltså baseras på atalet ettor och atalet tvåor i stickprovet: λˆ PA 2 atalet tvåor atalet ettor 2 atalet tvåor atalet ettor Idexet PA får stå för proportioell apassig. Vätevärde och varias för dea estimator är dock för svåra för oss (fast egetlige ite!) så vi strutar i det tills vidare. Vi ska sart låta Miitab simulera stickprovsdragigar åt oss. 2. Dragig av ett stickprov med Miitab Vi ska u låta Miitab dra ett stickprov av storlek 0 frå e Poissofördelig med parametervärdet λ 3. Starta Miitab och skriv i följade rader i sessiosföstret (kommetarera ska givetvis ite matas i!): MTB > let k3 # Sätt λ 3 MTB > let k20 # Sätt 0 MTB > rad K2 C; # Dra ett stickprov av storlek K2 och lägg i C SUBC> pois K. # frå e Poissofördelig med parametervärde K Kotrollera i dataföstret att kolum C iehåller ett stickprov av storlek 0. Observatioera bör dessutom vara heltal omkrig 3 i storlek. För att skatta λ eligt de två första metodera skriver i MTB > mea C MTB > stdev c Kommadot mea ger er stickprovsmedelvärdet, dvs ML-skattige, me för att få SV-skattige måste i kvadrera resultatet frå stdev kommadot då det är stadardavvikelse som beräkas. För
att erhålla PA-skattige ka i själva räka atalet 2:or respektive :or i C och göra beräkige på ege had eligt defiitioe ova (att göra det med Miitab kräver lite mer). Age era resultat här λˆ ML λˆ SV λˆ PA Hur jämför sig de olika resultate? Svårt att säga med edast ett stickprov, vi måste ha måga fler observatioer av de tre ia vi ka säga ågot alls egetlige. 3. Simulerigsstudie Vi ska u låta Miitab dra 000 stickprov åt oss och för varje stickprov ska de tre skattigara beräkas och lagras i tre olika kolumer i Miitab. Geom att seda studera de empiriska fördeligara för respektive estimator ka vi få e idikatio om hur de fugerar och jämför sig med varadra. - medelvärdea av de 000 simulerade skattigara ger oss e gaska bra uppfattig respektive estimators vätevärde. Vi ka se om de är vätevärdesriktiga. - stadardavvikelsera ger oss möjlighet att jämföra effektivitete, dvs e lite stadardavvikelse betyder att de är relativt stabil som estimator. - histogram över respektive estimator ger oss e idikatio om hur fördelige ser ut. Ka ma aväda ormalfördelige som approximatio om vi tex vill beräka kofidesitervall? Makrot behöver i ite skriva i de här gåge, de fis färdig att köra i era datorer (för de som är yfike på makro eller vill göra övige hemma, återges makrot på sista sida). Ni ska bara bestämma parametervärde λ och stickprovsstorlek och vi börjar med λ 3 och 0. Skriv i MTB > %m:\fk\teori\data2 Glöm ite %-tecket i tredje rade ova. Ni ska u kua se hur Miitab drar e massa stickprov. Det tar lite tid så ha tålamod. När allt är klart ska tre histogram fias på skärme, ett för vardera estimator samt bakom dessa, i sessiosföstret, e utskrift som ser ugefär som följade exempel: Variable N N* Mea SE Mea StDev Miimum Q Media ML-est 000 0 3,0055 0,079 0,5656,4000 2,6000 3,0000 SV-est 000 0 3,0592 0,0499,5794 0,4556,9556 2,8444 PA-est 80 99 3,0757 0,0904 2,5585 0,000000000,2667 2,0000 Variable Q3 Maximum ML-est 3,4000 5,3000 SV-est 3,8222 4,000 PA-est 4,0000 2,0000 Vad drar i för slutsatser av er simulerig? Vilka av de tre verkar vara vätesvärdesriktiga? Vilke av de tre är mest effektiv, dvs uppvisar lägst varias? Hur ser fördeligara ut? Är det ågo eller ågra av de tre som i skulle kua approximera med e ormalfördelig med gott samvete? Ni har dessutom säkert lagt märke till att följade meddelade skrevs ut, kaske ett par gåger, uder tide som makrot var igåg:
LET C8(K3) 2*SUM(C4)/SUM(C3) J * WARNING * Values out of bouds durig operatio at J * WARNING * Missig retured times Ni har kaske också sett (me ite säkert) att det sakas PA-estimat i ågra fall. Titta uder N* i utskrifte i sessiosföstret. Dea siffra ager hur mycket bortfall det är för respektive estimator. Hur förklarar i detta? Läs av skattat vätevärde och skattad varias för respektive estimator frå skärmutskrifte och för i dessa i tabelle på sista sida (kom ihåg att i måste kvadrera stadardavvikelse för att få variase). Age äve hur stort det evetuella bortfallet var för PA-estimator. Upprepa u simulerige med stickprovsstorlekara 30 och 00. Ni ädrar storlek geom att age ett ytt värde på K2 ia i återige kör makrot. Det kommer att ta e lite stud varje gåg så i får ha lite tålamod. Skriv i resultate i tabelle på sista sida efter varje simulerig. Glöm ite bortfallet för PA-estimator. Seda upprepar i hela förfaradet me med ett ytt parametervärde, dea gåg med λ 0. Ädra alltså värdet på K till 0, och ädra tillbaka K2 till 0. Se kör i gåg ige och upprepar äve för stickprovsstorlekara 30 och 00 geom att ädra K2. - När allt är klart, börja med verifiera att skattat vätevärde och skattad varias för ML-estimator stämmer överes med vad ma skulle förväta sig teoretiskt. - Titta seda på hur SV-estimator jämför sig mot ML-estimator. Är det stora skillader i vätevärde och varias? - När det gäller PA-estimator, hur förklarar i skilladera i bortfallet? Fugerar de bättre eller sämre är vi ädrar stickprovstorlek? Fugerar de bättre eller sämre är vi ädrar värde på λ? Hur tror i att de skulle fugera som e allmä estimator för λ? - Nu har i ju ite studerat de exakta fördeligara för respektive estimator. Istället har i simulerat fördeligara geom att dra 000 observatioer frå var och e. Seda har i tagit medelvärde och stadardavvikelser frå dessa empiriska fördeligar som skattigar av respektive estimators vätevärde och stadardavvikelse / varias. Eftersom det är fråga om att simulera fis det alltid ett simulerigsfel. Hur ska ma få e uppfattig om detta simulerigsfel? Vad är SE Mea i utskriftera ova för ågot? Hur ska ma miska simulerigsfelet?
4. Simulerigsresultat för tre olika estimatorer för Poissoparameter λ a) λ 3, baserat på 000 simulerigar Stickprovs- ML-estimator SV-estimator PA-estimator storlek, medelv. varias medelv. varias medelv. varias bortfall 0 30 00 b) λ 0, baserat på 000 simulerigar Stickprovs- ML-estimator SV-estimator PA-estimator storlek, medelv. varias medelv. varias medelv. varias bortfall 0 30 00
5. Miitab-makrot GMACRO DATA2 #imatig etc ERASE C-C0 NAME C6 'ML-est' C7 'SV-est' C8 'PA-est' NAME K 'Lambda' K2 '' NOTE NOTE Age värde på lambda och stickprovsstorlek: NOTE SET C0; FILE "TERMINAL"; NOBS 2. LET K C0() LET K2 C0(2) LET C9() 'Lambda' LET C9(2) '' NOTE #simulerigsdel DO K3 :000 RAND K2 C; frå POIS K. LET C6(K3) MEAN(C) LET C7(K3) STDEV(C)**2 # Upprepa 000 ggr # Dra ett stickprov av storlekk2 # e Poissofördelig med lamdak # Beräka ML-skattige # Beräka SV-skattige LET K4 MAX(C) # Beräka PA-skattige CODE () (0) 0 (2:K4) 0 C C3 # - " - CODE (2) (0:) 0 (3:K4) 0 C C4 # - " - LET C8(K3) 2*SUM(C4)/SUM(C3) # - " - ENDDO #presetera resultate ERASE C-C4 K3-K4 PRINT K K2 DESC C6-C8; Mea; SEMea; StDeviatio; Media; Miimum; Maximum; N; NMissig. HIST C6-C8; DENS; SUBT " X"; BAR. ENDMACRO