LUNDS TEKNISKA HÖGSKOLA MATEMATIKCENTRUM MATEMATISK STATISTIK DATORLABORATION 3 MATEMATISK STATISTIK, AK FÖR I, FMS 12, HT-8 Laboration 3: Sannolikhetsteori och simulering Syftet med den här laborationen är att du skall bli mer förtrogen med några viktiga områden inom kursen nämligen Betingade fördelningar Beroende Stora talens lag Centrala gränsvärdessatsen Simulering av tvådimensionella normalfördelade stokastiska variabler Funktioner av stokastiska variabler 1 Förberedelseuppgifter Som förberedelse till laborationen bör du läsa igenom Kapitel 3.1, 4.5 4.6, 5.1 4, 5.7, 6.6 och laborationshandledningen. Till laborationens start har du med dig lösningar, som du kan redogöra för, till uppgifterna (a) (d): (a) Definiera följande begrepp: oberoende stokastiska variabler, väntevärde, varians, kovarians, korrelation och betingad täthetsfunktion. (b) Skriv upp den simultana täthetsfunktionen för X och Y om X N(m X, X ), Y N(m Y, Y ) och X och Y är oberoende av varandra. (c) Vilken fördelning har Y = X + m om X N(, 1), m och är tal där >? (d) Låt (X, Y ) ha en tvådimensionell normalfördelning med m X = 1,m Y = 2, X = 1, Y =.5 och Ö =.6. Ange fördelningen för X givet att Y = 1. 2 Betingade fördelningar Till den här delen av laborationen behöver du de två specialrutinernanormal2d ochcondnormal. Gå in på kursens hemsida och ladda ner dem till dinmatlab-katalog. Det här avsnittet syftar till att belysa begreppet betingad fördelning. Detta är viktigt eftersom betingade fördelningar och speciellt deras väntevärden och varianser är grundläggande för all prediktion och rekonstruktion i stokastiska system. Avsikten är också att du skall träna på korrelation som mått på beroende mellan två stokastiska variabler X och Y. Vi arbetar här med en tvådimensionell normalfördelning (X, Y ). Täthetsfunktionen för en tvådimensionell normalfördelning med väntevärden m X, m Y, standardavvikelser X, Y och korrelationskoefficient Ö = Ö(X, Y ) = C(X, Y ) är X Y { [ 1 f X,Y (x, y) = K exp 2(1 Ö 2 ( x m X ) 2 + ( y m Y ) 2 2Ö( x m X )( y m ]} Y ), ) X Y X Y där K = 1 2Ô X Y 1 Ö 2.
Vad gäller för beroendet mellan X och Y om Ö =? Genom att bestämma den betingade täthetsfunktionen f X Y (x y) = f X,Y (x, y) ser man att den betingade f Y (y) fördelningen för X givet att Y = y är en endimensionell normalfördelning med E(X Y = y) = m X + Ö X Y (y m Y ), V (X Y = y) = 2 X (1 Ö 2 ). Observera att det betingade väntevärdet är lika med m X plus en korrektionsterm som beror linjärt av y medan den betingade variansen bara beror på Ö. (Analoga formler gäller för n-dimensionella normalfördelningar.) Du ska nu studera grafiskt hur den betingade fördelningen, väntevärdet och variansen för X ändras då vi skruvar lite på de olika parametrarna i uttrycken ovan. Med andra ord, hur ändras vår information om X efter det att vi observerat att Y = y? Till din hjälp finns två specialskrivna m-filer, normal2d och condnormal, som ger dig bilder över de inblandade täthetsfunktionerna. Kommandot normal2d(m X,m Y, X, Y,Ö) ger en bild över den tvådimensionella täthetsfunktionen, dess nivåkurvor och de marginella täthetsfunktionerna för X och Y. Funktionencondnormal() ger bilder av de betingade täthetsfunktionerna. Kommandot condnormal(m X,m Y, X, Y,Ö, y,y) genererar t.ex. en bild över den betingade täthetsfunktionen för X givet att Y = y. Rita några olika fördelningar och undersök hur betingat väntevärde och varians påverkas för små resp. stora värden på Ö, X och Y. Vad händer om Ö = eller.99? Använd t.ex.condnormal samthold on och studera hur tätheten ändras med Ö och Y. Vad händer när du ändrar Ö och Y? 3 Stora talens lag Stora talens lag säger att om X n är medelvärdet av n likafördelade oberoende stokastiska variabler X 1,..., X n med ändlig varians, så gäller att P( X n m X > ) då n för varje >, vilket också kan uttryckas som att X n m X i sannolikhet. Enklare uttryckt så kommer medelvärdet av n variabler att avvika allt mindre från väntevärdet då n växer. Ett sätt att illustrera detta är att kasta en tärning många gånger och se att de successiva medelvärdena konvergerar mot väntevärdet. Simulera först 1 tärningskast: >> help unidrnd >> X=unidrnd(6,1,1) Ett sätt att räkna ut de successiva medelvärdena är följande: >> Xbar=cumsum(X)./(1:1) 2
Funktionen cumsum ger en vektor där element i är summan av de i första elementen i inparametern, i vårt fall X. Notationen./ betyder elementvis division och (1:1) är en kolonnvektor med talen 1 t.o.m. 1. Tänk ut attxbar innehåller de successiva medelvärdena. Plotta dem. >> plot(1:1,xbar) Gör om alltihop med fler kast, t.ex. 1 st. Ser allt ut som du väntat dig? 4 Centrala gränsvärdessatsen Börja med att hitta på en diskret sannolikhetsfunktion med några möjliga utfall, t.ex. den likformiga fördelningen över 1 t.o.m. 6, dvs ett tärningskast. Mata sedan in denna sannolikhetsfunktion i form av en vektor. >> p=[ 1 1 1 1 1 1]/6 Nollan finns där för att det blir lättare att hålla reda på saker och ting om det första elementet i vektorn är sannolikheten för att utfallet är noll. Välj gärna någon annan sannolikhetsfunktion än ovanstående förslag. Rita upp sannolikhetsfunktionen med kommandotbar. >> bar(:length(p)-1,p) Funktionenlength ger längden av en vektor. Som du vet beräknas sannolikhetsfunktionen för en summa av två oberoende diskreta stokastiska variabler genom en diskret faltning, se formel (4.14) i boken. I MATLAB finns en funktion, conv, som utför just en sådan faltning (faltning heter convolution på engelska). >> p2=conv(p,p) >> p4=conv(p2,p2) >> p8=conv(p4,p4) Här blir p8 alltså sannolikhetsfunktionen för en summa av åtta stycken oberoende stokastiska variabler med sannolikhetsfunktionen p. Rita upp dessa nya sannolikhetsfunktioner. När börjar det likna en normalfördelning? Räkna nu ut väntevärde och standardavvikelse för en stokastisk variabel med sannolikhetsfunktionenp. >> m=sum((:6).*p) >> sigma=sqrt(sum(((:6)-m).^2.*p)) Funktionen sum ger summan av elementen i en vektor, notationen.^2 betyder elementvis kvadrering av en vektor och sqrt är kvadratroten. Vi kan nu jämföra sannolikhetsfunktionen p4 med den approximativa normalfördelning N(nm, n) (där n = 4) som vi får ur Centrala gränsvärdessatsen. >> bar(:length(p4)-1,p4) >> hold on >> xx=:.5:3; >> plot(xx,normpdf(xx,4*m,sqrt(4)*sigma)) >> hold off Kommandot hold on gör att det man ritat inte tas bort vid nästa plottning. Approximeras p4 väl av normalfördelningen? Pröva också vad som händer ompär en mycket sned fördelning, t.ex. 3
>> p=[ 1 1 1 1 1 1]/15 Hur många komponenter behövs det nu i summan för att fördelningen väl ska kunna approximeras med en normalfördelning? 5 Simulering 5.1 Simulering av oberoende normalfördelade s.v. Metoden att transformera med inversen till en fördelningsfunktion fungerar bra så länge fördelningsfunktionen kan beräknas exakt. Detta är inte fallet för t.ex. normalfördelningen. Det finns dock ett flertal metoder för att simulera slumptal från denna fördelning. Den metod vi skall studera här använder det faktum att om U och V är två oberoende R(, 1)-fördelade variabler, så är och X = cos(2ôu ) 2 ln V Y = sin(2ôu ) 2 ln V N(, 1)-fördelade och oberoende. Detta kan visas på följande sätt. Bevis Utgå från den simultana täthetsfunktionen för två oberoende N(, 1)-variabler X och Y : f X,Y (x, y) = 1 Inför polära koordinater x = r cos(θ), y = r sin(θ). 2Ô e (x2 +y 2 )/2. Den simultana täthetsfunktionen för (R, Â) blir då där f R, (r,θ) = 1 /2 2Ô e r2 J J = x r x θ y r y θ = r och detta gäller för området θ 2Ô, r. Nästa steg är att beräkna de marginella täthetsfunktionerna för R, R 2 och Â: f R (r) = 2Ô r 2Ô e r2 /2 dθ = re r2 /2, r F R 2(r) = P(R 2 r) = [ ty R ] = P(R r) = F R ( r) f R 2(r) = d dr F R( r) = 1 2 r f R( r) = 1 2 e r/2, r Dvs. R 2 Exp(2). 4
Vidare har vi att f  (θ) = r 2Ô e r2 /2 dr = [ 1 ] /2 2Ô e r2 = 1 2Ô, θ 2Ô Dvs.  R(, 2Ô). Om nu U, och V R(, 1) så kan R och  erhållas som funktioner av V resp. U enligt R = 2 ln V och  = 2ÔU eller, uttryckt i X och Y och X = cos(2ôu ) 2 ln V Y = sin(2ôu ) 2 ln V Ur ovanstående framgår att (X, Y ) kan ses som en punkt i planet, framställd i polär form, där 2ÔU är vinkeln och 2 ln V är absolutbeloppet. Slut på bevis! Använd metoden ovan för att simulera 1 stycken N(, 1)-fördelade slumptal. Kom ihåg att.* ger elementvis multiplikation. Talet Ô finns inlagt i Matlab och heter pi. Studera histogrammet, hist, och användnormplot för att undersöka om metoden fungerar som den skall. Svar:... Pröva gärna att göra en tvådimensionell plot av ett antal par (X, Y ) enligt ovan. Ett sådant par sägs ha en tvådimensionell normalfördelning. Kommandot >> plot(x,y,. ) plottar vektorn x mot vektorn y genom att placera en punkt (.) i varje datapunkt. En plot enligt ovan visar att alla vinklar är lika vanligt förekommande, vilket är väntat eftersom vinkeln är 2ÔU, och U är rektangelfördelad. Absolutbeloppet är däremot inte likformigt fördelat, eftersom R 2 är exponentialfördelad med väntevärde 2 enligt ovan. Med andra ord har vi fått fram att om (X, Y ) är en tvådimensionellt normalfördelad stokastisk variabel där de enskilda komponenterna X och Y båda har väntevärdet, variansen 1 och är oberoende, så beror tätheten för (X, Y ) i en punkt (x, y) endast av avståndet från (x, y) till origo. Vi har också fått fram att kvadratsumman R 2 = X 2 + Y 2 Exp(2). Matlab har givetvis en egna funktioner randn och normrnd (Statistics Toolbox) som genererar oberoende normalfördelade slumptal. Med hjälp av kommandot randn(m,n) erhåller man en m n-matris med normalfördelade slumptal med väntevärde och varians 1. Använd kommandot för att generera 5 normalfördelade slumptal med väntevärde 1 och varians 5. Om du använder randn kan du ha nytta av förberedelseuppgift (c). Undersök om slumptalen ser normalfördelade ut. Svar:... 5.2 Simulering av beroende normalfördelade s.v. I föregående avsnitt simulerade vi oberoende normalfördelade stokastiska variabler. Om man vill simulera beroende normalfördelningar utnyttjar man ofta en teknik som baseras på vektorframställning av flerdimensionell normalfördelning. Eftersom detta ännu inte behandlats i kursen kan vi istället använda en 5
annan metod som baseras på att vi känner de betingade fördelningarna för X resp. Y. T.ex. har vi från avsnittet om betingade fördelningar i denna labhandledning att ( X Y = y N m X + Ö ) X (y m Y ), X 1 Ö 2 Y För att simulera en tvådimensionell normalfördelning med n par av slumptal och parametrar m X, m Y, X, Y och Ö kan vi först simulera Y med t.ex. >> n = 1; mx = ; my = ; sx = 1; sy = 1; rho = ; >> y = normrnd(my, sy, n, 1); och därefter använda den betingade fördelningen för X givet att Y = y för att simulera X. Gör det och plotta med plot(x, y,. ) för några olika värden på Ö och verifiera att resultatet blir som du förväntar dig. Svar:... 6 Funktioner av stokastiska variabler 6.1 Konstant prisutveckling över tiden En viss typ av elektroniska komponenter har, på grund av förfinad framställningsteknik, kunnat minska i pris med en viss procent per år. Om prisändringen är konstant kan priset, P(t), vid tiden t beskrivas med sambandet P(t) = P() r t där P() är utgångpriset och r är den årliga prisändringen. Antag nu att r =.8, dvs att priset minskar med 2% per år, och att P() = 1 kr. Plotta prisutvecklingen under de kommande 1 åren: >> r =.8; >> P = 1; >> t = linspace(,1); >> Pt = P*r.^t; >> plot(t,pt) Den tid, T.5, det tar innan priset halverats, dvs då P(T.5 ) = P(), fås som 2 ln.5 T.5 = ln r. Som synes beror halveringstiden inte på utgångpriset. I det här fallet är ln.5 T.5 = 3.1 år. ln.8 I verkligheten är prisfallet inte lika stort för alla tillverkare, t.ex. beroende på växelkurser, personalpolitik och råvarupriser. Det är inte orimligt att tänka sig att prisändringen, R, för en slumpmässigt vald tillverkare är lognormalfördelad så att ln R N(ln.8, ). Vi börjar med att titta på prisutvecklingen för 1 olika tillverkare när =.5: >> sigma =.5; >> r = lognrnd(log(.8),sigma,1,1); >> T5 = log(.5)./log(r) >> for k=1:1, plot(t,p*r(k).^t), hold on, end >> plot(t5,, * ) >> hold off 6
Ser det ut att vara stor spridning på P(t)? På T.5? Hur ser täthetsfunktionen för T.5 ut? Vad kommer det förväntade T.5 att bli? Hur stor spridning är det på T.5? Besvara dessa frågor genom att simulera T.5 1 gånger, rita histogram medhist och uppskatta E(T.5 ) och D(T.5 ) med funktionernamean ochstd. Gör om ovanstående simuleringar med mindre spridning på ln R, t.ex. =.1. Hur ändrar sig E(T.5 ) och D(T.5 )? 6.2 Geometrisk brownsk rörelse (frivillig uppgift) Till den här delen av laborationen behöver du specialrutinen gbr. Gå in på kursens hemsida och ladda ner den till dinmatlab-katalog. Innan antog vi att prisändringen var konstant över tiden. I själva verket är det ofta användbart att tänka sig att prisändringen r(t) är en slumpmässig funktion av tiden t. En ofta använd modell för räntefluktuationer och aktiekurser är en s.k. geometrisk brownsk rörelse, se appendix. I så fall kan ändringen i r(t) vid tiden t beskrivas av den stokastiska differentialekvationen r() = r, dr(t) = r(t) dt + r(t) dw (t), där W (t) är en s.k. Wienerprocess. Löst uttryckt innebär det att differentialerna dw (t) är oberoende och N(, )-fördelade och att W (t) är N(, t)-fördelad. Däremot är inte W (t):na vid olika tidpunkter oberoende. Uttryckt på ett annat sätt innebär det att ändringen i r(t) beror dels på storleken på r(t) (termen r(t) dt) dels på slumpen (dw (t)) och ju större r(t) desto större hopp (faktorn r(t) framför dw (t)). Om man löser ovanstående stokastiska differentialekvation får man att r(t) = r e ( 2 /2)t+W (t) Det är lätt att visa att r(t) vid tiden t är lognormalfördelad dvs ln R(t) N(ln.8 +.3t,.1 t) Den specialskrivna rutinengbr simulerar en geometrisk brownsk rörelse i diskret tid. Kommandot gbr(,,r,t,n) ger n olika s.k. realiseringar av en GBR med parametrar och. Varje enskild realisering har r som startvärde och simulaeras för vid tidpunkterna,1,...,t. >> help gbr >> [r,t]=gbr(.5,.1,1,1,1); >> plot(t,r) ritar 1 simuleringar av r(t) = r e (.5.12 /2)t+W (t) = e W (t) där t =,..., 1 och W (t) N(,.1 t). Experimentera lite med olika parametervärden och tänk speciellt på vad som bör hända (se appendix) då > 2 /2, < 2 /2 och = 2 /2. 7
Simulera också många men korta serier och kontrollera att fördelningen för r(t) stämmer med det teoretiska resultatet ovan. Sista raden ir-matrisen, dvs då t = T fås medr(end,:). Täthetsfunktionen för en lognormalfördelning fås med lognpdf. Se efter i Laboration 1 hur man fick histogram och täthetsfunktion i samma skala i samma diagram. Att beräkna fördelningen för halveringstiden nu är inte det lättaste och lämnas till någon kurs i extremvärdesteori. 7 Appendix (till frivillig uppgift) 7.1 Wienerprocesser En Wienerprocess W (t) är en följd av slumptal som har följande egenskaper: i) W () =, dvs den börjar i vid tiden t =, ii) ökningen i ett tidsintervall är oberoende av ökningen i alla andra, icke överlappande, tidsintervall, dvs W (t ) W (s ) och W (t 1 ) W (s 1 ) är oberoende då s < t < s 1 < t 1. iii) W (t) W (s) N(, t s), dvs ökningen i intervallet (s, t] är normalfördelad och variansen beror bara på intervallets längd, inte på, t.ex., var det ligger, iv) W (t) är kontinuerlig. Detta innebär bland annat att en Wienerprocess visserligen är kontinuerlig men att den är så skrynklig att den inte har någon kontinuerlig derivata någonstans; den ändrar värde hela tiden. Trots detta är den flitigt använd som modell i många praktiska situationer. 7.2 Geometrisk brownsk rörelse En finansiell tillämpning av Wienerprocessen är i modeller för räntefluktuationer och aktiekurser. Det visar sig nämligen att dessa ofta kan beskrivas med följande stokastiska differentialekvationssystem: X () = x, dx (t) = X (t) dt + X (t) dw (t) där dw (t) N(, ) är ändringen i Wienerprocessen vid tiden t och beskriver driften i processen. I aktiesammanhang brukar kallas volatilitet. Löser man denna stokastiska differentialekvation får man att X (t) = x e ( 2 /2)t+W (t). Man kan visa att om > 2 /2 så växer processen ohämmat: X (t) när t. Om däremot < 2 /2 så dör processen så småningom ut: X (t) när t. I fallet då = 2 /2 varierar processen mellan godtyckligt stora och godtyckligt små värden. 8
8 A 2 C 6 4 1 1 2 2 2 4 6 8 1 3 4 2 4 6 8 1 1 B 7 D 6 5 5 4 3 2 1 5 2 4 6 8 1 2 4 6 8 1 Figur 1: A C: Successiva förstoringar av en Wienerprocess med =.1. D: Motsvarande geometriska brownska rörelse: X (t) =.8 e.3t+w (t). REKLAM: Den som vill veta mer om Wienerprocesser och deras finansiella tillämpningar läser lämpligen kurserna i Stokastiska processer i årskurs 3 och Finansiell statistik i årskurs 4. En viss uppfattning om innehållet kan man få på kurshemsidorna FMS41: Stokastiska processer, 5p (http://www.maths.lth.se/matstat/kurser/fms41/), FMS51: Tidsserieanalys, 5p (http://www.maths.lth.se/matstat/kurser/fms51/) FMS155: Statistisk modellering av extremvärden, 5p (http://www.maths.lth.se/matstat/kurser/fms155mas231/) FMS161: Finansiell statistik (under utveckling), 5p (http://www.maths.lth.se/matstat/kurser/fms161/). 9