Om Monte-Carlo-simulering

Transkript

1 1 Om Monte-Carlo-simulering Utdrag ur kompendiet MARKOVPROCESSER Tobias Rydén och Georg Lindgren LUNDS UNIVERSITET och LUNDS TEKNISKA HÖGSKOLA Institutionen för matematisk statistik Lund University and Lund Institute of Technology Department of Mathematical Statistics

2 Appendix A Simulering Ordet simulering kommer av latinets simulo som betyder att låtsas. Med simulering menas att man ersätter verkligheten med en matematisk eller fysisk modell och gör beräkningar eller experiment i modellen istället för i verkligheten. En flygsimulator kan t ex vara ett datorprogram som, med hjälp av fysikaliska lagar och matematiska differentialekvationer, efterliknar vad som händer med ett flygplan. Resultatet kan visas antingen på en datorskärm eller i en fullskalemodell av flygplanet. Monte Carlo-simulering har länge varit ett standardhjälpmedel när man vill undersöka egenskaper hos ett komplicerat system, t ex ett kösystem eller en produktionsprocess. Det har helt enkelt varit nödvändigt att tillgripa simulering eftersom det är alltför komplicerat att exakt beräkna t ex risken för en produktionsstörning i en tillverkningsprocess med slumpmässig efterfrågan, oregelbunden tillförsel av råvaror, planerat maskinunderhåll, felfunktion i maskinparken o dyl. Genom att i ett datorprogram efterlikna systemet och med hjälp av slumptal åstadkomma mängder av händelser av olika typ, kan man få en uppfattning om hur systemet beter sig i det långa loppet. I [4] och [7] finns enkla exempel på denna typ av simulering. Men det är inte bara vid undersökning av komplexa system som Monte Carlo-simulering är användbart. I själva verket har man börjat tillgripa simulering även för att beräkna statistiskt intressanta fördelningar, t ex styrkefunktioner för statistiska test. Den statistiska tekniken vid Monte Carlo-simulering har utvecklats mycket i takt med datortekniken, se t ex [17]. När vi i fortsättningen talar om simulering menar vi alltid Monte Carlosimulering med olika former av slump inblandad. A.1 Slumptal och pseudoslumptal Det första man behöver vid (Monte Carlo-) simulering är slumptal, dvs tal som beter sig som om de vore dragna från en bestämd statistisk fördelning. Det finns fysikaliska fenomen som skulle kunna användas för att ge nästan helt slumpmässiga observationer, t ex elektroniskt brus; se [13]. Vid datorsimulering används nästan uteslutande deterministiska algoritmer som ger helt förutsägbara följder 1

3 APPENDIX A. SIMULERING 2 av tal. Fördelen med detta är att man kan göra om simuleringen med exakt samma slumptal och därigenom studera effekten av att man t ex gör en ändring i det studerade systemet. Nackdelen är att man i regel inte får exakt de fördelningar man önskar sig. Pseudoslumptal En deterministisk följd av tal x 0, x 1, x 2,... som har tillräckligt slumpmässiga egenskaper kallas en följd av pseudoslumptal. Algoritmen som genererar talen kallas en slumptalsalgoritm. Vad som menas med tillräckligt slumpmässiga egenskaper får bero på vilka krav man ställer i den aktuella tillämpningen. I det enklaste fallet kan det t ex räcka med att värdena sprider ut sig på ett önskat sätt i ett intervall. I mera komplicerade fall vill man kanske också ställa krav på förekomsten av vissa kombinationer av tal, t ex förekomst av långa sekvenser av växande tal. Det finns en mängd olika test på slumpmässighet, men det är inte lätt att hitta riktigt bra algoritmer för generering av pseudoslumptal, se [16]. Kongruensalgoritmer Den enklaste formen av slumptalsgenerator är den linjära kongruensalgoritmen, x n+1 = (ax n + b) mod c, (A.1) dvs x n+1 är lika med den rest man får när man dividerar ax n + b med c. Här är a, b och c lämpligt valda heltal. Matlab använder t ex en kongruensmetod baserad på algoritmen x n+1 = (7 7 x n ) mod (2 31 1), som ger ett heltal mellan 0 och Efter division med får man ett pseudoslumptal i intervallet [0, 1). Exempel 1.1. (Mönster i pseudoslumptal) Följande exempel är hämtat ur [15] och visar en av svårigheterna med kongruensmetoden. Eftersom man bildar resten vid division med c, blir slumptalsföljden helt periodisk med perioden (högst) c, och följden upprepas alltså så småningom exakt. Det uppstår emellertid mönster redan i intilliggande par av slumptal. Genererar man slumptal med algoritmen x n+1 = (781 x n + 387) mod 1000 (A.2) kan man få resultat som i Figur A.1a som visar de 500 första paren (x n, x n+1 ). Som synes ligger intilliggande x-värden inte så slumpmässigt utspridda som man skulle önska sig. Med ett enkelt trick kan man erhålla betydligt bättre slumpegenskaper även för en så här enkel algoritm. Man lägger helt enkelt in de av (A.2) genererade slumptalen i en ändlig buffert, och väljer något av talen i bufferten med en annan, liknande algoritm. Figur A.1b visar de 500 första paren när man lagrar

4 APPENDIX A. SIMULERING 3 1 (a) 1 (b) Figur A.1: (a) De 500 första paren (x n, x n+1 ) med algoritmen (A.2). (b) De 500 första paren (x n, x n+1 ) enligt (A.2) modifierad med slumpalgoritmen (A.3). x n+1 i en buffert med 20 tal och man väljer ett av de 20 talen med hjälp av ett pseudoslumptal från en annan slumptalsgenerator, u n+1 = (π + u n ) 5 mod 1. (A.3) När man valt ett tal ur bufferten fyller man i hålet med nästa tal från algoritmen (A.2). A.2 Allmänna fördelningar Inversmetoden Standardmetoden när man skall generera (pseudo)slumptal från en speciell statistisk fördelning är inversmetoden. Sats 1.1. Låt F (x) vara en fördelningsfunktion och definiera inversen F 1 (y) = inf {x : F (x) y}. Om U Rekt(0, 1) så har X = F 1 (U) fördelningsfunktionen F X (x) = F (x). Bevis: Av definitionen av F 1 (y) följer att F 1 (y) > x om och endast om F (F 1 (y)) > F (x). Dessutom gäller F (F 1 (y)) = y för alla y. Vi beräknar sannolikheten P (X > x), dvs 1 F X (x) = P (X > x) = P (F 1 (U) > x) = P (F (F 1 (U)) > F (x)) = P (U > F (x)) = 1 F (x), dvs F X (x) = F (x).

5 APPENDIX A. SIMULERING 4 Exempel 1.2. Exponentialfördelningen med täthetsfunktion f X (x) = λe λx för x 0 och fördelningsfunktionen F X (x) = 1 e λx förekommer flitigt i samband med Markovprocesser. Om U Rekt(0, 1) så är X = λ 1 ln(1 U) exponentialfördelad med väntevärdet λ. Eftersom i detta fall y = F X (x) har inversen x = λ 1 ln(1 y) följer detta av Sats 1.1. Man ser det också genom direkt beräkning av P (X x); observera att 1 U också är rektangelfördelad i (0, 1) om U är det. En diskret variabel kan man simulera genom tabellslagning eller genom att använda något speciellt trick. Exempel 1.3. En ffg-fördelning (för första gången) med parameter p kan simuleras genom att man helt enkelt genererar slumptal U Rekt(0, 1) och räknar det antal slumptal, X, man behöver dra för att för första gången få ett värde större än p. Sannolikhetsfunktionen blir p X (k) = (1 p)p k 1 för k = 1, 2,.... Förkastningsmetoden När det är svårt att beräkna inversen F 1 (y) kan förkastningsmetoden (eng. rejection method) vara ett alternativ. Antag att vi skall generera slumptal X från en fördelning med täthetsfunktionen f(x). Vi vet att arean under kurvan y = f(x) till vänster om linjen x = x 0 betyder sannolikheten att X x 0. Om vi kunde välja en punkt slumpmässigt inom det område som begränsas av x-axeln och kurvan y = f(x) skulle vi få en observation av X. Nu är det inte så lätt att välja en punkt slumpmässigt under en kurva. Hur man gör framgår av följande sats. Sats 1.2. Antag att man kan generera slumptal från en fördelning med täthetsfunktion g(t) (detta kan få ske med vilken tillgänglig metod som helst) och att vi vill generera slumptal från en fördelning med täthetsfunktionen f(t). Antag också att det finns en konstant M > 0 sådan att f(t) M g(t) för alla t. Följande procedur ger då slumptal med tätheten f(x). (i) Generera x med tätheten g(t) och u Rekt(0, 1). (ii) Om f(x) < Mu g(x) så upprepa (i) och välj nya slumptal. (iii) Om f(x) Mu g(x) så acceptera x som slumptal. Bevis: Den beskrivna proceduren för att generera x och u ger en slumppunkt med koordinaterna (x, M ug(x)), som är vald slumpmässigt under kurvan y = M g(x). Om man bara accepterar de punkter som dessutom hamnar under kurvan y = f(x) har man fått något som är slumpmässigt fördelat under y = f(x).

6 APPENDIX A. SIMULERING 5 Simulering av normalfördelningen Det finns en mängd snabba specialmetoder att ta till när man skall generera slumptal från en standardiserad normalfördelning. En allmän normalvariabel Y N(m, σ) kan fås som Y = m + σx där X N(0, 1). Box-Müllers metod: Denna eleganta metod bygger på framställningen av två oberoende normalvariabler i polär form. Om X 1 och X 2 är två oberoende N(0, 1)-variabler, så gäller att R = X X 2 2 och θ = arg(x 1, X 2 ) är oberoende. Här är tydligen R avståndet från punkten (X 1, X 2 ) till origo medan θ är dess argument. Det är lätt att generera två variabler som har de rätta fördelningarna för att fungera som R respektive θ. Om U 1 och U 2 är oberoende och Rekt(0, 1)-fördelade så gäller nämligen att är oberoende och N(0, 1)-fördelade. X 1 = cos(2πu 1 ) 2 ln U 2, X 2 = sin(2πu 1 ) 2 ln U 2, Marsaglias metod: Tag Z 1 och Z 2 oberoende och Rekt( 1, 1). (i) Om Z Z2 2 > 1 så välj nya slumptal. (ii) Om Z Z så sätt X 1 = Z 1 2 ln(z2 1 + Z2) 2, Z1 2 + Z2 2 X 2 = Z 2 2 ln(z2 1 + Z2) 2. Z1 2 + Z2 2 Då blir de godkända värdena oberoende och N(0, 1)-fördelade. Blandad simulering: Om det är viktigt att man får korrekt fördelade slumptal även i de yttre delarna av variationsområdet, t ex när man skall simulera maximat av flera normalvariabler, kan man använda en blandad simulering. Detta innebär att man använder en metod för att generera slumptal i t ex intervallet [ 3, 3] och en annan metod för att få värden utaför detta intervall. Eftersom P (X > 3) = skall man blanda in 0.135% värden större än 3 och likaså 0.135% värden mindre än -3. Dessa extrema värden kan simuleras med någon specialmetod, t ex förkastningsmetoden; se vidare [15]. Inversmetoden: Det finns enkla rationella approximationer till normalfördelningsfunktions invers. Följande lättprogrammerade formel ger ett fel i inversen

7 APPENDIX A. SIMULERING 6 på högst en halv enhet i andra decimalen, se [1, ]. Definiera t(u) = R(t) = ln 1 u 2, t t t 2. Välj sedan u rektangelfördelat i (0, 1) och sätt X = { t(u) R(t(u)) för 0 u < 0.5 t(1 u) + R(t(u)) för 0.5 u < 1 (A.4) A.3 Vägd simulering Vägd simulering, eller LR-simulering, är en användbar och mycket kraftfull variant av Monte Carlo-simulering som kan användas när man vill undersöka hur egenskaperna hos ett stokastiskt system beror av någon av de ingående variablernas fördelning, t ex hur medelkölängden i ett kösystem beror av betjäningstidens fördelning. Metoden innebär att man simulerar systemets egenskaper, t ex kölängd, för betjäningstider genererade som utfall från en viss fix fördelning, och därefter väger samman de olika resultaten efter deras relativa trolighet under de olika alternativa fördelningarna. Mera precist innebär metoden följande. Definition 1.1. Låt f 0 (x) vara en täthetsfunktion och låt f θ (x), θ Θ, vara en familj av täthetsfunktioner med samma stöd som f 0 (x), dvs de är noll på samma mängd. Låt, för varje θ, X θ beteckna en stokastisk variabel med täthetsfunktion f Xθ (x) = f θ (x), och låt g(x) vara en given funktion av utfallet x. Antag att vi vill bestämma väntevärdet l(θ) = E[g(X θ )] = g(x) f θ (x) dx av g(x θ ). Låt X vara en stokastisk variabel med täthetsfunktionen f X (x) = f 0 (x) och låt x 1, x 2,..., x N vara genererade från fördelningen f 0 (x), dvs observationer av X. Med en LR-simulering av l(θ) menas l(θ) = 1 N N k=1 g(x k ) f θ(x k ) f 0 (x k ). Eftersom observationerna x 1,..., x N är gerererade från tätheten f 0 (x) finner man direkt att E[l(θ)] = g(x) f θ(x) f 0 (x) f 0(x) dx = g(x) f 0 (x) dx = l(θ). Vikterna w(x k, θ) = f θ (x k )/f 0 (x k )

8 APPENDIX A. SIMULERING E (λ) λ Figur A.2: Simulerade skattningar E (λ) av E[X] = 1/λ när X är exponentialfördelad. Den heldragna kurvan visar resultatet av en vägd simulering enligt (A.5), den streckade kurvan visar resultatet där varje värde på λ simulerats för sig. Antalet replikat är i båda fallen 100. används alltså till att väga samman de olika utfallen g(x k ), genererade från grundfördelningen f 0 (x), så att resultatet l(θ) i medeltal blir vad man skulle fått om man istället hade simulerat från fördelningen f θ (x). Om det är komplicerat att beräkna funktionen g(x k ) men lätt att beräkna vikterna w(x k ) kan LR-simulering innebära en avsevärd besparing av räknetid. För varje upprepning behöver man ju bara beräkna funktionsvärdet g(x k ) en enda gång, och genom att använda samma värde många gånger (för olika värden på parametern θ) får man ändå en uppskattning av hela funktionen l(θ). Exempel 1.4. Antag att vi skulle vilja bestämma l(λ) = E[X λ ] om X λ är exponentialfördelad med täthetsfunktionen f Xλ (x) = λe λx. Nu vet vi ju redan att E[X λ ] = 1/λ, så i detta fall kan vi lätt kontrollera resultatet. Vi använder LR-metoden och väljer att simulera x 1, x 2,..., x N med grundtätheten f 0 (x) = e x. Som skattning av l(λ) skall vi ta l(λ) = 1 N N k=1 x k λe λx k e x k (A.5) Figur A.2 visar resultatet av två simuleringar med N = 100 replikat vardera, dels med vägd simulering, dels med oberoende upprepningar för varje λ-värde.

9 Litteratur [1] M. Abramowitz & I. A. Stegun: Handbook of Mathematical Functions. National Bureau of Standards, [2] W. J. Anderson: Continuous-Time Markov Chains. Springer-Verlag, [3] P. J. Bickel & K. A. Doksum: Mathematical Statistics. Holden-Day, [4] G. Blom: Sannolikhetsteori med tillämpningar, Bok A. Studentlitteratur, [5] G. Blom: Statistikteori med tillämpningar, Bok B. Studentlitteratur, [6] D. J. Daley & D. Vere-Jones: An Introduction to the Theory of Point Processes. Springer-Verlag, [7] J. E. Englund, J. Lanke, G. Lindgren & T. Persson: Sannolikhetsteori med tillämpningar; Övningsbok. Studentlitteratur, [8] G. E. Forsythe, M. A. Malcolm & C. B. Moler: Computer Methods for Mathematical Computations. Prentice Hall, [9] G. R. Grimmet & D. R. Stirzaker: Probability and Random Processes, 2nd ed. Oxford University Press, [10] A. Gut: An Intermediate Course in Probability Theory. Springer-Verlag, [11] R. Kindermann & J. Laurie Snell: Markov Random Fields and their Applications. American Mathematical Society, [12] P. A.W. Lewis: A branching Poisson process model for the analysis of computer failure patters. Journal of the Royal Statistical Society B 26, , [13] G. Lindgren & H. Rootzén: Stationära stokastiska processer. Lund, [14] N. Metropolis, et al.: Equations of state calculations by fast computing machines. J. Chem. Phys. 21, , [15] B. J. T. Morgan: Elements of Simulation. Chapman and Hall,

10 LITTERATUR 9 [16] S. K. Park & K. W. Miller: Random Number Generators: Good ones are hard to find. Communications of the ACM 32, , [17] R. Y. Rubinstein & A. Shapiro: Discret Event Systems: sensitivity analysis. Wiley, [18] D. L. Snyder & M. I. Miller: Random Point Processes in Time and Space, 2nd ed. Springer-Verlag, 1991.