Homework Three Time series analysis Farid Bonawiede Samer Haddad Michael Litton Alexandre Messo 28 november 25
1 Vi ska här analysera en datamängd som består av medeltemperaturen månadsvis i New York mellan januari 1946 och december 1959. Se figur 1. temperatur 2 19 18 17 16 15 14 13 12 11 1 2 4 6 8 1 12 14 16 18 tid Figur 1: Medeltemperaturen per månad i New York. Vi ska nu undersöka periodogrammen för vår data. I figur 2 så är spektraltätheten plottad mot frekvensen(2πf). Vi ser där att det är i princip en enda frekvens som verkar innehålla all information. Vi använder oss av följande samband för att bestämma perioden. perioden = 1 f = 2π ω = 2π.524 12 Vi tar även och kontrollerar en viktad spektraltäthet. Vi låter vikterna vara W = [3, 3, 2, 1], se figur 3. Även där så ser vi att spektraltätheten är samlad kring samma frekvens som tidigare. Således har vi även med viktningen samma period som utan. 2
f f 7 6 5 4 3 2 1.5 1 1.5 2 2.5 3 3.5 Frekvens Figur 2: Periodogram utan viktning. 25 2 15 1 5.5 1 1.5 2 2.5 3 3.5 Frekvens Figur 3: Periodogram med viktning. 3
2 Vi vet att vår datamängd kan beskrivas som en AR-process. Vi ska dock bestämma vilken ordning som är lämplig. Vi ska därför studera PACF, se figur 4. Eftersom koefficienterna för en linjär prediktor till en AR(p)-process då lag h är större än p är lika med noll, så bör AR-processen ha en ordning av sådan storlek så att lag större än p är oberoende. I PACF-plotten ser vi att för lag upp till och med 8 håller sig korrelationen utanför 95% gränsen. Detta innebär att vi med 95% signifikans kan anta att lag större än 8 är oberoende. Linje ligger på nivåerna ±1.96/ 168. Processen bör således ha ordningen 8. 1.8.6.4 PACF.2.2.4.6.8 1 2 3 4 5 6 Lag h Figur 4: Partiella autokorrelationsfunktionen. 3 I denna uppgift ska vi bestämma koefficienterna till vår AR(5)-process som vi har från uppgift 2. Vi använder oss av Yule-Walkerskattning genom att ge funktionen yuwaest vår datamängd samt vår uppskattade ordning av processen. Sedan beräknar vi fram ett 95% konfidensintervall. Vi får följande resultat 4
f φ 1 =.533 φ 2 =.41 φ 3 =.64 φ 4 =.197 φ 5 =.213 φ 6 =.17 φ 7 =.13 φ 8 =.58 φ 1 =.533 ± 1.96 V ar(φ 1 ) =.533 ±.151 Den skattade White Noise variansen σ 2 fås till.774. 4 Med hjälp av den givna funktionen specarma har vi beräknat och sedan plottat spektraltätheten för AR-processen i föregående uppgift. Resultatet visas i figur 5. 14 12 1 8 6 4 2.5 1 1.5 2 2.5 3 3.5 Frekvens Figur 5: Spektraltätheten för vår AR-process. Återigen ser vi att frekvensen svarande mot maximal spektraltäthet är omkring ω =.52 vilket innebär att vi har en period som är cirka 2π ω 12. 5 I denna uppgift ska vi än en gång bestämma koefficienterna till vår AR(5)- process som vi har från uppgift 2. Vi använder oss istället av Burgskattning genom att ge funktionen burg vår datamängd samt vår uppskattade ordning 5
av processen. Även här beräknar vi fram ett 95% konfidensintervall. Vi får följande resultat 6 φ 1 =.84 φ 2 =.25 φ 3 =.37 φ 4 =.181 φ 5 =.267 φ 6 =.48 φ 7 =.29 φ 8 =.376 φ 1 =.84 ± 1.96 V ar(φ 1 ) =.84 ±.155 Den skattade White Noise variansen σ 2 fås till.774. Vi ska nu undersöka en datamängd som består av mätningar av den årliga ändringen av jordrotationen. Till att börja med så plottar vi vår data. Se figur 6. 5 4 3 2 1 5 s 1 1 2 3 4 5 1 15 Tidssteg Figur 6: Årlig ändring av jordrotationen. Vi ser att det finns en linjär trend i datan och differentierar därför datamängden. Tar därefter fram PACF för att kunna avgöra vilken modell som är lämplig. Se figur 7. På samma sätt som tidigare inser vi att en AR(5)-process är en lämplig anpassning. Yule-Walkerskattning anser vi som lämpligt för att beräkna koefficienterna tillhörande vår AR-process. Funktionen yuwaest ger oss följande resultat 6
1.8.6 PACF.4.2.2.4 1 2 3 4 5 6 Lag h Figur 7: Partiella autokorrelationsfunktionen. φ 1 =.852 φ 2 =.53 φ 3 =.46 φ 4 =.274 φ 5 =.17 φ 1 =.852 ± 1.96 V ar(φ 1 ) =.852 ±.16 Den skattade White Noise variansen σ 2 fås till 34. Ursprungligen hade vi en ARIMA-process som vi sedan differentierade. Vi fick då en ARMA-process som vi skattade till en AR(5)-process. Vi kan dock få fram vår ursprungliga serie {X t } genom att utföra följande beräkningar Y t = X t X t 1 Y t = φ 1 Y t 1 + + φ 5 Y t 5 + Z t X t X t 1 = φ 1 (X t 1 + X t 2 ) + + φ 5 (X t 5 X t 6 ) + Z t X t = (φ 1 + 1)X t 1 + (φ 2 φ 1 )X t 2 + + (φ 5 φ 4 )X t 5 φ 5 X t 6 Z t Eftersom vi modellerar med hjälp av en AR(p)-process ser man att koefficienterna ges av nedanstående: 7
a 1 = φ 1 + 1 a 2 = φ 2 φ 1 a 3 = φ 3 φ 2 a 4 = φ 4 φ 3 a 5 = φ 5 φ 4 a 6 = φ 5 7 I denna uppgift ska vi undersöka en datamängd bestående av data ifrån en ARMA-process. Fjärde raden i matrisen armadat är vår datamängd. Vi ska här använda oss av maximun-likelihood skattning för att skatta parametrarna till ARMA(p,q)-processen. Det vi söker är parametrarna som minimera medelkvadratfelet av vår skattning. Detta beror dock inte enbart på variansen på vårt vitabrus. Även skattningen av parametrarna skapar en felfaktor som blir större då vi skattar parametrar av högre ordning. Vi använder oss av funktionen mlest för att få våra parametrar samt FPE och AICC. Vi testar samtidigt ifall processen är kausal med funktionen causal. Sedan väljer vi p och q så att FPE och AICC är som lägst. Vi får då fram att p = 4 och q = är den bästa processen som beskriver vår datamängd. Med andra ord skattar vi vår data med en AR(4)-process. Vi får i övrigt följande parametrar för de valda ordningarna F P E = 77.166 AICC = 4.346 φ 1 = 1.196 φ 2 =.515 φ 3 =.83 φ 4 =.235 φ 1 = 1.196 ± 1.96 V ar(φ 1 ) = 1.196 ±.2 Den skattade White Noise variansen σ 2 fås till 71.45. Värt att tillägga är att om vi väljer p = 3 och q = 2 så får vi en kausal process som har en White Noise varians σ 2 = 64.2. Detta är dock inte en bättre skattning om man ser utifrån medelkvadratfelet. 8 I denna uppgift ska vi analysera data ifrån Australiens månadsproduktion av elektricitet i GWh mellan åren 1956 och 1995. Se figur 8. Det syns tydligt att det finns en säsongskomponent, en trend samt att variansen ökar med tiden. 8
16 14 12 1 GWh 8 6 4 2 1 2 3 4 5 Tidssteg Figur 8: Månadsproduktionen av elektricitet i Australien. Med funktionen boxcox vill vi hitta en konstant λ så att variansen varierar konstant med tiden. Med λ =.1 anser vi att detta uppfylls. Se figur 9. 17 16 15 GWh 14 13 12 11 1 1 2 3 4 5 Tidssteg Figur 9: Vår data efter boxcox med λ =.1. För att bli av med trendkomponenten så differentierar vi vår data. Se 9
figur 1..5 GWh.5 5 1 15 2 25 3 35 4 45 5 Tidssteg Figur 1: Vår data efter boxcox med λ =.1 samt differentierad. Kvar att reduceras är säsongskomponenten. Vi börjar med att ta fram PACF för vår data. Se figur 11. Dock lyckas vi inte läsa ut något vettigt ur denna. 1.8.6.4 PACF.2.2.4.6 2 4 6 8 1 12 Lag h Figur 11: Partiella autokorrelationsfunktionen. Istället väljer vi att titta på spektraltätheten. Se periodogrammet i figur 12. Vi ser där att de frekvenserna som innehåller mest information representerar perioden 2.4 samt 11.9. Eftersom vi differentierar i heltalssteg är perioden 2.4 inte lämplig att ta bort på detta sätt. Istället differentierar vi i steg om 12. Resultatet blir ett brus, se figur 13. 1
f 1.4 1.2 1.8.6.4.2.5 1 1.5 2 2.5 3 3.5 Frekvens Figur 12: Periodogram efter att trenden är borttagen..4.2 GWh.2.4 5 1 15 2 25 3 35 4 45 5 Tidssteg Figur 13: Vår data utan trend och säsongskomponent. 11
f För att kontrollera hur väl eventuella säsongskomponenter har blivit bortreducerade så plottar vi spektraltätheten för vårt brus. Se figur 14..8.7.6.5.4.3.2.1.5 1 1.5 2 2.5 3 3.5 Frekvens Figur 14: Periodogram efter att trenden är borttagen. Vi avslutar vår analys av datan med att skatta processens parametrar. Vi använder oss av maximun likelihood skattningen som i den tidigare uppgiften. Lämpligaste parametrarna är p = 1 och q = 4, vilket ger oss följande resultat F P E = 77.166 AICC = 4.346 φ 1 =.882 θ 1 = 1.614 θ 2 =.648 φ 3 =.19 θ 4 =.45 φ 1 =.882 ± 1.96 V ar(φ 1 ) =.882 ±.115 Den skattade White Noise variansen σ 2 fås till.34. 12
Matlab-koden clc, clear, close all, read3 % 1 TEMP %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % Uppgiften: % Ta fram periodogram med och utan viktning. Man borde se perioden 12 i % plotten, varför? Varför är perioden 12 för båda plottarna? plot(temp) xlabel( tid ) ylabel( temperatur ) set(gcf, Name, Medeltemperaturen per månad i New York ) per_utan = pergram(temp,1); xlabel( Frekvens ) ylabel( f ) set(gcf, Name, Periodogram utan viktning ) per_med = pergram(temp,[3 3 2 1],1); xlabel( Frekvens ) ylabel( f ) set(gcf, Name, Periodogram med viktning ) % Perioden är 12, varför? 2 * pi /.5236 % = 12 % Eftersom det är en 2piF(.)-plot %.5236 var den frekvens som innehöll mest information. % 2 TEMP %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % Uppgiften: % Ta fram en PACF plot med 95% gränser. Ge sedan ordningen av AR-processen % samt motivera valet! 13
acvf_temp = acvf(temp); pacf_temp = pacf(acvf_temp,5,1,1); xlabel( Lag - h ) ylabel( PACF ) set(gcf, Name, Partiella autokorrelationsfunktionen ) % Eftersom koefficienterna för en linjär prediktor till en AR(p)-process % då lag h är större än p är lika med noll, så bör AR-processen ha en % ordning av sådan storlek så att lag för samma storlek är oberoende. I % pacf-plotten så ser vi att för lag upp till och med 8 håller sig utanför % vår 95% linje (+-1.96/sqrt(168)). Processen bör ha ordningen 8. % 3 TEMP %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % Uppgiften: % Give approximately 95% confidence limits of the parameter fi_1. % You shall give the estimations of the fi parameters and the estimated WN % variance sigma^2. Give also the confidence interval above. disp( Yul Walker algoritm ) [fi, s2, C] = yuwaest(temp,8); fi s2 grans = 1.96*sqrt(C(1,1)) [fi(1) - grans, fi(1) + grans] % Resultaten är bekräftade med ITSM 2 % 4 TEMP %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % Uppgiften: % Compute and plot the spectral density for the AR(p) process fitted in 3. % Use specarma. Type help specarma for the syntax. From the maximum of the % spectral density show that the dominating period is (about) 12. You shall % produce the plots and again explain the period. theta=; y=specarma(fi,theta,s2,1); 14
xlabel( Frekvens ) ylabel( f ) set(gcf, Name, Spektraltätheten för vår AR-process ) % Peak vid.52 2 * pi /.52 % = 12.83 % 5 TEMP %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % Uppgiften: % Estimate the AR-parameters using Burgs algorithm instead, and give 95% % confidence limits for fi_1. Use the m-file burg in the same way as yuwaest. % You shall give the estimated parameters and the confidence interval. disp( Burg s algoritm ) [fi, s2, C] = burg(temp,8); fi s2 grans = 1.96*sqrt(C(1,1)) [fi(1) - grans, fi(1) + grans] % Det går INTE att bekräfta resultaten med ITSM 2. Alla resultat % avviker! % 6 TIMECH %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % Uppgiften: plot(timech) xlabel( Tidssteg ) ylabel( 1^{-5}s ) set(gcf, Name, Årlig ändring av jordrotationen ) y_t=diffd(timech); acvf_y_t = acvf(y_t); pacf_y_t = pacf(acvf_y_t,5,1,1); %title( Partiella-Auto-Korrelations-Funktionen ) xlabel( Lag - h ) 15
ylabel( PACF ) set(gcf, Name, Partiella autokorrelationsfunktionen ) disp( Yul Walker algoritm på differentierade TIMECH ) [fi, s2, C] = yuwaest(y_t,5); fi s2 grans = 1.96*sqrt(C(1,1)) [fi(1) - grans, fi(1) + grans] % Differentierar vi en ARIMA-process så får vi en ARMA-process. Och eftersom % vi inte längre har någon trend drar vi slutsatsen att vi har och göra med % en AR-process. Liksom tidigare så läser vi av PACF-plotten och ser att % vi behöver en AR-process av ordning 5. % OBS!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! % Vi behöver ta fram ARIMA-modellen för vår ordinarie process. DVS, hur ser % vår icke-differentierade modell ut? % 7 ARMADAT(4,:) %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % Uppgiften: P = :4; Q = :4; x = armadat(4,:); caus = []; S2=[]; for p = P for q = Q [fi,theta,s2,c,fpe(p+1,q+1),aicc(p+1,q+1)] = mlest(x,p,q); caus(p+1,q+1) = causal(fi); S2(p+1,q+1) = s2; end end % p = 3, q = 2 % Detta ger minimun av både FPE och AICC % [fi,theta,s2,c,fpe,aicc]=mlest(x,3,2) % causal(fi) % Dock är denna process inte kausal! % 16
% Skapar därför en kausal-matris med 1 för kausal och för icke-kausal. % Kontrollerar sedan vilken av dessa som ger lägst FPE (även lägst AICC) % p = 4, q = [fi,theta,s2,c,fpe,aicc] = mlest(x,4,) grans = 1.96*sqrt(C(1,1)) [fi(1) - grans, fi(1) + grans] % 8 EL %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% % Uppgiften: plot(el) xlabel( Tidssteg ) ylabel( GWh ) set(gcf, Name, Månadsproduktionen av elektricitet i Australien ) % % boxcox % Med detta fick vi fram att lambda =.5 ger en hyffsat linjär tidsserie. % Om vi sedan differentierar denna serie så borde vi ha något stationärt. el_boxcox = boxcoxf(el,.1); plot(el_boxcox) xlabel( Tidssteg ) ylabel( GWh ) set(gcf, Name, Vår data efter boxcox med \lambda =.1 ) el_de_trend = diffd(el_boxcox); plot(el_de_trend) xlabel( Tidssteg ) ylabel( GWh ) set(gcf, Name, Vår data efter boxcox med \lambda =.1 samt differentierad ) % Nu vill vi ta bort en eventuell säsongskomponent. Börjar med att titta på % PACF för att avgöra perioden på datan. Det går dock inte att avgöra! acvf_el_de_trend = acvf(el_de_trend); 17
pacf_el_de_trend = pacf(acvf_el_de_trend,1,1,1); xlabel( Lag - h ) ylabel( PACF ) set(gcf, Name, Partiella autokorrelationsfunktionen ) % Tittar i stället på spektraltätheten per_utan = pergram(el_de_trend,1); xlabel( Frekvens ) ylabel( f ) set(gcf, Name, Periodogram efter att trenden är borttagen ) % Här ser vi två stycken frekvenser som är dominerande. Den ena har % perioden 2.399 respektive 11.8752. % 2.4 är en rätt dålig period att differentiera bort. Så vi valde att börja % med att differentiera med lag 12. brus = diffd(el_de_trend,12); plot(brus) xlabel( Tidssteg ) ylabel( GWh ) set(gcf, Name, Vår data utan trend och säsongskomponent ) % Tittar på spektraltätheten per_utan = pergram(brus,1); xlabel( Frekvens ) ylabel( f ) set(gcf, Name, Periodogram efter att trenden är borttagen ) % Ska nu hitta en ARMA-process som kan beskriva vår data. P = :4; Q = :4; caus = []; for p = P for q = Q 18
end end caus FPE [fi,theta,s2,c,fpe(p+1,q+1),aicc(p+1,q+1)] = mlest(brus,p,q); caus(p+1,q+1) = causal(fi); % p = 1, q = 4 så får vi lägsta FPE. [fi,theta,s2,c,fpe,aicc] = mlest(brus,1,4) grans = 1.96*sqrt(C(1,1)) [fi(1) - grans, fi(1) + grans] 19