Chapter 9: Box-Jenkins (ARIMA) Methodology

ARIMA Models The Box-Jenkins methodology refers to a set of procedures for identifying, fitting and checking ARIMA models with time series.   The AR in ARIMA refers to Autoregressive models The MA in ARIMA refers to Moving Average models The I in ARIMA refers to the number of lags used in differencing the data

Autoregressive Models Yt = 0 + 1Yt-1 + 2Yt-2 … + pYt-p + et, where t = coefficients to be estimated and p = number of lags The number of lags (p) used in the model is a parameter and its value must be determined by the user. An autoregressive model with a lag of two will be denoted as AR(2).  

Moving Average Models Yt =  + et - w1et-1 - w2et-2 - … wqet-q, where wt = coefficients to be estimated, and et are the error terms   The number of error terms used in the model, q, is a parameter and its value must be determined by the user. A moving average model with two error terms will be denoted as MA(2).

ARMA models Combining AR and MA models, an ARMA(p,q) model is as follows: Yt = 0 + 1Yt-1 + 2Yt-2 … + pYt-p + et, - w1et-1 - w2et-2 - … wqet-q,

Differences Differences of the time series may be used if it is not stationary. In some cases, a difference of the differences may be necessary before a stationary data is obtained. We use the notation “d” to indicate the number of times the time series is differenced to obtain a stationary series.   ARIMA Notation: ARIMA(p,d,q) = An ARIMA model with the time series differenced d times as the response variable with a p-order autoregressive model mixed with q-order moving average model.

Model Identification We use ACF (Autocorrelation function) and PACF (Partial Autocorrelation function) . PACF measures the autocorrelation between Yt and Yt-k, when the effects of other time lags, 1, 2, .., k-1, are removed

AR(1):Yt=0+ 1Yt-1+t ACF PACF  -1 1 k -1 1 k  -1 1 k -1 1 k   k -1 1 k  -1 1 k -1 1 k   22.11.2018 22.11.2018 8

AR(2):Yt=0+ 1Yt-1+ 2Yt-2 +t ACF PACF  -1 1 k -1 1 k   -1 1 k -1 1 k    22.11.2018 22.11.2018 9

MA(1):Yt=+t- 1t-1 ACF PACF -1 1 k -1 1 k   -1 1 k -1 1 k   k -1 1 k   -1 1 k -1 1 k   22.11.2018 22.11.2018 10

MA(2):Yt=+t- 1t-1 - 2t-2 ACF PACF -1 1 k -1 1 k    -1 1 k -1 1 k    22.11.2018 Pazarlıoğlu-Güneş 22.11.2018 11

ARMA(1,1):Yt= 0+ 1Yt-1 +t- 1t-1 Otokorelasyon Kısmi Otokorelasyon -1 1 k -1 1 k   22.11.2018 Pazarlıoğlu-Güneş 22.11.2018 12

ARMA(1,1):Yt= 0+ 1Yt-1 +t- 1t-1 Auto Correlation Partial Auto Correlation -1 1 k -1 1 k   22.11.2018 22.11.2018 13

AR, MA or ARMA? Autocorrelations Partial Autocorrelations MA(q) Cut off after the order of q of the process Die out AR(p) Cut off after the order of p of the process ARMA(p,q)

Model Building Strategy Step 1: Model identification Plot the time series/ACF and examine whether it is stationary. If not, try some transformation and or differencing, until the data seems stationary. Compare ACF and PACF of the time series data and identify the ARIMA model to be used. To judge the significance of autocorrelation and partial autocorrelation, the corresponding sample values may be compared with ±2/ . Use the principle of parsimony. Step 2: Model estimation Use SPSS or other package to estimate the model parameters. t-test may be used to judge whether a parameter may be dropped from the model.

Model Building Strategy Step 3: Model checking The model will be considered adequate if the residuals are random. The following three procedures may be used. Residual plots as in regression may be used, rk(e) must be within ±2/ of zero, and L-Q test may be used to test whether a group autocorrelation of lags 1, 2,.. m, is significant.   Step 4: Model forecasting SPSS generates forecasts for a given number of future periods.

Model Selection Criteria Akaike Information Criterion (AIC) selects the best model from a group of candidate models as the one that minimizes Bayesian Information Criterion (BIC) selects the best model e that minimizes where σ2 residual variance

ATR şirketi üretim hedefleri Öngörüsü -0.23 -0.2 -1.93 -0.97 0.1 0.63 -0.21 1.87 0.83 -0.62 0.48 0.91 -0.33 2.27 -0.83 -0.36 0.46 -0.03 2.12 -1.13 0.74 1.31 0.61 -2.11 2.22 -0.16 0.86 -1.38 0.7 0.8 1.34 -1.28 -0.04 0.69 -1.95 -1.83 0.9 -0.24 2.61 0.31 -0.63 1.79 0.34 0.59 1.13 0.08 -0.37 0.6 0.71 -0.87 -1.3 0.4 0.15 -0.84 1.45 1.48 -1.19 -0.02 -0.11 -0.28 0.98 1.27 -0.51 -0.79 -1.51 -0.54 -0.8 -0.41 1.86 0.89 -0.76 0.49 0.07 -1.56 1.07 1.58 1.54 0.09 2.18 0.2 -0.38 -0.96 22.11.2018 22.11.2018 20

ATR şirketi üretim hedefleri Öngörüsü Tanımlama Süreci verilerin dağılma grafiği, otokorelasyon ve kısmi otokorelasyon fonksiyonlarını incelemekle başlar. 22.11.2018 22.11.2018 21

ATR şirketi üretim hedefleri Öngörüsü 22.11.2018 22.11.2018 22

ATR şirketi üretim hedefleri Öngörüsü Hem zaman serisi grafiğine hem de otokorelasyon fonksiyonları serinin durağan olduğunu göstermektedir. Sadece 1.gecikmedeki -0.50 otokorelasyon katsayısı anlamlıdır. Diğer gecikmelerdeki otokorelasyon katsayılarının her biri küçük olup hata sınırları içersindedir. Örnek otokorelasyon katsayıları birinci gecikmeden sonra kesilmektedir. İlk üç Örnek kısmi otokorelasyon katsayılarının hepsi negatif olup sıfıra doğru azalmaktadır. 22.11.2018 22.11.2018 23

ATR şirketi üretim hedefleri Öngörüsü Örnek otokorelasyon katsayıları ile Örnek kısmi otokorelasyon katsayılarının davranışı MA(1) teorik davranışa benzemektedir. Otokorelasyon Kısmi Otokorelasyon -1 1 k -1 1 k   22.11.2018 22.11.2018 24

ATR şirketi üretim hedefleri Öngörüsü MA(1):Yt=+t+ 1t-1 22.11.2018 22.11.2018 25

ATR şirketi üretim hedefleri Öngörüsü ARIMA Model: sapma Estimates at each iteration Iteration SSE Parameters 0 96.3554 0.100 0.247 1 85.3276 0.250 0.201 2 78.1410 0.400 0.171 3 74.6680 0.550 0.153 4 74.5019 0.591 0.151 5 74.5004 0.587 0.151 6 74.5004 0.588 0.151 22.11.2018 22.11.2018 26

ATR şirketi üretim hedefleri Öngörüsü Relative change in each estimate less than 0.0010 Final Estimates of Parameters Type Coef SE Coef T P MA 1 0.5875 0.0864 6.80 0.000 Constant 0.15129 0.04022 3.76 0.000 Mean 0.15129 0.04022 Number of observations: 90 Residuals: SS = 74.4933 (backforecasts excluded) MS = 0.8465 DF = 88 Modified Box-Pierce (Ljung-Box) Chi-Square statistic Lag 12 24 36 48 Chi-Square 9.1 10.8 17.3 31.5 DF 10 22 34 46 P-Value 0.524 0.977 0.992 0.950 Forecasts from period 90 95% Limits Period Forecast Lower Upper Actual 91 0.43350 -1.37018 2.23719 92 0.15129 -1.94064 2.24322 22.11.2018 22.11.2018 27

ATR şirketi üretim hedefleri Öngörüsü 22.11.2018 22.11.2018 28

ATR şirketi üretim hedefleri Öngörüsü Gözlem no Sapma tahmin hata 1 -0.23 0.101969 -0.331969 2 0.63 0.346323 0.283677 3 0.48 -0.015371 0.495371 4 -0.83 -0.139741 -0.690259 5 -0.03 0.556819 -0.586819 . 86 -0.51 1.06829 -1.57829 87 -0.41 1.07854 -1.48854 88 0.49 1.02581 -0.53581 89 1.54 0.46608 1.07392 90 -0.96 -0.47964 -0.48036 91öngörü 92öngörü 0.4335 0.4335 0.0000 0.1513 22.11.2018 22.11.2018 29

ISC şirketi hisse senetleri kapanış fiyatları 235 200 250 270 275 320 290 225 240 205 115 220 125 265 355 400 295 245 190 285 170 185 175 370 280 310 255 340 215 300 260 180 195 22.11.2018 22.11.2018 30

ISC şirketi hisse senetleri kapanış fiyatları 22.11.2018 22.11.2018 31

ISC şirketi hisse senetleri kapanış fiyatları Hisse seneti fiyatlarının hem zaman serisi grafiğine hem de otokorelasyon fonksiyonları serinin durağan olduğunu göstermektedir. Zaman serisi grafiği yaklaşık 250 birim lira civarında değişmektedir. Autocorrelation Function: ISC Lag ACF T LBQ 1 -0.401525 -3.24 10.97 2 0.333244 2.34 18.65 3 -0.204772 -1.33 21.59 4 0.111059 0.70 22.47 5 -0.182873 -1.15 24.90 1.gecikmedeki -0.40 otokorelasyon katsayısı ile 2.gecikmedeki 0.33 otokorelasyon katsayısı anlamlıdır. Örnek otokorelasyon katsayıları ikinci gecikmeden sonra kesilmektedir. Diğer gecikmelerdeki otokorelasyon katsayılarının her biri küçük olup hata sınırları içersindedir. 22.11.2018 22.11.2018 32

ISC şirketi hisse senetleri kapanış fiyatları Lag PACF T 1 -0.401525 -3.24 2 0.205086 1.65 3 -0.019988 -0.16 4 -0.034493 -0.28 5 -0.136220 -1.10 İlk örnek kısmi otokorelasyon katsayısı negatif olup sıfıra doğru azalmaktadır. 22.11.2018 22.11.2018 33

ISC şirketi hisse senetleri kapanış fiyatları Örnek otokorelasyon katsayıları ile Örnek kısmi otokorelasyon katsayılarının davranışı AR(2) teorik davranışa benzemektedir. -1 1 k -1 1 k    22.11.2018 Pazarlıoğlu-Güneş 22.11.2018 34 22.11.2018

ISC şirketi hisse senetleri kapanış fiyatları AR(2):Yt=0+ 1Yt-1+ 2Yt-2 +t 35 22.11.2018

ISC şirketi hisse senetleri kapanış fiyatları Örnek otokorelasyon katsayıları ile Örnek kısmi otokorelasyon katsayılarının davranışı AR(2) teorik davranışa benzemektedir. ARIMA Model: ISC Estimates at each iteration Iteration SSE Parameters 0 224504 0.100 0.100 205.988 1 195673 -0.050 0.138 234.824 2 178964 -0.200 0.178 263.252 3 174473 -0.318 0.213 284.721 4 174451 -0.324 0.219 284.977 5 174451 -0.324 0.219 284.914 6 174451 -0.324 0.219 284.903 22.11.2018 36

ISC şirketi hisse senetleri kapanış fiyatları Final Estimates of Parameters Type Coef SE Coef T P AR 1 -0.3243 0.1246 -2.60 0.012 AR 2 0.2192 0.1251 1.75 0.085 Constant 284.903 6.573 43.34 0.000 Mean 257.828 5.949 Number of observations: 65 Residuals: SS = 174093 (backforecasts excluded) MS = 2808 DF = 62 Modified Box-Pierce (Ljung-Box) Chi-Square statistic Lag 12 24 36 48 Chi-Square 6.3 13.3 18.2 29.1 DF 9 21 33 45 P-Value 0.707 0.899 0.983 0.969 Forecasts from period 65 95% Limits Period Forecast Lower Upper Actual 66 287.446 183.565 391.328 67 234.450 125.244 343.656 68 271.902 157.615 386.189 22.11.2018 37

ISC şirketi hisse senetleri kapanış fiyatları 38

ISC şirketi hisse senetleri kapanış fiyatları Gözlem no ISC tahmin hata 1 235 248.416 -13.416 2 320 269.842 50.158 3 115 232.664 -117.664 4 355 317.771 37.229 5 190 195.006 -5.006 . 61 340 271.141 68.8586 62 223.987 -33.9866 63 250 297.837 -47.8371 64 300 245.496 54.5041 65 195 242.438 -47.4377 66öngörü 67öngörü 287.4 287.445 -0.0450 234.5 39