ARIMA with expected value = 0

ARIMA一般可以表示为: $\Delta^{d}y_{t}=\phi_{1}\Delta^{d}y_{t-1}+\ldots+\phi_{p}\Delta^{d}y_{t-p}+\epsilon_{t}+\cdots+{{\theta}_{q}{\epsilon}_{t-q}}$ .

eg: random walk process: $y_{t}=y_{t-1}+\epsilon_{t}$ 是ARIMA (1,1,0).

eg: $y_{t}=\alpha+\beta t+\varepsilon_{t}.\epsilon_{t}\sim IID(0,\sigma^{2})$ , 有 $\Delta y_{t}=\beta+\Delta \epsilon_{t}$ . for: $\begin{cases}E[\Delta\varepsilon_{t}]=0\\V[\Delta\varepsilon_{t}]=E[\varepsilon_{t}-\varepsilon_{t-1}]^{2}=2\sigma^{2}\\\begin{aligned}Cov[\Delta \varepsilon_{t},\Delta \varepsilon_{t-1}]&=-\sigma^{2}\\Cov[\Delta \varepsilon_{t},\Delta \varepsilon_{t-k}]&=0,k>1\end{aligned} \end{cases}\to \Delta y$ is stationary. 因此可以用OLS得到 $\hat \beta$ , 最终得到 $\hat\alpha$ . 不过我们列出特征方程的时候可以发现: $\Delta\varepsilon_{t}=\varepsilon_{t}-\varepsilon_{t-1}=(1-L)\varepsilon_{t}\rightarrow r=1$ , 说明 $\Delta\epsilon$ 是non invertible的.

还有一个问题是: $\hat\beta$ 的方差很大, 而且不是efficient的estimator. 同时, 虽然我们可以得到, 但是我们是通过 $\hat \beta$ 来得到的, 所以不能进行任何test.

我们可以用de-trend来得到更好的 $\hat \alpha,\hat \beta$ : $\hat{\epsilon}_{t}=y_{t}-\hat{\alpha}-\hat{\beta}t$ . 这种方法只能在 $\hat \epsilon\sim I(0)$ 的时候使用.

标准流程:

$univariate\ time\ series\xrightarrow{unit\ root\ test}\begin{cases}y_{t}\sim I(0)\rightarrow ARMA\rightarrow ML\ estimation\\\\y_{t}\not\sim I(0)\rightarrow\begin{cases}\varepsilon_{t}\sim I(0)\rightarrow Detrend\\\varepsilon_{t}\not\sim I(0)\rightarrow Difference\to ARMA\to ML\ estimation\end{cases}\end{cases}$ .

ARIMA with variate expected value

一般形式为: $\begin{cases}y_{t}=\alpha+\beta t+v_{t},\ t=1\ldots t\\\\v_{t}=\phi_{1}v_{t-1}+\epsilon_{t},\ \epsilon_{t}\sim IID(0,\sigma^{2})\end{cases}$ .

$\phi_{1}=1$ :

此时 $v_{t}$ 为unit root process. 同时 $y_{t}$ 也是unit root process. 处理方法之一就是take difference: $\Delta y_{t}=\beta+\epsilon_{t}$ (random walk with drift).

$-1<\phi_{1}< 1$ :

对 $y_{t}$ 进行求期望, 可得: $\begin{aligned}E[y_{t}]&=E[\alpha+\beta t+\phi_{1}^{\infty}v_{0}+\sum_{i=0}^{\infty}\phi_{i}^{i}\varepsilon_{t-i}]\\&=\alpha+\beta t\end{aligned}$ , 可见其期望随之间变化.

Property of Unit Root Series

形如: $y_{t}=\phi_{1}y_{t-1}+\epsilon_{t},\epsilon_{t}\sim IID(0,\sigma^{2})$ . 我们可得: $y_{t}=\sum_{i=0}^{t-1}\phi^{i}_{1}\epsilon_{t-i}+\phi^{t}_{1}y_{0}$.

random walk

此时 $\phi_{1}=1$ , 有: $y_{t}=\sum_{i=0}^{t-1}\epsilon_{t-i}+y_{0}\to E(y_{t})=y_{0},\ V(y_{t})=t\sigma^{2}$ . y的初始值时时刻刻影响着 $y_{t}$ (permanent effect).

我们还可以发现: $\frac{\partial y_{t}}{\partial\varepsilon_{n}}=1=\frac{\partial y_{t+k}}{\partial\varepsilon_{n}}$ , I(1)下有long memory property. (对于I(0)的序列, 称其只有termed short memory).

Explosive root

$|\phi|>1$ .

Compare with Trend Stationary Model

形如 $\begin{cases}y_{t}=\alpha+\beta t+u_{t}\\\\y_{t}=\gamma+y_{t-1}+v_{t}\end{cases}$ . 第一个是trend stationary model, 第二个是unit root model. 区别就是第一个是随着时间有特定趋势, 而第二个没有趋势, 只不过是V不断变大.

RBC model使用了unit root model, 因为它相信自由市场; Keysian Model使用了trend stationary model, 因为政府管制.