Wold Decomposition Theorem
在一些介紹 ARIMA 的文章或書中,你偶爾會讀到 Wold Decomposition Theorem。去查文獻你可能會看到一堆公式,在不知所云之下就放棄了。
事實上與 Wold Decomposition Theorem 最有關係的是 MA process。
Wold Decomposition Theorem 以簡化的說,這是說任何 stationary process 可以表示成兩類型的 processes 的和: 一個是 non-deterministic 另一個是 deterministic。一個 process 稱為 deterministic (或 singular) 是當此 process 可以被一個線性回歸依據過去的值(甚至無法取得最近的值)所正確的預測。一個 process 稱為 non-deterministic( regular 或 stochastic) 是當一個線性回歸依據過去的值對預測是無用的。
這理論與 MA processes 連結如下: 這 Wold decomposition 的 non-deterministic 部份可以表示成一個 MA process 有可能有無限項並需要連續 Z-t 序列的是 uncorrelated 而不是 independent (如一些作者定義 MA processes 需要)。 任何 stationary non-deterministic 時間序列正式地可以表示這種形式,
上式 psi0 = 1 同時 psi1*psi1 + psi2*psi2+ ... < Inf {Z-t} 表示一個純的 random process( 或 uncorrelated white noise) 有 mean 0 與常數 variance (它與 process 的 deterministic 部分無關連)。 所謂 {Zt} 是用最佳的線性預測子來做預測的時候所產生的 one-step-ahead 預測誤差, {Zt} 有時稱作 innovations。上式是一個 MA(∞) process,它通常稱作 process 的 Wold representation。它有時也叫做一個 linear process 或 general linear process(通常這樣叫時 {Zt} 需要彼此獨立或係數平方和介於 -inf 與 inf 間)。當然,當 Zt 為 normal distributions 時,有時也稱它是一個 Gaussian linear process。
在實際上這 Wold decomposition 是相當受限。假如 process 的產生序列是非線性,Wold decomposition 一般是沒有幫助的,因為最佳的 mean square 預測子可能相當不同於最佳線性預測子。甚至就算假如此 process 是線性,一個隨機過程的 MA(∞) representation 涉及無窮項的參數,這不可能由有限的數據集給估計出來。因此,盡可能以最簡約最少的參數的來趨近數據來尋找一個模型是習慣性的做法。一般方式的處理是考慮以 ARMA processes 這類的來作。
事實上與 Wold Decomposition Theorem 最有關係的是 MA process。
Wold Decomposition Theorem 以簡化的說,這是說任何 stationary process 可以表示成兩類型的 processes 的和: 一個是 non-deterministic 另一個是 deterministic。一個 process 稱為 deterministic (或 singular) 是當此 process 可以被一個線性回歸依據過去的值(甚至無法取得最近的值)所正確的預測。一個 process 稱為 non-deterministic( regular 或 stochastic) 是當一個線性回歸依據過去的值對預測是無用的。
這理論與 MA processes 連結如下: 這 Wold decomposition 的 non-deterministic 部份可以表示成一個 MA process 有可能有無限項並需要連續 Z-t 序列的是 uncorrelated 而不是 independent (如一些作者定義 MA processes 需要)。 任何 stationary non-deterministic 時間序列正式地可以表示這種形式,
上式 psi0 = 1 同時 psi1*psi1 + psi2*psi2+ ... < Inf {Z-t} 表示一個純的 random process( 或 uncorrelated white noise) 有 mean 0 與常數 variance (它與 process 的 deterministic 部分無關連)。 所謂 {Zt} 是用最佳的線性預測子來做預測的時候所產生的 one-step-ahead 預測誤差, {Zt} 有時稱作 innovations。上式是一個 MA(∞) process,它通常稱作 process 的 Wold representation。它有時也叫做一個 linear process 或 general linear process(通常這樣叫時 {Zt} 需要彼此獨立或係數平方和介於 -inf 與 inf 間)。當然,當 Zt 為 normal distributions 時,有時也稱它是一個 Gaussian linear process。
在實際上這 Wold decomposition 是相當受限。假如 process 的產生序列是非線性,Wold decomposition 一般是沒有幫助的,因為最佳的 mean square 預測子可能相當不同於最佳線性預測子。甚至就算假如此 process 是線性,一個隨機過程的 MA(∞) representation 涉及無窮項的參數,這不可能由有限的數據集給估計出來。因此,盡可能以最簡約最少的參數的來趨近數據來尋找一個模型是習慣性的做法。一般方式的處理是考慮以 ARMA processes 這類的來作。
留言
張貼留言