濾波問題

在隨機過程理論中的濾波問題（Filtering problem）是指針對信號處理及相關領域中，許多狀態估測問題的數學模型。大致概念是從不完整的、可能包括雜訊的觀測值中，建立有關系統真實值的「最佳估測」。最佳非線性濾波問題（甚至也包括非平穩過程問題）由Ruslan L. Stratonovich（英語：Ruslan L. Stratonovich）（1959年^[1]、1960年^[2]）找到解答，在Harold J. Kushner（英語：Harold J. Kushner）的研究^[3]及Moshe Zakai（英語：Moshe Zakai）的研究中也有提到，Zakai建立了濾波器在條件機率未歸一情況下的簡化動態模型^[4]，稱為Zakai方程（英語：Zakai equation）。不過一般情形下的解是無限維的^[5]。

目前已針對一些近似以及一些特定條件有深入的研究。例如在高斯隨機變數的假設下，最佳解是線性濾波器，也稱為維納濾波及卡爾曼濾波。更一般的情形下，其解為無限維度，為了在有限記憶體的電腦中計算，需要進行有限維度的近似，有限維的近似型非線性濾波器（英語：nonlinear filter）比較會以啟發為基礎，例如擴展型卡爾曼濾波器（英語：Extended Kalman Filter）或是假定密度濾波器（Assumed Density Filters）^[6]，也有更方法論導向的作法，例如Projection Filters^[7]，其中有些子系列恰好和假定密度濾波器相同^[8]。

一般來說，若可以適用分離原理，這些濾波器也可以成為最優控制問題解的一部份。例如在LQG控制最佳控制問題中，其估測部份的解就是卡爾曼濾波。

數學表示

考慮概率空間 (Ω, Σ, P)，並且假設在n維度歐幾里得空間 Rⁿ的系統，其在時間t的（隨機）狀態Y_t為隨機變量 Y_t : Ω → Rⁿ，可以由以下形式伊藤清隨機微分方程的解來求得

${\displaystyle \mathrm {d} Y_{t}=b(t,Y_{t})\,\mathrm {d} t+\sigma (t,Y_{t})\,\mathrm {d} B_{t},}$

其中B是標準p維布朗運動，b : [0, +∞) × Rⁿ → Rⁿ為漂移場（drift field），且σ : [0, +∞) × Rⁿ → R^n×p是擴散場（diffusion field）。假設R^m內在每一個時間的觀測H_t（其中m和n可能不同）由下式決定

${\displaystyle H_{t}=c(t,Y_{t})+\gamma (t,Y_{t})\cdot {\mbox{noise}}.}$

配合隨機微分方程的伊藤表示法，令

${\displaystyle Z_{t}=\int _{0}^{t}H_{s}\,\mathrm {d} s,}$

因此可以得到有關觀測Z_t的隨機積分表示式：

${\displaystyle \mathrm {d} Z_{t}=c(t,Y_{t})\,\mathrm {d} t+\gamma (t,Y_{t})\,\mathrm {d} W_{t},}$

其中W表示標準r維的布朗運動，和B和初始條件Y₀無關，c : [0, +∞) × Rⁿ → Rⁿ，且 γ : [0, +∞) × Rⁿ → R^n×r

可以在所有t及x，以及特定常數C的情形下，使下式成立：

${\displaystyle {\big |}c(t,x){\big |}+{\big |}\gamma (t,x){\big |}\leq C{\big (}1+|x|{\big )}}$

濾波問題如下：給定在0 ≤ s ≤ t時間內的觀測量Z_s for 0 ≤ s ≤ t，依上述觀測值，針對系統真實狀態Y_t的最佳估測Ŷ_t是什麼？

因為「依上述觀測量為基礎」，表示Ŷ_t是根據Z_s觀測量中Σ-代數下的可測函數。令K = K(Z, t) 是所有數值為Rⁿ，平方可積分，而且G_t可量測隨機函數Y的集合：

${\displaystyle K=K(Z,t)=L^{2}(\Omega ,G_{t},\mathbf {P} ;\mathbf {R} ^{n}).}$

因為要求是「最佳估測」，表示Ŷ_t會讓Y_t和K集合內所有候選估測值之間的均方差有最小值：

${\displaystyle \mathbf {E} \left[{\big |}Y_{t}-{\hat {Y}}_{t}{\big |}^{2}\right]=\inf _{Y\in K}\mathbf {E} \left[{\big |}Y_{t}-Y{\big |}^{2}\right].\qquad {\mbox{(M)}}}$

基本結論：正交投影

候選估測值的空間K(Z, t)是希爾伯特空間，根據希爾伯特空間的理論，可以推得最小值問題（M）的解Ŷ_t可以表示為下式

${\displaystyle {\hat {Y}}_{t}=P_{K(Z,t)}{\big (}Y_{t}{\big )},}$

其中P_K(Z,t)表示將L²(Ω, Σ, P; Rⁿ)映射到線性子空間 K(Z, t) = L²(Ω, G_t, P; Rⁿ)的正交投影。而且，有關其條件期望，可知道若F是Σ中的次σ代數，則正交投影

${\displaystyle P_{K}:L^{2}(\Omega ,\Sigma ,\mathbf {P} ;\mathbf {R} ^{n})\to L^{2}(\Omega ,F,\mathbf {P} ;\mathbf {R} ^{n})}$

也就是條件期望運算子E[·|F]，也就是說

${\displaystyle P_{K}(X)=\mathbf {E} {\big [}X{\big |}F{\big ]}.}$

因此

${\displaystyle {\hat {Y}}_{t}=P_{K(Z,t)}{\big (}Y_{t}{\big )}=\mathbf {E} {\big [}Y_{t}{\big |}G_{t}{\big ]}.}$

這個基本結果是濾波理論中，廣義Fujisaki-Kallianpur-Kunita方程的基礎。

相關條目

• 平滑問題（英語：Smoothing problem）和濾波問題有緊密關係。
• 濾波器
• 信號處理中的濾波器 (信號處理)（英語：Filter (signal processing)）
• 卡爾曼濾波是濾波問題及平滑問題中最著名的解
• 平滑

參考資料

• Jazwinski, Andrew H. Stochastic Processes and Filtering Theory. New York: Academic Press. 1970. ISBN 0-12-381550-9.
• Øksendal, Bernt K. Stochastic Differential Equations: An Introduction with Applications Sixth. Berlin: Springer. 2003. ISBN 3-540-04758-1. (See Section 6.1)

1. Stratonovich, R. L. (1959). Optimum nonlinear systems which bring about a separation of a signal with constant parameters from noise. Radiofizika, 2:6, pp. 892-901.
2. Stratonovich, R.L. (1960). Application of the Markov processes theory to optimal filtering. Radio Engineering and Electronic Physics, 5:11, pp.1-19.
3. Kushner, Harold. (1967). Nonlinear filtering: The exact dynamical equations satisfied by the conditional mode. Automatic Control, IEEE Transactions on Volume 12, Issue 3, Jun 1967 Page(s): 262 - 267
4. Zakai, Moshe (1969), On the optimal filtering of diffusion processes. Zeit. Wahrsch. 11 230–243. MR242552, doi:10.1007/BF00536382
5. Mireille Chaleyat-Maurel and Dominique Michel. Des resultats de non existence de filtre de dimension finie. Stochastics, 13(1+2):83-102, 1984.
6. Maybeck, Peter S., Stochastic models, estimation, and control, Volume 141, Series Mathematics in Science and Engineering, 1979, Academic Press
7. Damiano Brigo, Bernard Hanzon and François LeGland, A Differential Geometric approach to nonlinear filtering: the Projection Filter, I.E.E.E. Transactions on Automatic Control Vol. 43, 2 (1998), pp 247--252.
8. Damiano Brigo, Bernard Hanzon and François Le Gland], Approximate Nonlinear Filtering by Projection on Exponential Manifolds of Densities, Bernoulli, Vol. 5, N. 3 (1999), pp. 495--534