OU過程の “reverse process(逆時間過程)” について、
(1) 一般の拡散過程の時間反転の公式
(2) それを OU 過程に適用した具体形(非定常と定常の場合)
の順に説明します。導出は 1 次元・拡散係数一定の場合に絞って書きます。
⸻
- 前向き SDE と Fokker–Planck 方程式
1 次元の Itô 拡散
dX_t = b(X_t,t)\,dt + \sigma(X_t,t)\,dW_t, \qquad t\in[0,T]
を考えます。簡単のため OU に合わせて $\sigma$ は定数とし
a := \sigma^2
と置きます。
このとき密度 $p(t,x)$ は Fokker–Planck 方程式(Kolmogorov 前向き方程式)
\partial_t p(t,x)
= -\partial_x\!\big(b(x,t)p(t,x)\big)
+ \frac12\,\partial_x^2\!\big(a\,p(t,x)\big)
\tag{FP}
を満たします。
⸻
- 時間反転過程と逆時間 SDE の一般公式
区間 $[0,T]$ 上での時間反転過程を
Y_s := X_{T-s}, \qquad 0\le s\le T
と定めます。$Y_s$ の密度を $q(s,x)$ とすると、
時刻の取り方から
q(s,x) = p(T-s,x)
が成り立ちます。
$t = T-s$
と書き直すと
\partial_s q(s,x)
= -\partial_t p(t,x)\big|_{t=T-s}
ですから、(FP) を使うと
\partial_s q(s,x)
= \partial_x\big(b(x,t) p(t,x)\big)
- \frac12\,\partial_x^2\big(a p(t,x)\big)
\bigg|_{t=T-s}.
\tag{1}
一方、$Y_s$ がある SDE
dY_s = b^*(Y_s,s)\,ds + \sigma\,d\widetilde W_s
に従うとすれば、その密度 $q(s,x)$ はやはり Fokker–Planck 型の方程式
\partial_s q(s,x)
= -\partial_x\big(b^*(x,s)q(s,x)\big)
+ \frac12\,\partial_x^2\big(a\,q(s,x)\big)
\tag{FP*}
を満たしているはずです。
ここで (1) と (FP*) の右辺を同一視し、
$q(s,x)=p(t,x),\quad t=T-s$
と書き換えれば
-\partial_x\big(b^* q\big)
+ \frac12\,\partial_x^2(a q)
=
\partial_x\big(b q\big)
- \frac12\,\partial_x^2(a q).
整理すると
\partial_x\big(b^* q\big)
=
-\,\partial_x\big(b q\big)
+ \partial_x^2\big(a q\big).
右辺を $x$ で積分して(境界条件により積分定数 0 と仮定)、
b^*(x,s)\,q(s,x)
= -b(x,t)\,q(s,x) + \partial_x\big(a\,q(s,x)\big).
よって
b^*(x,s)
= -b(x,t)
+ \frac{1}{q(s,x)}\partial_x\big(a\,q(s,x)\big).
$a$ が定数(OU の状況)なので $\partial_x a = 0$ となり、
\boxed{\displaystyle
b^*(x,s)
= -b(x,t) + a\,\partial_x \log q(s,x)
= -b(x,T-s) + a\,\partial_x \log p(T-s,x).
}
\tag{★}
これが Anderson (1982) および Haussmann–Pardoux などで与えられる
逆時間 SDE のドリフトの基本形(1 次元・定数拡散)です。
多次元・状態依存拡散の場合には $\nabla\cdot(a)$ などの項が追加される一般式になります。
⸻
- OU 過程に適用:一般の初期条件
3.1 前向き OU 過程
標準的な 1 次元 OU を
dX_t = -\theta X_t\,dt + \sigma\,dW_t,\qquad X_0 = x_0
とします(平均 0 の場合。平均 $\mu$ 付きは最後にコメントします)。
この解は
X_t = e^{-\theta t} x_0
+ \sigma\int_0^t e^{-\theta(t-s)}\,dW_s
なので、分布は
X_t \sim \mathcal N\!\left(
m_t, v_t
\right),
\quad
m_t = e^{-\theta t}x_0,\quad
v_t = \frac{\sigma^2}{2\theta}(1-e^{-2\theta t}).
従って密度は
p(t,x)
=
\frac{1}{\sqrt{2\pi v_t}}
\exp\!\left(-\frac{(x-m_t)^2}{2v_t}\right).
このときスコア(空間微分)
\partial_x \log p(t,x)
=
-\,\frac{x-m_t}{v_t}.
3.2 逆時間 OU のドリフト
式 (★) に $b(x,t)=-\theta x$、$a=\sigma^2$ を代入すると、
b^*(x,s)
= -(-\theta x) + \sigma^2\,\bigl(-\tfrac{x-m_{T-s}}{v_{T-s}}\bigr)
=
\theta x - \sigma^2\,\frac{x-m_{T-s}}{v_{T-s}}.
$v_{T-s}=\frac{\sigma^2}{2\theta}\bigl(1-e^{-2\theta(T-s)}\bigr)$ なので
\frac{\sigma^2}{v_{T-s}}
=
\frac{2\theta}{1-e^{-2\theta(T-s)}}.
従って
\boxed{\displaystyle
b^*(x,s)
=
\theta x
-
\frac{2\theta}{1-e^{-2\theta(T-s)}}\bigl(x-m_{T-s}\bigr),
\qquad m_{T-s}=e^{-\theta(T-s)}x_0.
}
これを SDE として書けば、時間反転過程
$Y_s := X_{T-s},\quad 0\le s\le T$
は
\boxed{\displaystyle
dY_s
=
\Biggl[
\theta Y_s
-
\frac{2\theta}{1-e^{-2\theta(T-s)}}\bigl(Y_s-e^{-\theta(T-s)}x_0\bigr)
\Biggr] ds
+
\sigma\,d\widetilde W_s.
}
\tag{OU 逆時間}
これは Math.StackExchange の OU の時間反転の議論と整合します。
$s\to T$ でドリフトが端点 $x_0$ に「強く引き寄せる」形になり、
$Y_T=X_0=x_0$ に収束する(OU ブリッジに近い挙動)ことが分かります。
⸻
- 定常 OU の場合:時間反転でまた OU になる
今度は OU を 定常分布からスタートさせます。
平均 $\mu$ の OU
dX_t = -\theta(X_t-\mu)\,dt + \sigma\,dW_t
の定常分布は
\pi(dx)
= \mathcal N\!\left(\mu,\,\frac{\sigma^2}{2\theta}\right)(dx)
です。
初期分布を $\mathcal L(X_0)=\pi$ とすると、全ての $t$ で $p(t,x)=\pi(x)$ となり、時間に依存しません。このとき
\partial_x \log p(t,x)
=
\partial_x \log \pi(x)
=
-\frac{x-\mu}{\sigma^2/(2\theta)}
=
-\frac{2\theta}{\sigma^2}(x-\mu).
式 (★) に代入すると
\begin{aligned}
b^*(x,s)
&= -b(x,t) + a\,\partial_x\log p(t,x) \\
&= -\bigl(-\theta(x-\mu)\bigr)
+ \sigma^2\left(-\frac{2\theta}{\sigma^2}(x-\mu)\right) \\[3pt]
&= \theta(x-\mu) - 2\theta(x-\mu) \\
&= -\theta(x-\mu).
\end{aligned}
つまり
\boxed{\displaystyle
b^*(x,s) = b(x,t) = -\theta(x-\mu)
}
となり、定常 OU 過程は時間反転しても同じ OU SDE に従う、すなわち
(定常分布に関して)可逆(reversible)な拡散過程 になっています。
これは一般の定常拡散に対して「ドリフトの可逆成分と非可逆成分」「エントロピー生成率」などと絡めて議論される古典的な事実です。
⸻
- コメント:スコアベース拡散モデルとの関係
スコアベース拡散モデルでは、一般の SDE
dX_t = f(X_t,t)\,dt + g(t)\,dW_t
の時間反転 SDE
dX_t = \bigl[f(X_t,t) - g(t)^2 \nabla_x\log p_t(X_t)\bigr]\,dt
+ g(t)\,d\bar W_t
($t$ を後ろ向きに見る表現)が基礎となっています。
上で導いた OU の逆時間ドリフトは、まさにこの一般式に
$f(x,t)=-\theta(x-\mu)$、$g(t)\equiv\sigma$ を代入し、
さらに OU の $p_t$ が(初期分布が正規なら)explicit な正規分布であることを使って 解析的に書き下したものだと思ってもらえば OK です。
⸻
まとめ
• 一般の拡散過程 $dX_t = b,dt + \sigma,dW_t$ の時間反転 $Y_s=X_{T-s}$ は
同じ拡散係数を持つ別の SDE
dY_s = \bigl[-b + \sigma^2\nabla_x\log p\bigr]ds + \sigma d\widetilde W_s
に従う(定数係数 1 次元の場合)。
• OU 過程に適用すると、非定常の場合は「時間に依存する線形ドリフト」を持つ
ガウス拡散が逆時間過程になる(上の式 (OU 逆時間))。
• 一方、定常 Gaussian 準位からスタートした OU は
時間反転後も同じ SDE に従う=時間反転に関して可逆である。