0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

OU processのreverse processについて(ChatGPT)

0
Posted at

OU過程の “reverse process(逆時間過程)” について、
(1) 一般の拡散過程の時間反転の公式
(2) それを OU 過程に適用した具体形(非定常と定常の場合)
の順に説明します。導出は 1 次元・拡散係数一定の場合に絞って書きます。

  1. 前向き SDE と Fokker–Planck 方程式

1 次元の Itô 拡散

dX_t = b(X_t,t)\,dt + \sigma(X_t,t)\,dW_t, \qquad t\in[0,T]

を考えます。簡単のため OU に合わせて $\sigma$ は定数とし

a := \sigma^2

と置きます。

このとき密度 $p(t,x)$ は Fokker–Planck 方程式(Kolmogorov 前向き方程式)

\partial_t p(t,x)
= -\partial_x\!\big(b(x,t)p(t,x)\big)
+ \frac12\,\partial_x^2\!\big(a\,p(t,x)\big)
\tag{FP}

を満たします。

  1. 時間反転過程と逆時間 SDE の一般公式

区間 $[0,T]$ 上での時間反転過程を

Y_s := X_{T-s}, \qquad 0\le s\le T

と定めます。$Y_s$ の密度を $q(s,x)$ とすると、
時刻の取り方から

q(s,x) = p(T-s,x)

が成り立ちます。

$t = T-s$
と書き直すと

\partial_s q(s,x)
= -\partial_t p(t,x)\big|_{t=T-s}

ですから、(FP) を使うと

\partial_s q(s,x)
= \partial_x\big(b(x,t) p(t,x)\big)
- \frac12\,\partial_x^2\big(a p(t,x)\big)
\bigg|_{t=T-s}.
\tag{1}

一方、$Y_s$ がある SDE

dY_s = b^*(Y_s,s)\,ds + \sigma\,d\widetilde W_s

に従うとすれば、その密度 $q(s,x)$ はやはり Fokker–Planck 型の方程式

\partial_s q(s,x)
= -\partial_x\big(b^*(x,s)q(s,x)\big)
+ \frac12\,\partial_x^2\big(a\,q(s,x)\big)
\tag{FP*}

を満たしているはずです。

ここで (1) と (FP*) の右辺を同一視し、
$q(s,x)=p(t,x),\quad t=T-s$
と書き換えれば

-\partial_x\big(b^* q\big)
+ \frac12\,\partial_x^2(a q)
=
\partial_x\big(b q\big)
- \frac12\,\partial_x^2(a q).

整理すると

\partial_x\big(b^* q\big)
=
-\,\partial_x\big(b q\big)
+ \partial_x^2\big(a q\big).

右辺を $x$ で積分して(境界条件により積分定数 0 と仮定)、

b^*(x,s)\,q(s,x)
= -b(x,t)\,q(s,x) + \partial_x\big(a\,q(s,x)\big).

よって

b^*(x,s)
= -b(x,t)
+ \frac{1}{q(s,x)}\partial_x\big(a\,q(s,x)\big).

$a$ が定数(OU の状況)なので $\partial_x a = 0$ となり、

\boxed{\displaystyle
b^*(x,s)
= -b(x,t) + a\,\partial_x \log q(s,x)
= -b(x,T-s) + a\,\partial_x \log p(T-s,x).
}
\tag{★}

これが Anderson (1982) および Haussmann–Pardoux などで与えられる
逆時間 SDE のドリフトの基本形(1 次元・定数拡散)です。

多次元・状態依存拡散の場合には $\nabla\cdot(a)$ などの項が追加される一般式になります。

  1. OU 過程に適用:一般の初期条件

3.1 前向き OU 過程

標準的な 1 次元 OU を

dX_t = -\theta X_t\,dt + \sigma\,dW_t,\qquad X_0 = x_0

とします(平均 0 の場合。平均 $\mu$ 付きは最後にコメントします)。

この解は

X_t = e^{-\theta t} x_0
+ \sigma\int_0^t e^{-\theta(t-s)}\,dW_s

なので、分布は

X_t \sim \mathcal N\!\left(
m_t, v_t
\right),
\quad
m_t = e^{-\theta t}x_0,\quad
v_t = \frac{\sigma^2}{2\theta}(1-e^{-2\theta t}).

従って密度は

p(t,x)
=
\frac{1}{\sqrt{2\pi v_t}}
\exp\!\left(-\frac{(x-m_t)^2}{2v_t}\right).

このときスコア(空間微分)

\partial_x \log p(t,x)
=
-\,\frac{x-m_t}{v_t}.

3.2 逆時間 OU のドリフト

式 (★) に $b(x,t)=-\theta x$、$a=\sigma^2$ を代入すると、

b^*(x,s)
= -(-\theta x) + \sigma^2\,\bigl(-\tfrac{x-m_{T-s}}{v_{T-s}}\bigr)
=
\theta x - \sigma^2\,\frac{x-m_{T-s}}{v_{T-s}}.

$v_{T-s}=\frac{\sigma^2}{2\theta}\bigl(1-e^{-2\theta(T-s)}\bigr)$ なので

\frac{\sigma^2}{v_{T-s}}
=
\frac{2\theta}{1-e^{-2\theta(T-s)}}.

従って

\boxed{\displaystyle
b^*(x,s)
=
\theta x
-
\frac{2\theta}{1-e^{-2\theta(T-s)}}\bigl(x-m_{T-s}\bigr),
\qquad m_{T-s}=e^{-\theta(T-s)}x_0.
}

これを SDE として書けば、時間反転過程
$Y_s := X_{T-s},\quad 0\le s\le T$

\boxed{\displaystyle
dY_s
=
\Biggl[
\theta Y_s
-
\frac{2\theta}{1-e^{-2\theta(T-s)}}\bigl(Y_s-e^{-\theta(T-s)}x_0\bigr)
\Biggr] ds
+
\sigma\,d\widetilde W_s.
}
\tag{OU 逆時間}

これは Math.StackExchange の OU の時間反転の議論と整合します。
$s\to T$ でドリフトが端点 $x_0$ に「強く引き寄せる」形になり、
$Y_T=X_0=x_0$ に収束する(OU ブリッジに近い挙動)ことが分かります。

  1. 定常 OU の場合:時間反転でまた OU になる

今度は OU を 定常分布からスタートさせます。
平均 $\mu$ の OU

dX_t = -\theta(X_t-\mu)\,dt + \sigma\,dW_t

の定常分布は

\pi(dx)
= \mathcal N\!\left(\mu,\,\frac{\sigma^2}{2\theta}\right)(dx)

です。

初期分布を $\mathcal L(X_0)=\pi$ とすると、全ての $t$ で $p(t,x)=\pi(x)$ となり、時間に依存しません。このとき

\partial_x \log p(t,x)
=
\partial_x \log \pi(x)
=
-\frac{x-\mu}{\sigma^2/(2\theta)}
=
-\frac{2\theta}{\sigma^2}(x-\mu).

式 (★) に代入すると

\begin{aligned}
b^*(x,s)
&= -b(x,t) + a\,\partial_x\log p(t,x) \\
&= -\bigl(-\theta(x-\mu)\bigr)
+ \sigma^2\left(-\frac{2\theta}{\sigma^2}(x-\mu)\right) \\[3pt]
&= \theta(x-\mu) - 2\theta(x-\mu) \\
&= -\theta(x-\mu).
\end{aligned}

つまり

\boxed{\displaystyle
b^*(x,s) = b(x,t) = -\theta(x-\mu)
}

となり、定常 OU 過程は時間反転しても同じ OU SDE に従う、すなわち
(定常分布に関して)可逆(reversible)な拡散過程 になっています。
これは一般の定常拡散に対して「ドリフトの可逆成分と非可逆成分」「エントロピー生成率」などと絡めて議論される古典的な事実です。

  1. コメント:スコアベース拡散モデルとの関係

スコアベース拡散モデルでは、一般の SDE

dX_t = f(X_t,t)\,dt + g(t)\,dW_t

の時間反転 SDE

dX_t = \bigl[f(X_t,t) - g(t)^2 \nabla_x\log p_t(X_t)\bigr]\,dt
+ g(t)\,d\bar W_t

($t$ を後ろ向きに見る表現)が基礎となっています。

上で導いた OU の逆時間ドリフトは、まさにこの一般式に
$f(x,t)=-\theta(x-\mu)$、$g(t)\equiv\sigma$ を代入し、
さらに OU の $p_t$ が(初期分布が正規なら)explicit な正規分布であることを使って 解析的に書き下したものだと思ってもらえば OK です。

まとめ
• 一般の拡散過程 $dX_t = b,dt + \sigma,dW_t$ の時間反転 $Y_s=X_{T-s}$ は
同じ拡散係数を持つ別の SDE

dY_s = \bigl[-b + \sigma^2\nabla_x\log p\bigr]ds + \sigma d\widetilde W_s

に従う(定数係数 1 次元の場合)。
• OU 過程に適用すると、非定常の場合は「時間に依存する線形ドリフト」を持つ
ガウス拡散が逆時間過程になる(上の式 (OU 逆時間))。
• 一方、定常 Gaussian 準位からスタートした OU は
時間反転後も同じ SDE に従う=時間反転に関して可逆である。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?