層論の圏論的な取り扱いを勉強したので備忘として書く。そもそもが抽象度の高い層論であるが、圏論的に記述するとさらに抽象度が上がる為、イメージをしっかり持っておきたい。層 (wikipedia)には
層は局所と大域をつなぐことばであり、装置である
とあるが、これが層とはなんであるかを端的に説明している。自分の場合、最初層論を勉強した際(書籍「層・圏・トポス」だった)は、上記のイメージを持てず何をしようとしているのか理解できず苦労した。以下の文章ではできるだけ何をやりたいのかイメージできるように書く事を心がけた。
また、書いてみてわかったが、圏論的定義の方がむしろ直観が働くと思った。と言うのは「前層とは①と②を満たす〜」の様な定義だとゼロから全く新しい概念を学んでいるという気持ちになるが「前層とは〜から〜への関手」の様な定義だと、他の分野での理解からのアナロジーが働く為。
ところで、多くの文献では層の定義にイコライザを用いるものが紹介されるが、個人的にはこれはとても分かりにくい上に使い勝手が悪いと感じる。実は 層とはある種の連続性を持つ前層の事である という説明が出来る。この定義は非常に直観的で使い勝手が良い。そこでこの文章では以下の3つの定義を説明する。もちろん全て同値である。
- 直観に従って素朴に書いたもの
- 1を機械的にイコライザを用いて書き直したもの
- 2を前層の連続性として書き直したもの
層のイメージ
何らかの空間上に分布する数学的対象について、その局所的な様子・大域的な様子を調べたいとする。例えば地球上の各点における気温の分布に興味があるならば、2次元球面上の連続関数の集合や微分可能な関数の集合が舞台になるだろうし、各点における風向きに興味があるならば2次元球面上の連続な2次元ベクトル場の集合が舞台になるだろう。
以上の例のように何らかの空間上に分布する数学的対象について調べたい場面が多々ある。層論はこういった、位相空間の上の数学対象について扱うものである。"数学対象"とは、単に 集合 としても良いし、もう少し構造を入れて 加群 や アーベル群 としても良い。この文章では一番単純な集合の場合で記述する。
さて、このようなある空間上のある数学的対象であって、局所と大域をつなぐ事ができるものを 層(sheaf) という。
具体的には、層 $F$ は空間 $X$ の局所的な領域(開集合) $U$ のみに制限した対象 $F(U)$ を取り出す操作を備える。$U$ をどんどん細かくしていって、さらに局所的な状況を取り出すという操作もできる。地球の例で言えば、日本付近のみを取り出すとか、東京付近のみを取り出すみたいな操作ができる。
そして、貼り合わせ (glueing) という操作ができる。開集合 $U,V$ の重なる部分で $F(U), F(V)$ が一致するならばこれらを貼り合わせてより大きな領域に紐づいた対象 $F(U\cup V)$ を作る事ができる。地球の例で言えば、世界各地の気象が分かるならばそれらを繋げて地球全体の気象も分かる、みたいな話である。
以上のように、ある空間上に分布するある数学的対象であって、それを局所的に調べていく手段と、貼り合わせて大域的に調べていく手段が備わったもの (もしくはそれを表現する言葉)が層であると言える。
層は集合概念の拡張
ちょっと話が脇にそれるが、層は集合概念の拡張であるという説明がなされる事もある(例:層・圏・トポスのまえがき)。これはどういうことかというと、まず任意の集合は離散位相(全ての点がバラバラで繋がりがない位相)を入れれば位相空間と見なせる。つまり、位相空間の特別な場合として普通の集合が含まれる。
そうすると、層は「集合の上で数学的対象を調べる」行為を「位相空間の上で数学的対象を調べる」行為に拡張するものであるという見方もできる。そのような見方をすると、層が上で例示した多様体上のベクトル場みたいな例にとどまらない広がりを持つコンセプトである事がわかる。
前層 (presheaf)
では、ここから数学的な(かつ圏論的な)定義に移る。層の前に、まず前層というものを定義する。これは、数学対象に局所的な部分を取り出す操作を加えたものである。
前層の定義
位相空間 $X$ 上の 前層(presheaf) $F$ とは、$X$の開集合系を集合の包含関係によって圏とみなした $\mathcal{O}_X$ から $\mathrm{Set}$ への反変関手
$$ F:\mathcal{O}_X^{\mathrm{op}}\rightarrow\mathrm{Set} $$
である。
(これをさらに抽象化して、小さな圏 $C$ に対して関手 $F:C^{\mathrm{op}}\rightarrow\mathrm{Set}$を前層とするといった発展もあるが、流石に訳がわからなくなるのでやめておく。)
$F(U)$ の元を $F$ の $U$上での 切断(section) という。但し、圏論では
「対象の元を取る」みたいな操作をせずに(そもそも出来ない場合もあるので)議論を進める事が多いので、以下も切断に依存しない説明を行う。
$F$は関手であるので、 $X$ 上の各局所的な (局所的と言いつつ$X$全体も含むが) 領域 $U$ に何らかの数学対象を対応させるものである。圏$\mathcal{O}_X^{\mathrm{op}}$ の射 $U\rightarrow V$ は開集合の包含関係を逆にしたものであるから、$U\supset V$ という関係を表す。つまり、適当な対象の列
$$U_1 \rightarrow U_2 \rightarrow U_3 \rightarrow$$
を取るということは、下図のように注目する範囲を狭めていくという事に相当する。
そうすると $F$が関手であるというのは、$X$ の上で見る領域を狭めていく操作 $U\rightarrow V$ に対応する写像 $F(U) \rightarrow F(V)$ が存在していて、その対応関係が整合的であるという事を言っている。簡単に言えば領域を狭めていく時に開集合の選び方や取る順番などに気をつけなくても結果には影響しないという事。
$$
\begin{array}{ccccc}
U & \supset & V & \supset & \cdots \\
\downarrow& & \downarrow& & \\
F(U) & \rightarrow & F(V) & \rightarrow & \cdots
\end{array}
$$
この写像 $F(U)\rightarrow F(V)$ は 制限射(restriction) と呼ばれる。但し、前層の定義時点では $F$ は関手であるというだけであるので、この呼び方はあくまでお気持ちだけである。制限写像としての性質を持つ事を表現している訳ではない。
前層の圏
また、前層を対象とし、前層 $ F,G:\mathcal{O}_X^{\mathrm{op}}\rightarrow\mathrm{Set} $ の間の自然変換 $\eta: F\rightarrow G$ を射とする 前層の圏(category of presheaves) が作れる。これを $\mathrm{PSh}(X)$ と書く事にする。つまり、前層の圏とは関手圏
$$\mathrm{PSh}(X) = \mathrm{Set}^{\mathcal{O}_X^{\mathrm{op}}}$$
のことである。
層 (sheaf)
前層のうち、貼り合わせ操作ができるものが層である。
前層と層は何が違うか？
2つの集合 $F(U), F(V)$ の貼り合わせとはどういうものか考えたい。これらを貼り合わせたものは当然 $F(U\cup V)$ になってて欲しい。つまり考えるべきは貼り合わせ操作ではなくて、$F(U\cup V)$が貼り合わせと呼べるのはどういう時か？ である。
(ちなみに、今後カジュアルに $U\cap V$ や $U\cup V$などの記法を使うが、圏 $\mathcal{O}_X^{\mathrm{op}}$ において、 $U\cup V$は積 $U\times V$ の事だし、$U\cap V$は余積 $U+V$ のこと。)
そこでまず $F(U\cup V)$ が貼り合わせと言えなさそうな(つまり前層だけど層じゃなさそうな)具体例を観察してみる。
$X$ として2点集合 $\{a,b\}$ に離散位相を入れたものを考える。つまり開集合系は
$$\mathcal{O}_X=\{\{a,b\},\{a\},\{b\},\emptyset\}$$
そして $F$ を
$$ F(\{a,b\})=\mathbb{R}, F(\{a\})=\mathbb{Z}, F(\{b\})=\mathbb{Z}、F(\emptyset)=0$$
と定義してみる。$\mathbb{R}\rightarrow\mathbb{Z}$ は$x\in\mathbb{R}$ の整数部分を取る写像とする。これが前層の定義を満たす事は簡単に確認できる。感覚的にも$\mathbb{R}\rightarrow\mathbb{Z}$ や$\mathbb{Z}\rightarrow 0$ が局所的な部分のみに注目する操作だというのは違和感はないだろう。
一方で、$F(\{a\})=\mathbb{Z}$と$F(\{b\})=\mathbb{Z}$を貼り合わせたものが$F(\{a,b\})=\mathbb{R}$ であるというのは感覚的に納得がいかないと思う。$\mathbb{R}$ には$\mathbb{Z}$には無い余分な構造(整数以外の部分)が増えていて、貼り合わせる以上の事が行われているように感じるからである。
つまり、前層と層を区別するのはこの 貼り合わせた時に余分な構造が増えない という特徴を持っているかどうかと言える。この特徴を圏論的に書いてみたい。
2つの対象の貼り合わせ
まずは一般のケースじゃなくて、2つの対象を貼り合わせるケースだけを考える。前節で言ったように、$F(U),F(V)$ の貼り合わせが $F(U\cup V)$ であるというのは、以下の3つの条件を満たす時であると言える。
- $F(U\cup V)$ を $U,V$ に制限すれば $F(U), F(V)$ が取り出せる。
- 領域が重なる部分 $U\cap V$ に制限すると $F(U),F(V)$は一致する。
- $F(U\cup V)$ には $F(U),F(V)$ から由来するもの以外の余分な構造が入っていない。
まず、1、2は以下の図式が可換であることであると簡単に言える。但し、点線で書いた矢印は制限射を表す事とする。この図式は $F$ が前層であるという事から自動的に可換になる。
$\mathrm{Set}$ には $F$ の像以外の対象や制限射以外の射も多数あるので注意。そこで、以外制限射を点線の矢印で表す事にし、 $\mathrm{Set}$の任意の射は普通の矢印で表す事にする。
さて、$F(U\cup V)$は1,2を自動的に満たすわけだが、それ以外にも1,2を満たす対象$G$は存在しうる。そこで、1, 2を満たす集合 $G$ と $F(U\cup V)$ は何が違うのかを考える。
そこで $G$から出る射 $f: G\rightarrow F(U)$ と $g:G\rightarrow F(V)$ について考えると、上の図式が可換なのであるから共通部分 $F(U\cap V)$ ではこれらの像は一致している。ということは、この2つの像を貼り合わせてしまって1つにまとめた射 $u: G\rightarrow F(U\cup V)$ が作れそうである。
そして $F(U\cup V)$ には余分な構造がないのだから、$u$の作り方に自由度はなく $f,g$ を単純に1つにくっつける以外の方法はなさそうである。つまり、$F(U\cup V)$が貼り合わせと呼べるとき、$f,g$ に対して $u$ は 一意に存在する と言えそうである。逆も然り。この直観を定式化しよう。
改めて厳密に述べると
$F(U),F(V)$ の貼り合わせが $F(U\cup V)$ であるとは、以下の図式を可換にする任意の対象 $G\in\mathrm{Set}$と任意の射 $f:G\rightarrow F(U)$ と $g:G\rightarrow F(V)$ に対して、以下の図式を可換にする射 $u:G \rightarrow F(U\cup V)$ がただ一つ存在する事である。
圏論既習の方はこれが 引き戻し(pullback) だという事はすぐ分かると思う。つまり、$F(U\cup V)$が貼り合わせてであるとは「以下の図式が引き戻しの図式であること」と一言で言える。
もしくは、一行で書けば
$$ F(U\cup V)\simeq F(U)\times_{F(U\cap V)}F(V)$$
が成立すること、とも言える。
層の圏論的定義1
これを一般の場合に拡張して、任意個の対象の貼り合わせが常にできるものが層である。そして、貼り合わせになっている条件は上で書いた定義を自然に拡張して書ける。
素朴な定義
前層 $F$ が 層(sheaf) であるとは、任意個の開集合 $\{U_{\lambda}\}_{\lambda\in\Lambda}$ とその合併 $U=\bigcup U_{\lambda}$に対して$F(U)$ が $\{F(U_{\lambda})\}$ の貼り合わせになっている事である。
すなわち、任意の対象 $G$ と、全ての $\alpha,\beta\in\Lambda$ について以下の図式が可換となるような射の集合 $\{f_\lambda:G\rightarrow F(U_\lambda)\}$について、以下の図式が可換となる $u:G\rightarrow F\left(U\right)$ が唯一つ存在する事である。
つまり、任意の開集合のペア $U_\alpha,U_\beta$ について共通部分では一致する様な対象で、一切余分な構造を持たないものを作る操作が貼り合わせである。2つの場合をよく理解できれば、こちらも自然と理解できると思う。(2つの場合は貼り合わせ=pullbackだが、3つ以上の場合のこれはpullbackとは呼ばないので注意。)
層の圏論的定義2
さて、圏論的定義1は直観的には分かりやすかったと思うが、イコライザを使えばもっと短く定義する事ができる。定義1のイメージで頭では理解しておいて、これから書く定義2はそれを機械的に書き直したものだと考えれば良い。もちろん定義1と2は同値である。
イコライザを用いた定義
前層 $F$ が 層(sheaf) であるとは、任意個の開集合 $\{U_{\lambda}\}_{\lambda\in\Lambda}$ とその合併 $U=\bigcup U_{\lambda}$に対して以下の図式が常に イコライザ(equalizer) の図式となることである。
$$ F(U)\overset{r}{\dashrightarrow}\prod_{\lambda}F(U_{\lambda})\overset{p}{\underset{q}{\rightrightarrows}}\prod_{\alpha,\beta}F(U_\alpha\cap U_\beta)$$
ここで $r$ は制限射 $F(U)\dashrightarrow F(U_\lambda)$ 全ての積。
$p$ は下図で表される射影と制限射の合成射 $\prod_{\lambda}F(U_{\lambda})\rightarrow F(U_\alpha\cap U_\beta)$の $\alpha,\beta$ のペア全てについての積。
$$\prod_{\lambda}F(U_{\lambda})\overset{\pi_\alpha}{\rightarrow}F(U_\alpha)\dashrightarrow F(U_\alpha\cap U_\beta)$$
$q$ も同様に下図の射を合成したものの$\alpha,\beta$ のペア全てについての積。
$$\prod_{\lambda}F(U_{\lambda})\overset{\pi_\beta}{\rightarrow}F(U_\beta)\dashrightarrow F(U_\alpha\cap U_\beta)$$
一見、複雑な定義に見えるが
- $p\circ r$ は定義1の図式の左側を通る射全ての積
- $q\circ r$ は定義1の図式の右側を通る射全ての積
になっていて、つまり定義1の全ての図式を単に束ねているだけである。
層の圏論的定義3
圏論既習者は以上の定義から $F(U)$ がある種の 極限(limit) になっているという事に気づくと思う。そして $U=\bigcup U_\lambda$ 自体も $\mathcal{O}_X^{\mathrm{op}}$ の極限であるから、 $F$ はある種の極限を保存する関手であると言える。そして、極限を保存するという性質を 連続性 というので
層とは前層のうちある種の連続性を持つものである
と説明できる。
連続性による定義
前層 $F$ が 層(sheaf) であるとは、$\mathcal{O}_X^{\mathrm{op}}$ の任意の 余完備充満部分圏(cocomplete full subcategory) $J$ に対して、以下が成立する事である。
$$ F\left(\lim_{\leftarrow}J\right) \simeq \lim_{\leftarrow}F(J)$$
余完備充満部分圏という大袈裟な表現が出てきたが、言っていることは簡単である。$J$ が部分圏であるというのは $\mathcal{O}_X^{\mathrm{op}}$ の一部を抜き出したものであるということだが、
- 充満: 対象間の射も全て持ってくる
- 余完備: 任意の余極限が存在する($\mathcal{O}_X^{\mathrm{op}}$の場合は、$J$の任意対象の共通部分も$J$に含まれる)
という事。
極限の対応を図示すると(ここでは2対象の場合)以下のようになっている。
$F$ が層であるということは位相空間側で開集合を貼り合わせる操作(極限を取る操作)が、$\mathrm{Set}$で極限を取る操作と綺麗に対応しているという事を言っているわけである
この定義3はイコライザを用いた定義より遥かに層とは何であるかという気持ちが分かりやすいしシンプル。そして何より使い勝手が良い。極限が極限に移るということから例えば
-
$\mathcal{O}_X^{\mathrm{op}}$ の終対象 $\emptyset$ は $F$ で $\mathrm{Set}$ の終対象、つまり一点集合に移る。これは$J=\emptyset$の場合に相当。
$$ F(\emptyset) \simeq 1 \quad(= \{\star\}) $$ -
$F(U\cup V)$はpullback。これは $J=\{U\rightarrow U\cap V\leftarrow V\}$という圏に相当
$$ F(U\cup V)\simeq F(U)\times_{F(U\cap V)}F(V)$$ -
そして $U,V$ が互いに素 ($U\cap V=\emptyset$) なら直積になる。 $F(U\cap V)=F(\emptyset)=1$だから。
$$ F(U\cup V)\simeq F(U)\times F(V)$$
みたいな事が直ちにわかる。
層の圏
ところで、前層の圏と同じように、層が対象で層の間の自然変換を射にとると、 層の圏 を作ることができる。これを $\mathrm{Sh}(X)$ と書く。