베어 카테고리 정리

먼저 $X \ne \varnothing$라고 가정합니다 — $X = \varnothing$이면 $X = \bigcup_n \varnothing$로 빈 공간은 자기 안에서 meagre하므로, 비어 있지 않음이 정리에서 필수입니다.

$E_1$이 nowhere dense이므로 $\operatorname{int}(\overline{E_1}) = \varnothing$이고, $U_1 = X \setminus \overline{E_1}$은 비어 있지 않은 열린집합입니다 ($U_1 = \varnothing$이면 $\overline{E_1} = X$라 $\operatorname{int}(\overline{E_1}) = X \ne \varnothing$가 되기 때문입니다).

$x_1 \in U_1$을 잡으면 $B(x_1, \rho) \subseteq U_1$인 $\rho > 0$이 있고, $r_1 = \min(\rho/2, 1/2)$로 두면 닫힌공 $\overline{B}(x_1, r_1) \subseteq U_1$이며 $r_1 < 1$입니다.

귀납적으로 $\overline{B}(x_k, r_k)$가 잡혔다고 하자.

$V = B(x_k, r_k) \setminus \overline{E_{k+1}}$은 비어 있지 않은 열린집합입니다: $B(x_k, r_k)$가 비어 있지 않은 열린집합인데, 만약 $B(x_k, r_k) \subseteq \overline{E_{k+1}}$이라면 $B(x_k, r_k) \subseteq \operatorname{int}(\overline{E_{k+1}}) = \varnothing$이 되어 모순이기 때문입니다.

$x_{k+1} \in V$를 잡고 반지름을 $r_k/2$보다 작게, 그리고 $V$ 안에 닫힌공이 들어가도록 줄이면 $\overline{B}(x_{k+1}, r_{k+1}) \subseteq B(x_k, r_k) \setminus \overline{E_{k+1}}$, $0 < r_{k+1} < r_k/2$를 얻습니다.

수열 $(x_k)$는 Cauchy입니다: $m > k$이면 $x_m \in \overline{B}(x_{k+1}, r_{k+1}) \subseteq B(x_k, r_k)$이므로 $d(x_k, x_m) < r_k$이고, $r_k \le 2^{-(k-1)} r_1 \to 0$이기 때문입니다 ($k = 1$에서는 등호이고, $k \ge 2$에서는 $r_{j+1} < r_j/2$를 반복 적용해 엄격한 부등식을 얻습니다). $X$가 완비이므로 $x_k \to x \in X$인 극한이 존재합니다.

고정된 $k$에 대해 꼬리 $(x_m)_{m \ge k}$는 닫힌집합 $\overline{B}(x_k, r_k)$ 안에 있으므로 극한 $x \in \overline{B}(x_k, r_k)$입니다. 따라서 모든 $k$에 대해 $x \in \bigcap_k \overline{B}(x_k, r_k)$이고, $x \in \overline{B}(x_1, r_1) \subseteq X \setminus \overline{E_1}$이며 $j \ge 2$에 대해 $x \in \overline{B}(x_j, r_j) \subseteq B(x_{j-1}, r_{j-1}) \setminus \overline{E_j}$이므로, $x \notin E_j$가 모든 $j$에 대해 성립합니다.

그런데 $x \in X = \bigcup_j E_j$이므로 어떤 $j$에 대해 $x \in E_j$이어야 합니다 — 모순입니다.

따라서 완비 거리공간은 nowhere dense 집합들의 가산합집합이 될 수 없습니다.

직관: nowhere dense 집합은 "구멍"을 남기고, 완비성은 그 구멍들을 따라 내려간 극한점을 공간 안에 붙잡아 둡니다.

구성에 의해 각 $I_k$는 닫힌구간이고 $I_{k+1} \subseteq I_k$이며, $q_k$가 $I_{k-1}$ 안에 들어오면 길이가 $1/4$로 줄어드는 $I_k$를 잡아 $q_k \notin I_k$가 됩니다 ($q_k$가 이미 밖에 있으면 $I_k = I_{k-1}$).

길이가 $0$으로 수렴함을 보입니다.

단계 $K$ 이후로 더 이상 "적중"이 없다고 가정하면, $n \ge K$인 모든 $n$에 대해 $I_n = I_K$이고 길이는 양수로 고정됩니다.

그런데 $I_K$는 양의 길이를 가지므로 유리수를 무한히 많이 포함하고, 각 유리수는 열거에서 정확히 한 번씩 등장하므로, $m > K$이면서 $q_m \in I_K$인 $m$이 존재합니다.

그러면 $I_{m-1} = I_K \ni q_m$이므로 단계 $m$은 적중 — 모순입니다.

따라서 적중은 무한히 많이 일어나고, 매번 길이가 $1/4$이 되므로 $\ell_k \to 0$입니다.

$\mathbb{R}$의 완비성에 의해 (중첩구간 정리), 길이가 $0$으로 가는 중첩 닫힌구간들의 교집합은 정확히 한 점입니다: $\bigcap_k I_k = \{x\}$. 그리고 $x \in I_k$이면서 $q_k \notin I_k$이므로, $x \ne q_k$가 모든 $k$에 대해 성립합니다.

$\{q_k\}$는 $[0, 1]$의 모든 유리수를 열거하므로, $x$는 $[0, 1]$ 안의 무리수입니다.

따라서 $[0, 1] = \bigcup_k \{q_k\}$ — 점들의 가산합집합 — 일 수 없고, $[0, 1]$은 비가산입니다.

이것이 Baire 정리의 한 점 버전(point-set version)입니다: 한 점짜리 집합은 $\mathbb{R}$에서 nowhere dense이므로, 완비인 $[0, 1]$이 점들의 가산합집합이면 Baire 정리에 모순됩니다.

[스케치] $F_m$은 닫힌집합입니다.

$f_j \in F_m$이 $f_j \to f$ (uniformly)이고 각 $f_j$의 witness가 $x_j$ — 즉 $|f_j(x_j) - f_j(y)| \le m|x_j - y|$ — 라 하자.

Bolzano–Weierstrass로 부분수열 $x_{j'} \to x$를 잡으면, 부등식을 극한으로 넘겨 $|f(x) - f(y)| \le m|x - y|$를 얻으므로 $f \in F_m$입니다.

[스케치] $F_m$은 nowhere dense입니다.

$f \in F_m$와 $\varepsilon > 0$가 주어지면, 먼저 $f$를 $\varepsilon/2$ 이내에서 piecewise-linear $p$로 근사하고(uniform continuity), 그 위에 진폭 $<\varepsilon/2$이면서 기울기가 $p$의 기울기보다 $m$ 이상 큰 미세한 톱니파(zigzag)를 얹습니다.

그러면 어떤 후보점 $x$에서도 근처의 톱니 하나가 $m$-Lipschitz bound를 깨뜨리므로, 섭동된 $g$는 $F_m$에 속하지 않으면서 $\|g - f\|_\infty < \varepsilon$입니다.

닫힌집합이므로 내부는 비어 있습니다.

어느 점에서든 미분 가능한 함수는 $\bigcup_m F_m$에 속합니다.

$f'(x_0)$이 존재하면, $|y - x_0| < \delta$에서는 $|f(y) - f(x_0)| \le m_1|y - x_0|$ ($m_1 \ge |f'(x_0)| + 1$)이고, $|y - x_0| \ge \delta$인 먼 점에서는 유계성으로 $|f(y) - f(x_0)| \le 2\|f\|_\infty \le \frac{2\|f\|_\infty}{\delta}|y - x_0|$입니다.

정수 $m \ge \max(m_1, 2\|f\|_\infty/\delta)$를 잡으면 모든 $y$에 대해 $|f(y) - f(x_0)| \le m|y - x_0|$ — 즉 $f \in F_m$입니다.

따라서 "어느 점에서든 미분 가능한 함수들" $\subseteq \bigcup_{m=1}^{\infty} F_m$은 nowhere dense 집합들의 가산합집합 — meagre입니다.

그 여집합인 "어디서도 미분 가능하지 않은 함수들"은 comeager이며, Baire 정리(문제 1)에 의해 비어 있지 않을 뿐 아니라 조밀합니다.

다시 강조합니다: 위의 closed/nowhere dense 검증은 아이디어 스케치이며, 완전한 증명은 여기서 다루지 않습니다.