现在考虑一列函数序列 \(f_n(x)\),以及其极限 \(f(x)=\lim_{n\to +\infty} f_n(x)\).
\(f_n(x)\) 的许多性质都无法直接推演到 \(f(x)\) 上,如:
- 连续性. 反例:\(f_n(x)=x^n\).
- 可积性. 反例:\(f_n(x)=\sqrt[n]{R(n)}\).
- \(lim\) 和 \(\int\) 的交换. 反例:\(f_n(x)=nx(1-x^2)^n\). \(f(x)=0\) 而 \(\int_0^1 f_n(x)dx=\frac{n}{2n+2}\).
- \(lim\) 和 \(\frac{d}{dx}\) 的交换. 反例:\(f_n(x)=\frac{\sin nx}{n}\). \(f(x)=0\) 而 \(f'_n(x)=\cos nx\).
我们发现罪魁祸首是其收敛步调不一致导致的. 于是引入一致收敛的概念:称 \(f_n(x)\) 一致收敛于 \(f(x)\),若 \(\forall \epsilon>0\),\(\exist N=N(\epsilon)\) 使得 \(n\ge N\) 时 \(\forall x\) 有 \(|f_n(x)-f(x)|<\epsilon\).
一致收敛的定义等价于 \(\sup |f_n(x)-f(x)| \to 0\).
当我们无法得知 \(f(x)\) 的时候,我们可以用 Cauchy 收敛准则:\(\forall \varepsilon\),\(\exist N=N(\varepsilon)\) 使 \(\forall n,m\ge N\),\(\sup |f_n(x)-f_m(x)|<\varepsilon\).
在 \(f_n(x)\) 一致收敛于 \(f(x)\) 的情况下,连续性,可积性,以及 \(\lim\) 与 \(\int\) 的交换都是可以可以证明的. 导数则是另一回事.
连续性. \(|f(x)-f(x_0)|\le |f(x)-f_n(x)|+|f_n(x)-f_n(x_0)|+|f_n(x_0)-f(x_0)|\),三者皆可被 \(N\) 控制.
可积性. 令 \(f_n(x)\) 不连续点集为 \(E_n\),并采用长度总和 \(<\frac{\varepsilon}{2^n}\) 的区间覆盖 \(E_n\),于是覆盖 \(\cup E_n\) 的区间长度总和 \(<\varepsilon\),故为零测集.
与 \(\int\) 的交换. \(\int f(x)dx-\int f_n(x)dx\le (b-a)(\sup |f(x)-f_n(x)|)\) 可以被 \(N\) 控制.
当然显然这点对于无穷积分不使用.
接下来更加细致地去看连续性和导数.
连续性
Dini 定理: \(f_n(x)\in C[a,b]\),且 \(\forall x\),\(f_n(x)\) 单调 \(\to f(x)\). 则 \(f(x)\in C[a,b]\) 等价于 \(f_n(x)\) 一致收敛. 注意此处一定是闭区间.
开区间的反例:\(f_n(x)=x^n\) 在 \((0,1)\) 上. 不单调的反例:\(f_n(x)\) 在 \(1/n\) 处有波峰.
证明:考虑对于每个单独的 \(x_0\) 求证小领域内一致收敛,然后用有限开覆盖定理得知区间上一致收敛.
对于 \(x_0\),存在 \(N\) 使得 \(|f(x_0)-f_N(x_0)|<\varepsilon\),而又因连续性知存在小领域使得 \(|f(x)-f(x_0)|\),\(|f_N(x)-f_N(x_0)|<\varepsilon\). 所以小领域内 \(f(x)-f_N(x)<\epsilon\)。而又因为单调性得知 \(\forall n\ge N\),\(|f_n(x)-f(x)|<|f_N(x)-f(x)|<\epsilon\). 所以一致收敛.
Dini 定理可以用来证明 Visser 引理: 存在多项式序列 \(P_n(x)\) 使得 \(P_n(x)\) 在 \([-1,1]\) 上一致逼近于 \(|x|\).
证明:取序列 \(a_{n+1}(x)=a_n(x)+\frac{1}{2}(x^2-a_n(x)^2)\).
可以归纳证明 \(a_{n}(x)\le |x|\). 然后可以知 \(a_n(x)\) 单调,故极限存在且单调收敛. 应用 Dini 定理知一致逼近.
这个可以用来证明 Weierstrass 第一逼近定理:任意闭区间上连续函数 \(f(x)\),存在多项式序列一致逼近于 \(f(x)\).
证明:由于 \(f(x)\) 一致连续,所以存在 \(n\) 段的折线函数 \(g(x)\) 使得 \(|g(x)-f(x)|\le \varepsilon\).
取 \(H(x)\) 为 ReLU 函数,则 \(g(x)=g(0)+\sum c_kH(x-x_k)\),其中 \(c_k\) 为两端折线斜率差.
然后再应用 Visser 引理,将 \(H(x-x_k)\) 用多项式逼近即可.
导数
上面没有讲求导可交换的条件. 实际上求导可交换需要导数一致收敛且本身收敛.
如果导函数不一致逼近则和积分的反例一样. 而如果本身不收敛则取 \(f_n(x)=n\) 即为反例.
证明:\(f'_n(x)\) 一致收敛于 \(\phi(x)\).
令 \(\Phi_n(x)=\begin{cases}\frac{f_n(x)-f_n(x_0)}{x-x_0} & x\neq x_0 \\ f'_n(x_0) & x=x_0\end{cases}\). 那么由条件知,\(\Phi(x)=\begin{cases}\frac{f(x)-f(x_0)}{x-x_0} & x\neq x_0 \\ \phi(x_0) & x=x_0\end{cases}\).
\(\Phi_n(x)\) 显然在 \(x_0\) 处连续. 并且我们要证明 \(f'_n(x)\) 一致收敛于 \(\phi(x)\),其实相当于就是要证明 \(\Phi(x)\) 也连续.
所以现在需要目标是证明 \(\Phi\) 一致收敛即可.
使用 Cauchy 准则. \(\Phi_m(x)-\Phi_n(x)=\frac{1}{x-x_0}(f_m(x)-f_m(x_0)-f_n(x)+f_n(x_0))\). 令 \(g=f_m-f_n\),则相当于 \(\frac{1}{x-x_0}(g(x)-g(x_0))=g'(\xi)=f'_m(\xi)-f'_n(\xi)\). 而由于 \(f'\) 一致收敛,所以后者可以被 \(N\) 控制.
这个证明同时可以告诉我们 \(f\) 本身也是一致收敛的,因为两侧都乘上 \(|x-x_0|\) 则知 \(g(x)-g(x_0)\) 被 \(N\) 控制. 再加上 \(x_0\) 收敛所以 \(g(x_0)\) 可以被控制,故 \(g(x)\) 也可以被控制.
实际上条件可以弱化为存在 \(x_0\) 使得 \(f(x_0)\) 收敛,而不需要所有都收敛.
证明:可以直接证明其余点一定收敛.
\(f_m(x)-f_n(x)\le |f_m(x_0)-f_n(x_0)|+|g_m(x)-g_n(x)|\). 前一项可被 \(N\) 控制,后一项如上述证明,也可被 \(N\) 控制,所以其余点都收敛. 并且若 \(b-a<+\infty\) 也可推出一致收敛.
实际上导数和连续性的条件都只与单点的小领域相关,所以条件可以削弱称在 \((a,b)\) 上内闭一致收敛(即对所有 \((a,b)\) 内的闭区间一致收敛即可).