§16 関数の積分 II

§13 以降、微分、積分、微分ときて今回は再び積分が中心です。多くの初等関数の積分は、§15 の定理 2, 3 を用いる事で、まさしく「微分の逆演算」として計算する事が出来ますが、積分に関するそれ以外の重要な道具として更に部分積分や置換積分といった公式があります。これらを使って様々な関数の具体的な積分計算が可能となりますが、それだけでなく部分積分公式はまた「(滑らかな) 関数を『多項式の無限和』の形に展開する」という所謂 Taylor 展開への橋渡しの役割も担っています。今回は、微分積分の基本定理や部分積分公式を用いて、滑らかな関数を「多項式 + 誤差項 (剰余項)」の形で表現する Taylor の定理に迫っていきたいと思います。

寄り道: §15 命題 6 の証明

いきなり寄り道からのスタートとなりますが、まずは前回やり残した最急降下法アルゴリズムの収束性についてここで証明を与えます。あくまで寄り道なので全てを理解して次に進まなければならないわけではなく、読み飛ばしていただいても構いません。

任意の $x, y\in \mathbb {R}$ に対して微分積分学の基本定理から $$f(y) - f(x) = \int ^y_xf'(z)dz \tag {1}$$ が得られますが、$f\in C^2(\mathbb {R})$ ゆえ $f'\in C^1(\mathbb {R})$ である点に着目して更に微分積分学の基本定理を適用すると $$f'(z) - f'(x) = \int ^z_xf''(w)dw, \ \ z\in \mathbb {R}$$ となるので、これを (1) の右辺に代入すると $$\begin{align*} f(y) - f(x) &= \int ^y_x\left(f'(x) + \int ^z_xf''(w)dw\right)dz\\ &= f'(x)(y - x) + \int ^y_x\int ^z_xf''(w)dwdz \tag {2} \end{align*}$$ となります。積分の記号が二つ並んだ項が登場しますが、これは $$z\longmapsto \int ^z_xf''(w)dw \tag {3}$$ という連続関数を $[x, y]$ 上で (あるいは $[y, x]$ 上で) Riemann 積分したものに他なりません。

ここで、仮定から $M := \sup _{\mathbb {R}}f'' < \infty$ であり、また §15 の定理 4 の系より $f''$ は非負関数です。すると、$x < y$ である時、§14 の命題 4 の系を使って $$\begin{align*} \int ^y_x\int ^z_xf''(w)dwdz &\leq \int ^y_x\int ^z_xMdwdz\\ &= M\int ^y_x\int ^z_xdwdz\\ &= M\int ^y_x(z-x)dz\\ &\leq M\int ^y_x(y-x)dz = M(y-x)^2 \end{align*}$$ となり、よって $$\left| \int ^y_x\int ^z_xf''(w)dwdz \right| \leq M|y-x|^2 \tag {4}$$ という式が得られます。この (4) は $x \geq y$ の時にも成り立ちます (確認してみて下さい)。(2) と (4) を合わせると $$|f(y) - f(x) - f'(x)(y-x)| \leq M|y-x|^2 \tag {5}$$ が任意の $x, y\in \mathbb {R}$ で成り立つ事が分かります。

さて、$x_1\in \mathbb {R}$ を適当に与えて $$x_{n+1} = x_n - \alpha f'(x_n) \tag {6}$$ によって $x_n$ を更新していく事を考えます。(5) から特に $$\begin{align*} f(x_{n+1}) - f(x_n) - f'(x_n)(x_{n+1} - x_n) \leq M(x_{n+1} - x_n)^2 \end{align*}$$ である事に注意して、(6) と合わせて $$\begin{align*} &f(x_{n+1}) - f(x_n) + \alpha f'(x_n)^2\\ &= f(x_{n+1}) - f(x_n) - f'(x_n)(x_{n+1} - x_n)\\ &\leq M(x_{n+1} - x_n)^2 = \alpha ^2Mf'(x_n)^2 \end{align*}$$ 即ち $$f(x_{n+1}) - f(x_n) \leq -\alpha \left( 1 - \alpha M\right)f'(x_n)^2$$ が得られます。そこで $\alpha$ を $0 < \alpha < 1/M$ と取っておけば $\beta := \alpha (1 - \alpha M) > 0$ となり¹、よって $$f(x_{n+1}) - f(x_n) \leq -\beta f'(x_n)^2 \leq 0 \tag {7}$$ 即ち $(f(x_n))_n$ は単調非増大列である事が分かりました。なおこの関係式は、勾配法の理論における Armijo 規準と呼ばれているものに対応しています。

次に、$f$ の強圧性条件 $\lim _{x\rightarrow \pm \infty }f(x) = \infty$ から、$(x_n)_n$ は有界である事が分かります。何故ならば、もし $(x_n)_n$ が非有界であるならば、部分列 $(x_{n_k})_k$ であって $\lim _{k\rightarrow \infty}|x_{n_k}| = \infty$ となるものが存在する事になりますが (何故でしょうか？)、強圧性より $\lim _{k\rightarrow \infty }f(x_{n_k}) = \infty$ であり、そうすると $(f(x_{n_k}))_k$ が単調非増大列となる ($(f(x_n))_n$ が単調非増大なのだからその部分列も同様) 事と辻褄が合わなくなるからです。すると、§7 の命題 3 から $(x_n)_n$ (またはその任意の部分列) は収束部分列 $(x_{n'_k})_k$ を持つ事が分かるので、その極限を $x^*$ と表す事にします。

ところで、(7) の左側の不等式から $$\begin{align*} \beta \sum ^{n'_k-1}_{i=1}f'(x_i)^2 \leq \sum ^{n'_k-1}_{i=1}(f(x_i) - f(x_{i+1})) = f(x_1) - f(x_{n'_k}) \tag {8} \end{align*}$$ が得られ、$k\rightarrow \infty$ とすれば、$f$ の連続性から右辺は有限値 $f(x_1) - f(x^*)$ に収束しています。ここから $\lim _{n\rightarrow \infty}f'(x_n) = 0$ である事が得られます。実際、$S_n = \sum ^n_{i=1}f'(x_i)^2$ と置くと $(S_n)_n$ は単調非減少な数列となり、(8) から $(S_{n'_k-1})_k$ は上に有界ですが、これはまた $(S_n)_n$ の有界性も示しているので、$(S_n)_n$ は収束列となり、その極限を $S$ と書く事にすれば $$f'(x_n)^2 = S_n - S_{n-1} \longrightarrow S - S = 0, \ \ n\rightarrow \infty$$ です (詳しくは次回、級数を扱う時に解説します)。一方、$f'$ の連続性より $\lim _{k\rightarrow \infty}f'(x_{n'_k}) = f(x^*)$ なので、これらを合わせて $f'(x^*) = 0$ である事が分かります。よって §15 の定理 4 の系から、$f(x^*)$ は $f$ の最小値 $\min _{\mathbb {R}}f$ と一致し、$f$ の狭義凸性からそのような $x^*$ は唯一つに定まります。よって、この $x^*$ は部分列の取り方によらず、§6 の命題 4 から結局 $\lim _{n\rightarrow \infty}x_n = x^*$ であり、$f(x_n)$ が $n\rightarrow \infty$ の下で $\min _{\mathbb {R}}f$ に収束する事も分かりました。

という事で、これまで示してきた様々な定理や命題を組み合わせる事で、少々複雑ではありましたが証明を与える事が出来ました。このような最適化アルゴリズムは、実際には一変数でなく大規模な多変数関数に対してこそ威力を発揮するものかもしれませんが、今の時点では問題のエッセンスとなる部分について一変数関数のある程度簡単な場合に確認するのに留めておきます。

Taylor の定理 I

上の証明では、適当な $\alpha > 0$ を取って $(f(x_n))_n$ を単調非増大と出来る、即ち「(6) による学習を繰り返すと目的関数の値をどんどん小さくしていける」事がポイントとなっています。そして、$f(x_{n+1}) \leq f(x_n)$ という関係式を示すために、微分積分学の基本定理を二回繰り返して適用して得られた (2) を用いました。

もし $x_n$ と $x_{n+1}$ の差が十分小さいならば、微分積分学の基本定理から $$f(x_{n+1}) - f(x_n) = \int ^{x_{n+1}}_{x_n}f'(y)dy \approx \int ^{x_{n+1}}_{x_n}f'(x_n)dy = f'(x_n)(x_{n+1} - x_n)$$ という近似式が得られそうです。これと (6) を合わせれば $$f(x_{n+1}) - f(x_n) \approx f'(x_n)\cdot (-\alpha f'(x_n)) = -\alpha f'(x_n)^2 \leq 0 \tag {9}$$ となって、ほぼ $f(x_{n+1}) \leq f(x_n)$ となりそうだ、という印象があります。しかしこれはあくまで近似式であって、実際にこれらの式が正しく成り立つわけではなく、ここで誤魔化されている「ずれ」は (2) の右辺の最後の項に相当する $$\int ^{x_{n+1}}_{x_n}\int ^z_{x_n}f''(w)dwdz \tag {10}$$ の部分に現れる事となります。上で与えた §15 の命題 6 の証明では、二階導関数 $f''$ の有界性を利用して、$\alpha$ を小さく取る事で、(10) が表す「ずれ」が (7) あるいは (9) の不等式の成立に影響を与えないように制御出来る、という事を利用しています。

ところで、もし $f$ が $C^3$-級であるならば、(2) において更に $f''$ に対して微分積分学の基本定理を適用して $$f''(w) - f''(x) = \int ^w_xf'''(t)dt, \ \ w\in \mathbb {R}$$ が得られるので、これを (2) に代入して §14 の命題 2 を適用すれば $$\begin{align*} f(y) =& f(x) + f'(x)(y-x) + f''(x)\int ^y_x\int ^z_xdwdz\\& + \int ^y_x\int ^z_x\int ^w_xf'''(t)dtdwdz\\ =& f(x) + f'(x)(y-x) + \frac{1}{2}f''(x)(y-x)^2\\& + \int ^y_x\int ^z_x\int ^w_xf'''(t)dtdwdz \tag {11} \end{align*}$$ が得られます。ここで $$\begin{align*} \int ^y_x\int ^z_xdwdz &= \int ^y_x(z-x)dz\\ &= \int ^y_x\frac{d}{dz}\left(\frac{1}{2}(z-x)\right)^2dz\\ &= \frac{1}{2}(y-x)^2 - \frac{1}{2}(x-x)^2 = \frac{1}{2}(y-x)^2 \end{align*}$$ と計算出来る事に注意します。逆にこの点に留意して (2) を変形すれば $$\begin{align*} f(y)=& f(x) + f'(x)(y - x) + \frac{1}{2}f''(x)(y-x)^2\\ &+ \int ^y_x\int ^z_x(f''(w) - f''(x))dwdz \tag {12} \end{align*}$$ と表す事も出来ます。

もし $f$ が更に $C^4$-級であったならば、$f'''$ に更に微分積分学の基本定理を適用する事で $$\begin{align*} f(y) =& f(x) + f'(x)(y-x) + \frac{1}{2}f''(x)(y-x)^2\\ & + \int ^y_x\int ^z_x\int ^w_x\left\{f'''(x) + \int ^t_xf^{(4)}(s)ds\right\}dtdwdz\\ =& f(x) + f'(x)(y-x)\\ &+ \frac{1}{2}f''(x)(y-x)^2 + \frac{1}{6}f'''(x)(y-x)^3\\& + \int ^y_x\int ^z_x\int ^w_x\int ^t_xf^{(4)}(s)dsdtdwdz \end{align*}$$ が得られます。やはり $$\begin{align*} \int ^y_x\int ^z_x\int ^w_xdtdwdz &= \int ^y_x\frac{1}{2}(z-x)^2dz\\ &= \frac{1}{2}\left\{ \frac{1}{3}(y-x)^3 - \frac{1}{3}(x-x)^3\right\}\\ &= \frac{1}{6}(y-x)^3 \tag {13} \end{align*}$$ となる事に注意しましょう。また (12) と同様に、(11) と (13) を組み合わせて $$\begin{align*} f(y) =& f(x) + f'(x)(y-x)\\ & + \frac{1}{2}f''(x)(y-x)^2 + \frac{1}{6}f'''(x)(y-x)^3\\ & + \int ^y_x\int ^z_x\int ^w_x(f'''(t) - f'''(x))dtdwdz \end{align*}$$ という等式を得る事も出来ます。

同じ事を繰り返し行えば次の定理が得られる事は想像に難くないでしょう。証明は、難しくはありませんが少々ややこしいので補遺に回します。なお、一般の $n$ に対してステートメントを述べる上で、積分に用いる変数を表す記号として有限個しか存在しないアルファベットだけでは足りないので、以下では上の $z, w, t, \ldots$ の代わりに $x_1, x_2, x_3, \ldots$ といった、添字付きの記号を使用します (所与の数列 $(x_n)_n$ という意味ではありません)。

(10) は、$x_0$ と $x$ が近い値の時に $f(x)$ が $x$ に関する多項式で近似出来る事を意味しています。このように、滑らかな関数について、その微分係数を用いて多項式の形で近似するタイプの定理を Taylor の定理と呼びます。また $R^1_n(x ; x_0)$ に相当する部分は剰余項 (remainder) と呼ばれます。

簡単のため、まずは $x_0 = 0$ の場合を考えてみます。この場合、(10) は $$f(x) = f(0) + f'(0)x + \cdots + \frac{1}{n!}f^{(n)}(0)x^n + R^1_n(x ; 0)$$ となりますが、もし $x \approx 0$ であるならば (12) より $R^1_n(x ; 0)$ は $0$ に近い値になるので² $$f(x) \approx f(0) + f'(0)x + \cdots + \frac{1}{n!}f^{(n)}(0)x^n =: f_n(x)\tag {13}$$ と表せる事が分かります。また、($0$ に近い、特に絶対値が $1$ よりも小さい) $x$ を固定する時、$|x|^n$ は $n$ が大きくなる程小さな値となるので、多項式近似の誤差項となる $R^1_n(x; 0)$の絶対値も概ね $n$ が大きくなる程小さな値になります。即ち、(13) の近似式は $n$ が大きくなる程良い精度を与えていると言えます。例として、$f(x) = \cosh x$ とした時の、$f_n$ による $f$ の近似精度を調べてみます。$\cosh ^{(n)}0$ は $n$ が奇数の時に $0$ となり近似項が機能しなくなるので、ここでは $n=2, 4, 6$ の場合に $y = f_n(x)$ のグラフを図示して $y = f(x)$ のものと視覚的に比較してみます。

この図を見ると、確かに $n$ を大きくすればする程、$f_n(x)$ の値が $f(x)$ に近付いている様子が分かります。一方、$f(x) = \tanh x$ に対して同様の計算を $n = 2, 5, 10$ の場合に行ったものが以下の図となります。

この場合、$x$ が十分 $0$ に近い場合にはいずれの場合にも $f_n(x)$ は $f(x)$ を良く近似出来ているようですが、$|x|$ がある程度大きくなると、両者のグラフは大きく乖離してしまいます。例えば $n=10$ の場合、$|x| < 1$ であれば $f_n(x)$ は $f(x)$ に近接しているものの、$|x| > 1.5$ の時には $n=2, 5$ の場合と比べて寧ろ乖離が大きくなっている様子が見て取れます。実際、縦軸方向の表示範囲をもう少し広くしてみると下図のようになっています。

なお、$x$ を固定した時の $R^1_n(x ; 0)$ の絶対値 (言い換えると (13) の近似誤差) の推移を調べてみると、下図の通り、$x=1$ の時は $n$ を大きくするにつれて誤差の値が小さくなっていくのに対して、$x=2$ の時には寧ろ誤差が拡大してしまっています。つまり、$|x|$ がある程度大きい場合には、$\tanh$ に対する Taylor の定理は、多項式近似としては機能していません。

何故このような現象が生じるのか、また更に $n\rightarrow \infty$ の極限を取るとどうなるのか…等色々と気になりますが、これらの話題については次回以降、もう少し準備をしてから扱う事にして、今回は有限の $n$ に対して (12) の意味での収束性を考えるだけにします。$R^1_n(x ; x_0)$ は何回も積分を繰り返さなければならない煩雑な形となっていますが、以下では少し異なるアプローチを取り入れる事でもう少し簡便な表現を導いてみたいと思います。

部分積分

開区間 $I$ 上で定義された微分可能な実数値関数 $g, h$ に対して、以下の公式 $$(gh)'(x) = g'(x)h(x) + g(x)h'(x), \ \ x\in I$$ が成り立つ事を以前見ました (§13 の命題 1)。この両辺を適当な $[a, b]\subset I$ 上で積分し、左辺に微分積分学の基本定理を適用すると $$g(b)h(b) - g(a)h(a) = \int ^b_ag'(x)h(x)dx + \int ^b_ag(x)h'(x)dx$$ という式を得る事が出来ます。ここで $h'$ を改めて一般の連続関数 $f$ だと思って、$h$ の代わりに $f$ の原始関数 $F$ を当てはめれば、上式を少し変形して $$\int ^b_af(x)g(x)dx = [F(x)g(x)]^{x=b}_{x=a} - \int ^b_aF(x)g'(x)dx \tag {14}$$ という関係式が得られます。但し $[\varphi (x)]^{x=b}_{x=a}$ は $\varphi (b) - \varphi (a)$ を表す記号とします。命題の形で整理すると以下のようになります。

なお不定積分は原始関数の一つである事から、(14) を以下のように表す事も出来ます ($c$ は $[a, b]$ に含まれる適当な点)。但し、また「積分の中に積分」となってしまいますが。 $$\int ^b_af(x)g(x)dx = \left[\int ^x_cf(y)dyg(x)\right]^{x=b}_{x=a} - \int ^b_a\int ^x_cf(y)dyg'(x)dx$$

命題 1 を使うと、初等関数に対する様々な積分計算を実行する事が出来ます。例えば $\log x$ の不定積分は自明ではありませんが、やや天下り的ながら適当な $x, x_0 > 0$ に対して $$\int ^x_{x_0}\log ydy = \int ^x_{x_0}1\cdot \log ydy = \int ^x_{x_0}(y)'\cdot \log ydy$$ とみなしてやる、即ち (14) において $F(y) = y$ ($f(y) = 1$)$,$ $g(y) = \log y$ とする事で $$\begin{align*} \int ^x_{x_0}\log ydy &= \left[ y\log y\right]^{y=x}_{y=x_0} - \int ^x_{x_0}y\cdot \frac{1}{y}dy\\ &= x\log x - x_0\log x_0 - (x - x_0) \end{align*}$$ と計算出来ます (即ち $\log x$ の不定積分は $x\log x - x + (\mbox {定数})$)。

もう一つ、具体例を扱ってみます。$(e^x)' = e^x$ である事を利用して、部分積分公式より $a, b\in \mathbb {R}$ に対して $$\begin{align*} \int ^b_axe^xdx &= \int ^b_ax(e^x)'dx\\ &= \left[ xe^x\right]^{x=b}_{x=a} - \int ^b_ae^xdx\\ &= be^b - ae^a - (e^b - e^a)\\ &= (b-1)e^b - (a-1)e^a \end{align*}$$ となります。同様にして、一般の $n\in \mathbb {N}$ に対して $x^ne^x$ の積分を具体的に計算出来ます ($n$ が大きくなると計算がやや煩雑になりますが、良い練習になるのでやってみて下さい)。

部分積分は具体的な積分計算において有用な道具であるだけでなく、解析学の一般論においても重要な役割を担っています。例えば、通常の意味では微分出来ない関数をある意味で無理矢理微分するために、部分積分公式が使われる事があります (弱微分または超関数微分と呼ばれます)。また、これまでも何度か触れている通り、部分積分公式を用いる事で、定理 1 における誤差項 (11) のもう少し簡単な表現を得る事も出来ます。

Taylor の定理 II

定理 1 における誤差項 (11) は、$f$ の $n$ 階導関数に対して $n$ 回の積分を繰り返す、というやや面倒な形をしていました。ここでもう一度、定理 1 の導出のために行っていた発見的な考察を振り返ってみます。

$f$ を滑らかな関数とする時、まず微分積分学の基本定理から $$f(x) = f(x_0) + \int ^x_{x_0}f'(y)dy$$ が得られます。上では右辺の被積分関数 $f'(y)$ に対して更に微分積分学の基本定理を適用したのですが、ここではその代わりに、この積分に部分積分公式を適用してみます。$\log x$ の不定積分の計算をした時と同様に、$f'(y)$ の前に隠れている $1$ を「ある関数の導関数」とみなすのですが、その際に ($x$ を定数とみなして) $$\frac{d}{dy}(y-x) = 1$$ である事に着目すると $$\begin{align*} \int ^x_{x_0}f'(y)dy &= \left[ (y-x)f'(y)\right]^{y=x}_{y=x_0} - \int ^x_{x_0}(y-x)f''(y)dy\\ &= f'(x_0)(x-x_0) + \int ^x_{x_0}(x-y)f''(y)dy \end{align*}$$ が得られるので、ここから $$f(x) = f(x_0) + f'(x_0)(x - x_0) + \int ^x_{x_0}(x-y)f''(y)dy$$ が従います。以下同様にして、やはり部分積分公式を適用して $$\begin{align*} &\int ^x_{x_0}(x-y)f''(y)dy\\ &= \int ^x_{x_0}\left(\frac{d}{dy}\left\{ -\frac{1}{2}(x-y)^2\right\}\right)f''(y)dy\\ &= -\frac{1}{2}\left[ (x-y)^2f''(y)\right]^{y=x}_{y=x_0} + \frac{1}{2}\int ^x_{x_0}(x-y)^2f'''(y)dy\\ &= \frac{1}{2}f''(x_0)(x-x_0)^2 + \frac{1}{2}\int ^x_{x_0}(x-y)^2f'''(y)dy \end{align*}$$ となるので $$\begin{align*} f(x) =& f(x_0) + f'(x_0)(x - x_0)\\ &+ \frac{1}{2}f''(x_0)(x-x_0)^2 + \frac{1}{2}\int ^x_{x_0}(x-y)^2f'''(y)dy \end{align*}$$ が得られました。同様に繰り返すと以下の定理が示せます。

あえて定理 1 と対比する形で定理の主張を述べていますが、一言で言ってしまえば「$R^1_n(x ; x_0) = R^2_n(x ; x_0)$ が成立する」という事です。但し、微分可能性に関する仮定が若干異なっている点には注意しましょう。また、定理 2 を示すのなら直接、(11) の積分を変形して $R^2_n(x ; x_0)$ に一致する事を見れば良さそうですが、そのためには「積分の順序交換」が必要であり、現時点では準備が足りないため、ここでは数学的帰納法によって (15) を導き直す事を考えます。

定理 2 の証明. (15) を $n\in \mathbb {Z}_+$ に関する数学的帰納法で示す。$n=0$ の時は微分積分学の基本定理そのものである。後は $n$ について (15) が成立する時、($f$ を $C^{n+2}$-級として) (15) の $n$ を $n+1$ に置き換えた式も成り立つ事を示せば良いが、それは部分積分公式によって得られる関係式 $$\begin{align*} R^2_n(x ; x_0) =& \frac{1}{n!}\int ^x_{x_0}\left(\frac{d}{dy}\left\{ -\frac{1}{n+1}(x-y)^{n+1}\right\} \right)f^{(n+1)}(y)dy\\ =& -\frac{1}{(n+1)!}\left[ (x-y)^{n+1}f^{(n+1)}(y)\right]^{y=x}_{y=x_0}\\ &+ \frac{1}{(n+1)!}\int ^x_{x_0}(x-y)^{n+1}f^{(n+2)}(y)dy\\ =& \frac{1}{(n+1)!}f^{(n+1)}(x_0)(x-x_0)^{n+1} + R^2_{n+1}(x ; x_0) \end{align*}$$ と ($n$ の時の) (15) から明らか。

以上から $R^1_n(x ; x_0) = R^2_n(x ; x_0)$ が成り立つ事に注意すれば (16) は定理 1 の帰結に過ぎないが、直接証明するのであれば、$J\subset I$ を $x, x_0\in J$ なる有界閉区間として、$f^{(n+1)}$ が連続ゆえ $J$ 上で有界である事に注意して $$\begin{align*} |R^2_n(x ; x_0)| &\leq \frac{1}{n!}\int ^x_{x_0}|x - x_0|^n\sup _{J}|f^{(n+1)}|dy\\ &\leq \frac{1}{n!}\sup _J|f^{(n+1)}|\cdot |x - x_0|^{n+1} \end{align*}$$ となる事を使えば良い⁶。

Taylor の定理 III

これまで、微分積分学の基本定理を繰り返し適用する事によって 2 通りの Taylor の定理の表現を見てきました。しかし、実は Taylor の定理は積分を使わなくとも、微分の性質だけを使って導く事が出来ます。多くの文献では寧ろ以下の形で定理の主張が述べられています⁷。

定理 1, 2 と異なり、定理 3 における剰余項 (誤差項) $R^3_n(x ; x_0, \xi )$ はすっきりとした形をしています。但し、$\xi$ はただ「$x_0$ と $x$ の間にある数」という事しか分かっておらず、$\xi$ の具体的な表現を得る事は出来ません⁸。また定理 3 では、$f^{(n+1)}$ の存在が仮定されていますが、定理 2 と違ってその連続性までは必要とされていません。

どのタイプの Taylor の定理が使いやすいかはシチュエーションによって異なりますが、今後確率論や確率過程論の学習に進んでいく上では、ある理由から定理 3 よりも定理 2 の方が有益となる場面が多いと思われるため、ここでは寧ろ積分形の剰余項を持つ Taylor の定理として定理 1, 2 を主に扱いました⁹。

まとめ

微分積分学の基本定理や部分積分公式等を利用して、滑らかな関数に対して多項式近似を与える Taylor の定理を示しました。この定理によれば、滑らかな関数 $f$ について、$x\approx x_0$ の時に十分大きな $n$ に対して $$f(x) \approx \sum ^n_{k=0}\frac{1}{k!}f^{(k)}(x_0)(x-x_0)^k$$ という形で近似出来る事になります。上でも少し触れたように、そうなると「では $n\rightarrow \infty$ とした時にどうなるのか？近似式ではなく、両辺は数学的に一致するのではないか？」という点が気になってきます。結論から言うと、$n$ を無限大に飛ばす事で、剰余項が $0$ に収束する場合には $$f(x) = \sum ^\infty_{k=0}\frac{1}{k!}f^{(k)}(x_0)(x-x_0)^k \tag {17}$$ という等式を得る事が出来、これを $f(x)$ の Taylor 展開 (Taylor expansion) と呼びます。但し、$f$ が滑らかならばいつでも (17) が成り立つというわけではありません。たとえ $f$ が無限回微分可能であっても、特定の範囲の $x$ でしか (17) が成り立たなかったり、あるいは (ほぼ) どんな $x$ に対しても (17) が成り立たなかったりする場合があります。

(17) の右辺のように、数列あるいは関数の無限和の事を級数 (series) と呼びます。ここでも触れているように、級数自体もまた数列の極限に過ぎず、これまで扱ってきた議論から逸脱するものではありませんが、一方で級数ならではの話題も多く存在しており注意が必要です。例えば、ここでは「級数を足し上げる順番を変えると収束先の値が変化する (それも、収束先を任意の値に出来るような並べ替えが常に出来る)」という例が紹介されていますが、逆に「足し上げる順番を変えても値が変化しないような級数」のための条件というものもも知られています。

Taylor の定理から Taylor 展開に進む前に、次回は一旦数列の話題に戻って級数の性質について紹介したいと思います。今回扱えなかった置換積分 (変数変換) ももう少し後で登場します。

補遺: 定理 1 の証明

最後に定理 1 の証明をまとめておきます。

定理 1 の証明. まず (10) が任意の $n\in \mathbb {N}$ で成り立つ事を数学的帰納法によって示す。$n=1$ の時は微分積分学の基本定理によって容易に示せる (各自)。またある $n$ に対して (10) が成立している時、($f$ を $C^{n+1}$-級として) $f^{(n)}$ に対して微分積分学の基本定理を適用する事で $$\begin{align*} &f^{(n)}(x_n) - f^{(n)}(x_0)\\ &= \int ^{x_n}_{x_0}f^{(n+1)}(x_{n+1})dx_{n+1}\\ &= \int ^{x_n}_{x_0}\{ f^{(n+1)}(x_{n+1}) - f^{(n+1)}(x_0) + f^{(n+1)}(x_0)\} dx_{n+1}\\ &= f^{(n+1)}(x_0)(x_n - x_0)\\ &\hspace {5mm} + \int ^{x_n}_{x_0}(f^{(n+1)}(x_{n+1})-f^{(n+1)}(x_0))dx_{n+1} \tag {18} \end{align*}$$ が得られる。右辺第一項について、$x_n$ について積分すると $$\int ^{x_{n-1}}_{x_0}f^{(n+1)}(x_0)(x_n - x_0)dx_n = \frac{1}{2}f^{(n+1)}(x_0)(x_{n-1} - x_0)^2$$ となり、更に $x_{n-1}$ について積分すると $$\int ^{x_{n-2}}_{x_0}\frac{1}{2}f^{(n+1)}(x_0)(x_{n-1} - x_0)^2dx_{n-1} = \frac{1}{6}f^{(n+1)}(x_0)(x_{n-2} - x_0)^3$$ が得られる。以下帰納的に繰り返す事で $$\begin{align*} &\int ^x_{x_0}\int ^{x_1}_{x_0}\cdots \int ^{x_{n-1}}_{x_0}f^{(n+1)}(x_0)(x_n - x_0)dx_n\cdots dx_2dx_1\\ &= \frac{1}{(n+1)!}f^{(n+1)}(x_0)(x-x_0)^{n+1} \end{align*}$$ を得る。また (18) の右辺第二項について同様に $\int ^x_{x_0}\cdots \int ^{x_{n-1}}_{x_0}dx_n\cdots dx_1$ を取ったものは $R^1_{n+1}(x ; x_0)$ に一致している。以上から $$R^1_n(x ; x_0) = \frac{1}{(n+1)!}f^{(n+1)}(x_0)(x-x_0)^{n+1} + R^1_{n+1}(x ; x_0)$$ となる事が分かるので、これを (10) に代入する事で、$n$ を $n+1$ に置き換えた時にも (10) が成立する事が示された。

最後に (12) を示す。$J$ を、$x_0\in J$ 及び $J\subset I$ を満たす (長さが正の) 有界閉区間とし、任意の $x\in J$ を取り $\delta = |x - x_0|$ と置く。また簡単のため、以下しばらく $x\geq x_0$ と仮定する。まず任意の $x_{n-1}\in [x_0, x]$ に対して、積分の三角不等式より $$\begin{align*} &\left| \int ^{x_{n-1}}_{x_0}(f^{(n)}(x_n) - f^{(n)}(x_0))dx_n\right|\\ &\leq \int ^{x_{n-1}}_{x_0}|f^{(n)}(x_n) - f^{(n)}(x_0)|dx_n\\ &\leq w_{f^{(n)}}(\delta ; x_0)\int ^{x_{n-1}}_{x_0}dx_n\\ &\leq \delta w_{f^{(n)}}(\delta ; x_0) \end{align*}$$ が成り立つ。再び積分の三角不等式を使って、任意の $x_{n-2}\in [x_0, x]$ に対して $$\begin{align*} &\left| \int ^{x_{n-2}}_{x_0}\int ^{x_{n-1}}_{x_0}(f^{(n)}(x_n) - f^{(n)}(x_0))dx_ndx_{n-1}\right|\\ &\leq \int ^{x_{n-2}}_{x_0}\delta w_{f^{(n)}}(\delta ; x_0)dx_{n-1}\\ &\leq \delta ^2w_{f^{(n)}}(\delta ; x_0) \end{align*}$$ を得る。同様にして $$\begin{align*} |R^1_n(x ; x_0)|&\leq \int ^x_{x_0}\delta ^{n-1}w_{f^{(n)}}(\delta ; x_0)dx_1\\ &\leq \delta ^nw_{f^{(n)}}(\delta ; x_0) \end{align*}$$ が得られる。なおこの不等式は $x < x_0$ の時も成立する事が分かる。これと §14 の補題 1 から $$\left| \frac{R^1_n(x ; x_0)}{(x-x_0)^n}\right| \leq w_{f^{(n)}}(|x-x_0|; x_0) \ \longrightarrow \ 0, \ \ x\rightarrow x_0$$ が示された。