初等解析学 (微分積分学) 入門 §13

2018/12/29
@tk

§13 関数の微分 I

今回からいよいよ関数の微分に進んでいきたいと思います。と言っても、微分とはある関数の極限値で定義されるものなので、これまで扱ってきた関数の極限 (あるいは数列の極限) を使えば特別新たな概念が登場するというわけでもありません。しかしながら、関数の微分を導入すると、関数の持つ性質をより詳しく調べる事が出来るようになり、また物理学やファイナンスその他多くの分野への応用の幅も大きく広がります。

 

微分の定義

上で定義された実数値関数 を考えます。説明の都合上、当面の間は は開区間であると考えて下さい。この時、点 における関数 の微分について以下の定義を与えます。

 定義. 関数 において極限値 を持つ時、 において微分可能である (differentiable) と言い、(1) の極限値を における 微分係数 (derivative) と呼んで あるいは と表す。

まず最初の注意として、 を固定した時に以下で定義される関数 において定義されていません。§1 でも一言触れましたが、(1) が考えているのは の「 とした時の極限」であって、 の値自身は関係ないどころか (定義されていないので) 考える事が出来ません。そのため、もし (1) の極限値が である事をイプシロン・デルタ論法で書くならば、 あるいは のように である点について注意しておかなければなりません1

次に、上で定義される は、-平面上で考えるならば以下の 2 点 を結ぶ直線の傾きに対応しており、この時もし に限りなく近付けていけば、その傾き は「 のグラフの における接線の傾き」に近付いていくと考えられます (下図参照)。これが (一階) 微分の直観的なイメージであり、よって「関数を微分する」とは「傾きを調べる」事を意味していると言えます。

更に、微分可能な関数はその点で連続でもある事に注意しておきます。実際、 で微分可能であるならば、やはり上の記号 を使って が得られます (, が共に の下で収束しているので、§9 に登場した関数の加減乗除の極限に関する命題が使えます)。

上の定義では の中の一点 のみの微分可能性を考えましたが、もし 上の全ての点で微分可能であるならば、各点における微分係数 上の実数値関数とみなす事が出来そうです。

 定義. 関数 が全ての において微分可能である時、 上で微分可能であると言い、関数 導関数 (derivative) と呼ぶ2 とも表す。

上と同様、 上で微分可能な関数は常に 上で連続となります。しかし連続関数が常に微分可能であるとは限りません。例えば折れ線関数 で連続ですが原点で微分可能ではありません。実際、もし が原点で微分可能であるとしたら、§8 の命題 1 より、 に収束するあらゆる数列 に対して が同じ値に収束しなければなりませんが、, とすると ( に注意して) かつ となってしまい、両者の極限値が一致しません。これは「区間全体で連続だが区間のうち一点で微分不可能」な例ですが、世の中には更に「区間全体で連続だが区間の至るところで微分不可能」な関数が存在する事も知られています。その代表的な例として Weierstrass 関数が知られており、これを正確に図示する事は出来ないのですが概ね下図のように「連続的に繋がっているが至るところでギザギザしている曲線」をグラフに持つ関数となっています。

更には、確率論や数理ファイナンス、金融工学等で頻繁に登場する連続時間確率過程である Brown 運動 (Brownian motion) あるいは Wiener 過程 (Wiener process) もまた、(ほとんど確実に) 「連続だが至るところで微分不可能」な動きをする関数であり、上の Weierstrass 関数のように「どこを見てもギザギザ」な形状をしています (下図参照)3

これらのように、世の中には変わった関数が多数存在している事、よって「何となく成り立っていそうだ」という命題をきちんと確認 (証明) せず安易に信じてはいけない事には注意しなければならないのですが、しかしこれまで紹介したような基本的な初等関数の多くは (適切な定義域の上で) 微分可能であるので、当面はそこまで神経質にならなくとも問題ありません。

最後にもう一つ、微分に対する定義を与えておきます。

 定義. 関数 上で微分可能であり、更にその導関数 上で連続である時に、 上で連続微分可能 (continuously differentiable) あるいは -級であると言う。また 上の -級関数全体からなる集合を と表す。

我々はこれまで連続関数に対する一般的な性質を調べてきました。という事は、今後 -級関数 を扱う際に、これまで得られた連続関数に対する定理等を だけでなく にも適用出来る事になります。但し連続関数に関するいくつかの定理は が有界閉区間であるという仮定が置かれていたのに対して、今我々が考えている定義域 は開区間となっている点には注意しましょう。

 

初等関数の微分 I

上で与えた定義に従って、これまで紹介した初等関数の導関数を導いてみましょう。まず冪乗関数 を考えてみます。ここで は「とりあえず」自然数としておきます。実は更に ( 以外の) 一般の実数の場合にも概ね同じ結果が得られるのですが4、ここで紹介する証明と同じ方法では結論を得る事が出来ません。さて、任意の を取ると となる事から、 上で微分可能であり である事が分かりました。そして 上連続である事から である事も分かります。

また明らかに定数関数 ( は所与の実数) は -級であり となります (気になる人は証明を書いてみて下さい)。

関数 において定義されていないので、定義域を 及び に分けて考えてみると、いずれの場合でも として となり、ここから であり、 または の上で -級である事が分かります。

次に指数関数 の微分を考えてみます。ここで、§11 で示した定理 1 が再登場します。 §11 の定理 1 では が有理数の場合のみを対象としていましたが、 を任意の実数に拡張しても上の (2) 式は正しい事についても既に触れました。そして §11 と同様の議論によって が得られるのも問題ないかと思います。すると各辺から を引いて で割ってやると が得られ、 として挟み撃ちの原理を使うと となり5、まず が原点 において微分可能である事、そして微分係数が である事が示されます。次に任意の に対して、指数法則を使えば となりますが、 である事は既に見たので、これらを合わせて が従います。以上から指数関数は 上で微分可能であり、その導関数は 自身、即ち である事が分かりました。指数関数が連続であった事と合わせると である事も分かります。

これら以外の初等関数の導関数を同様に計算する事も可能ですが、その前に関数の微分に関する基本的な性質を導いておいて、それらを適用しながら他の初等関数の微分を計算する方が楽なので、他の初等関数の微分はまた後で扱う事にして一般論を進めます。

 

微分の性質 I

まず、微分に関する最も基本的な性質 (あるいは公式) を見ていきます。

 命題 1. を開区間とし、 において微分可能な関数とする。また とする。この時以下が成り立つ。
1.
2.


証明. 2. のみ示す (1. は各自)。 として が成立。ここで、 で微分可能ゆえ連続である事を用いた。


次の定理は合成関数の微分公式あるいは連鎖率 (chain rule) と呼ばれており、具体的な微分計算に留まらず多くの場面で活躍する事になります。

 定理 1. を開区間とし、 において微分可能, において微分可能とする。この時次が成り立つ。

定理自体の証明は丁寧に行わなければなりませんが、直観的には以下のように考えれば分かりやすいと思います。 (勿論、 だからといって とは限らないので、このままでは証明として不十分です。) 更に、, と表せば、(3) (において に置き換えたもの) は Leibniz の記法を用いれば となり、あたかも 等を数と思って普通の分数を計算しているかのように表す事が出来ます。今の場合、 が (4) における に対応しています。


定理 1 の証明. 任意の を取り固定する。 において微分可能なので、ある が存在して なる任意の に対して 即ち が成立する。一方、 において微分可能なので、ある が存在して なる任意の に対して が成り立つ。そこで と定義すれば、 なる任意の に対して となる。

以上の事から、 の時に が得られる6。よって題意は示された。


定理 1 は二つの関数の合成に対する微分を与えていますが、数学的帰納法を用いれば、任意の 個の関数の合成に対する微分を計算する事も出来ます。例えば といった具合です。また定理 1 と公式 及び命題 1 の 2. を組み合わせれば商の微分公式 を得る事が出来ます (詳細は省略します)。

次に、逆関数の微分を考えます。

 定理 2. を開区間とする。連続関数 において微分可能であり、また を含む適当な開区間の上で逆関数 が存在しているとする7。この時、もし であるならば もまた において微分可能であり、次が成り立つ。

(7) において とおくと となります。即ち、ある点 における逆関数の微分を求めたければ、元の関数の における微分係数を求めてその逆数を取れば良い、という事です。今の場合もやはり Leibniz の記法を用いると直観的に分かりやすく、 とする時 という関係が成り立つ事に注意して となり、左辺の分子分母を形式的に で割ったものが (7) (において としたもの) に対応しています。


定理 2 の証明. と置き、 に収束する数列で なるものとする。この時 と置くと、 の単射性から であり、また における連続性から , である8。よって が得られる。 の取り方は任意であったため、 が示された。


 

初等関数の微分 II

上で示した命題や定理を使えば、今まで紹介してきた初等関数の大半の微分を計算する事が出来るようになります。

まず多項式関数の微分が となる事は命題 1 の 1. から明らかでしょう。なお、上では の導関数を直接計算によって導きましたが、 さえ示してしまえば後は命題 1 の 2. と数学的帰納法から任意の について である事を容易に示す事が出来ます。同様に、 の微分と命題 1 の 2. を組み合わせれば、実は が負の整数である場合にも となっている事を確認出来ます (但し としなければならない点に注意)。

次に対数関数の微分ですが、定理 2 を使えば が直ちに従います9。またここから所与の に対して となる事が分かりますし、同様に所与の に対して も得られます。

双曲線関数の微分計算も定理 2 の良い練習になるかもしれません。まず となる事は指数関数の微分と命題 1 の 1. から明らかでしょう。また (6) から が得られますが、更に と合わせると とも表せる事が分かります。

上と定理 2 を組み合わせれば逆双曲線関数 (双曲線関数の逆関数) 達の微分も計算出来ます。例えば です。なお は対数関数を用いて表現する事も出来ていたので、それを使って直接 と計算する事も可能です。他の逆双曲線関数に関しては結果のみ掲載します。 それぞれ定義域は異なりますが、いずれも適当な定義域の上で -級になっています。

 

ここまでのまとめ

今回、ついに関数の微分を導入するに至りました。微分の定義は関数の極限の概念を用いて直接表現する事が出来ましたが、これから扱う積分 (Riemann 積分) の定義はやや厄介であり、§1§12 に登場した区分求積法のような方法をより精密に行う必要があります。しかし実はこの「微分」と「積分」という異なる概念が互いの逆演算の形で関係しあっている事が分かり、微分積分学の基本定理 (fundamental theorem of calculus) として知られるようになりました。

本講座では微分に関する更なる性質を調べる前にまず積分の定義を与え、微分積分学の基本定理を得るまでの最短コースを進んでみます。そして基本定理を武器として微分や積分に関する様々な性質を示していきたいと思います10

今回紹介した連鎖律は、近年注目を集めている機械学習、特に (人工) ニューラルネットワークにおける誤差逆伝播法 (backpropagation) における要と言えます11。何故この手法がニューラルネットワークの実装において有効なのか、連鎖律がどのように活用されているのかについて、番外編として「一次元の最も単純なニューラルネットワーク (あるいはパーセプトロン)」を取り上げて紹介したいと思います。


  1. と書きましたが、すぐ後に と続いている通り、実際には の近傍 (すぐ近くの点) のみを考えれば良く、 上の全ての に着目する必要はありません。
  2. 日本語 (やドイツ語) では「微分係数」と「導関数」を用語としても区別しますが、英語ではどちらも derivative と呼んで明確に区別しない事が多いようです。
  3. 「ほとんど確実に」と書きましたが、これはいい加減な事を言っているわけではなく、確率論においては数学的に厳密に「ほとんど確実に (almost surely)」という言葉が定義されているのです。詳しくは原 啓介先生のテキスト『測度・確率・ルベーグ積分』 をご参照下さい。
  4. 「概ね」と書いたのは、定義域から原点を除外しなければならない場合があるからです。
  5. とは「関数 の導関数の における値」を意味する記号です。 と書いた方が正確かもしれません (但しこの記法はあまり使われません)。あるいは Leibniz の記法を用いて とも表します。
  6. の下で収束するので (局所的に) 有界である事を用いました。気になるようならば、例えば (5) の評価を の時に行って、それに合わせて を更に小さく取るようにすれば O.K. です。
  7. 少しぼかした表現となっていますが、正確には を含む開区間の上で全単射となっていれば十分であり、その開区間における の像の上で逆関数 が定義されます。更に言えば、実は であれば の存在に関する仮定は不要です。何故ならば、仮定 の連続性から の (局所的な) 存在が言えるからなのですが、今の段階ではまだその証明をするのに十分な準備が終わっていません。
  8. の近くで連続であるため、§10 の定理 2 及び脚注 13 から の近くで連続となります。なおいちいち断りませんでしたが、 が十分大きければ常に の定義域に含まれています。
  9. なお の時には となるので、合わせると である事が分かります。
  10. 特に確率論や確率過程論においては、積分を使って関数の性質を調べる方法を取った方が筋が良くなる場合がしばしば見られます。
  11. より一般に、コンピューターで複雑な関数の微分を計算する自動微分という技術における要とも言えます。誤差逆伝播法自体は 1980 年代には既に提案されていましたが、当初は複雑なネットワークモデルに対する効果的な学習方法がまだ十分に確立されていませんでした。近年ディープニューラルネットワークに対する効果的な学習方法の研究が進み、再び注目が集まると共に機械学習における一つの必須テクニックと言える役割を担っています。

※ AMFiL Blog の記事を含む、本ウェブサイトで公開されている全てのコンテンツについての著作権は、一般社団法人数理ファイナンス研究所 (AMFiL) 及びブログ記事の寄稿者に帰属します。いかなる目的であれ、無断での複製、転送、改編、修正、追加等の行為を禁止します。