公開: 2024/9/27
最終更新: 2024/9/27
楠岡 成雄「Rademacher 複雑度と正則化」
§7 例
ここでは は連続関数で、条件 (R-1), (R-2) を満たし、 … 続きを読む
公開: 2024/9/27
最終更新: 2024/9/27
ここでは は連続関数で、条件 (R-1), (R-2) を満たし、 … 続きを読む
公開: 2024/9/20
最終更新: 2024/9/20
以下では は可測空間、 は 上の確率測度、 は -値確率変数列、… 続きを読む
公開: 2024/9/13
最終更新: 2024/9/13
は可測空間、 を 上の確率測度とする。 は距離空間で … 続きを読む
公開: 2024/9/6
最終更新: 2024/9/6
を可測空間、 を 上の可測関数全体とする。
命題 4.1. を の空でない部分集合とし、
… 続きを読む公開: 2024/8/30
最終更新: 2024/8/30
公開: 2024/8/23
最終更新: 2024/8/23
を可測空間、 を 上の可測関数全体とする。
公開: 2024/8/9
最終更新: 2024/8/9
は可測空間、 は距離空間とする。 をパラメータの集合と考える。 は可測関数であり、… 続きを読む
2024/1/26 (金) に、東京都立大学 丸の内サテライトキャンパスにてワークショップ「確率論と機械学習」が開催され、数理ファイナンス研究所 (AMFiL) 顧問の楠岡 成雄先生が講演されました。
楠岡先生がまとめられた、本研究に関する原稿「Rademacher 複雑度と正則化」をここに公開させていただきます。
ご興味をお持ちの方は下記 URL から pdf ファイルをご利用下さい。
… 続きを読む
今回は、高校数学において「検算のために使うのは良いが答案に書くのは駄目」な定理として有名な l’Hôpital の定理を取り上げたいと思います。L’Hôpital の定理の証明には、Cauchy の平均値の定理という、Rolle の定理や通常の (Lagrange の) 平均値の定理から導かれる定理が使われる事が多いのですが、ここでは微分積分学の基本定理を使った証明を与えます (そのため、本来の l’Hôpital の定理よりも若干強い仮定を置いています)。Cauchy の平均値の定理を使った議論は最後に補遺として簡単に紹介します。
を開区間として、… 続きを読む
我々はこれまで指数関数を「指数法則を満たす連続関数」として定義し、そのような性質を持つ実数値関数が存在する事を二通りの方法で確認してきました。これは言わば「連続関数の中で指数法則を満たすようなものを求めよ」という、関数についての問題を解いているようなものです。
通常の方程式と同様に、未知の関数が満たしている何らかの関係式 (例えば指数法則 ) の事を関数方程式と呼び、その未知の関数が何であるかを求める事を「関数方程式を解く」と言います。関数方程式の中でも特に重要なものとして微分方程式と呼ばれるものがあり、これは未知関数の導関数 (及びその関数自体) が満たす等式を意味しています。指数関数の第三の構成法 (あるいは特徴付け) として、今回は微分方程式を用いた方法を紹介します。同様に、三角関数についても微分方程式の解としての特徴付けを考えてみます。
微分方程式を考える上では、その解の「存在と一意性」という概念が重要となります。その前にまず、通常の (未知の実数が満たす) 方程式を通して、解の存在と一意性とは何かを見ていきたいと思います。
未知の実数 が満たす等式を方程式と呼び、それを満たす … 続きを読む
引き続き冪級数に関するテーマを扱いますが、今回は具体的な初等関数の話題に焦点を当てて進めます。
前々回 §18 において、三角関数 と を冪級数によって定義しました。同様にして、今回はまず指数関数の第二の構成方法として「冪級数によって指数関数を定義する」という話から始めていきたいと思います。また、三角関数についてはまだ定義をしただけでほとんど何も性質を調べていなかったので、今回は冪級数の立場から「三角関数について良く知られている性質 (加法定理、周期性、導関数等)」を示していきます。
今回はまず、§18 で導入した冪級数について、前回 §19 で示した結果を使って、その滑らかさについて調べていきます。そうする事で、§18 でも触れたように、冪級数展開と Taylor 展開は実は同じ事を表しているという事が分かります。また、やはり §18 で示した「極限と微分積分の順序交換」を冪級数に対して適用すれば、冪級数に対して「項別に微分積分する」という直観的に自然な (しかし乱暴かもしれない) 計算が、収束半径の内側では正しい事が示されます。それらの性質を使って、これまで登場したいくつかの初等関数の Taylor 展開 (即ち一意的な冪級数表示) を導いていきたいと思います。
前回 §17 から少し間が空いてしまいましたが、今回はいよいよこれまで扱ってきた Taylor の定理や級数を組み合わせて、滑らかな関数を「無限に続く多項式」のような形で表現する Taylor 展開及び冪級数について見ていきたいと思います。今回だけではまだこれらの威力を十分に感じられるところまで話を進める事が出来ませんが、Taylor 展開を用いると、複雑な (但し滑らかな) 関数の形状や挙動を詳しく見られるようになります。またこれまでの範囲では扱う事の出来なかった三角関数も、冪級数を使ってようやく定義出来るようになります。
これまでにも何度か言葉は登場しているのですが、ここで「無限回微分可能な関数」について正確に定義しておきます。
を開区間とします。 に対して、 上の … 続きを読む
§13 以降、微分、積分、微分ときて今回は再び積分が中心です。多くの初等関数の積分は、§15 の定理 2, 3 を用いる事で、まさしく「微分の逆演算」として計算する事が出来ますが、積分に関するそれ以外の重要な道具として更に部分積分や置換積分といった公式があります。これらを使って様々な関数の具体的な積分計算が可能となりますが、それだけでなく部分積分公式はまた「(滑らかな) 関数を『多項式の無限和』の形に展開する」という所謂 Taylor 展開への橋渡しの役割も担っています。今回は、微分積分の基本定理や部分積分公式を用いて、滑らかな関数を「多項式 + 誤差項 (剰余項)」の形で表現する Taylor の定理に迫っていきたいと思います。
いきなり寄り道からのスタートとなりますが、まずは前回やり残した最急降下法アルゴリズムの収束性についてここで証明を与えます。あくまで寄り道なので全てを理解して次に進まなければならないわけではなく、読み飛ばしていただいても構いません。… 続きを読む