楠岡 成雄「Rademacher 複雑度と正則化」§3 Rademacher 複雑度 (2)

公開: 2024/8/30
最終更新: 2024/8/30

楠岡 成雄「Rademacher 複雑度と正則化」
§3 Rademacher 複雑度 (2)

 定義 3.5.

  1. の空でない部分集合とする。 により定義する。
  2. 上の確率測度とし、 の部分集合で なるものとする。 により定義する。

 

 命題 3.6. 上の確率測度、 の空でない部分集合とする。この時、 かつ が成り立つ。特に、 が成り立つ。


証明. を独立で同分布を持つ -値確率変数でその分布を とする。この時、 となる。 に対して よって、 これより最初の主張がわかる。2 番目の主張も よりわかる。

 最後の主張はこれら 2 つの主張よりわかる。


 

  に対して に対して により定める。

この時、次が成立する。

 命題 3.7. 上の確率測度、 の空でない部分集合とする。任意の 及び に対して が成立する。特に、 となる。


証明. は独立同分布な確率変数列で となるものとする。この時、 を得る。

また、 となるので、最初の主張を得る。

 後半は よりわかる。


 命題 3.6, 3.7 より以下を得る。

 命題 3.8. 上の確率測度、 の空でない部分集合とする。この時以下が成立する。

 

 命題 3.9. の空でない部分集合、 上の確率測度とする。また、すべての -可積分であり、 と仮定する。この時、 が成り立つ。

 


証明. -値確率変数、 は確率変数、 は独立であり、 の分布は とする。この時 である。 とおくと となる。よって、 とおくと が成り立つ。よって、命題 3.6 より これより主張を得る。


 

 命題 3.10. の空でない部分集合、 上の確率測度とする。さらに であると仮定する。この時、 が成り立つ。

 


証明. で定める。この時、定義より である。 は独立な確率変数で とする。この時、 に対して よって

であるので、 がわかり、主張を得る。


 

 注意. とすると、 となる。

 

 命題 3.11. の空でない有限部分集合、 上の確率測度とする。

  1. が存在して と仮定する。この時、 が成り立つ。
  2. が存在して と仮定する。この時、 が成り立つ。
  3. とし とおく。この時、 が成り立つ。

 


証明. -値確率変数、 は確率変数、 は独立であり、 の分布は とする。

 まず 1. を示す。 に対して であるので、命題 2.3 の 2. より よって、 これより となる。 とおくと となり主張を得る。

 主張 2. は命題 2.2 を用いて同様に示される。

 主張 3. は であるので、 よりわかる。



※ AMFiL Blog の記事を含む、本ウェブサイトで公開されている全てのコンテンツについての著作権は、一般社団法人数理ファイナンス研究所 (AMFiL) 及びブログ記事の寄稿者に帰属します。いかなる目的であれ、無断での複製、転送、改編、修正、追加等の行為を禁止します。