【Deep Learning】過学習とDropoutについて - sonickun.log
前回、Deep Learningを用いてCIFAR-10の画像を識別しました。今回は機械学習において重要な問題である過学習と、その対策について取り上げます。 sonickun.hatenablog.com 過学習について 過学習（Overfitting）とは、機械学習において、訓練データに対して学習されているが、未知のデータに対して適合できていない（汎化できていない）状態を指します。たとえ訓練データに対する精度が100%近くに達したとしても、テストデータに対する精度が高くならなければ、それは良い学習とはいえません。特にニューラルネットは複雑なモデルのため過学習に陥りやすいと言われています。 過学習の例 過学習の例として、最小二乗法による多項式近似を用いてサインカーブ（＋標準偏差0.3の乱数）を推測してみます。 参考：最小二乗法のロバスト推定についてまとめた - sonickun.log 下
深層学習(青い本)のまとめと最近のdeeplearning界隈の流れ - プロクラシスト
深層学習 (機械学習プロフェッショナルシリーズ) 作者: 岡谷貴之出版社/メーカー: 講談社発売日: 2015/04/08メディア: 単行本（ソフトカバー）この商品を含むブログ (13件) を見る こんな人におすすめ 人工知能オジサン*1にならないように 線形代数と微分の基礎的な素養のある人 ディープラーニングの基礎を学びたい人 章立て 第1章 はじめに 第2章 順伝播型ネットワーク 第3章 確率的勾配降下法 第4章 誤差逆伝播法 第5章 自己符号化器 第6章 畳込みニューラルネット 第7章 再帰型ニューラルネット 第8章 ボルツマンマシン 書評 1年前に情報系に専門を変え、ディープラーニング関係で初めに読んだ本。ちょうど1年前は爆発的に流行り始めたころだった。 今はもう少しいろいろと日本語の本がそろってきているかもしれないが、この本は基礎から数式を追いながらきちんと学べる本だと思う。 数
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
