ノート/Deep Learning Tutorialの例題をやってみた(3)

サイトトップ

ノート
データ処理
├マイニング
├バスケット解析
├バスケット解析をＲで
├図書貸出をＲで
├モデルクラスタリング
└
テキストマイニング
├テキストマイニングTM
├TMとシソーラス
├PubMedをTM
├TMとMeSH
├TMとNLTK
├テキストマイニングとtagger
├医薬品添付文書ＤＢ
├論文の処理1
├剽窃１
├Bing検索
└
分子進化学
├分子進化学
└
Pythonと論文アクセス
├Pythonを使ってみる
├PythonでPubMed
├Pythonで...続き
└
Macメモ
├Script

&ref(): File not found: "favicon_story.txt" at page "ノート/ノート";

自信ないので
├Winのバッチ
│├スクリプト入門
│├バッチファイル
│├SETコマンド
│├自分のメモ
│└
└

メニュー編集

最新の5件

ノート/ノート
訪問者　999　　最終更新　2015-05-13 (水) 13:52:57

(2015-05-09) Deep Learning Tutorialの例題をやってみた(3) †

Deep Learning Tutorialの例題をやってみた
Deep Learning Tutorialの例題をやってみた(2)
Deep Learning Tutorial 0.1

Restricted Boltzmann Machine (rbm) (2015-05-09) †

チュートリアルにある実験のパラメタを変えるとどうなるか？

プログラムは、Restricted Boltzmann Machines (rbm)のページ　にある通り。（プログラムのリストはこちら）

教師なしであるが、MNISTのデータなので結果が0〜9の10通りの数字になることは分かっている。
この構造情報を、rbmでの出力ノード数（隠れノード数）に使ってやってみる。つまり28x28の入力を、10個の出力にマップする変換行列W（＝フィルタ）を学習させる。

学習の結果のフィルタの様子は、

学習の進行（epoch数）		10個の隠れノードに対するフィルタWの画像		学習時のコスト
after epoch 0				-175.465
after epoch 1				-167.944
after epoch 2				-157.464
after epoch 3				-154.745
after epoch 4				-148.361
after epoch 5				-143.53
after epoch 6				-152.06
after epoch 7				-156.368
after epoch 8				-154.891
after epoch 9				-152.177
after epoch 10				-141.697
after epoch 11				-148.438
after epoch 12				-153.84
after epoch 13				-153.666
after epoch 14				-150.948