PythonによるDeep Learningの実装（Dropout + ReLU 編） - Yusuke Sugomori's Blog
久しぶりのブログ更新となります。 今回は、Dropout + ReLU のコード︵python︶を紹介します。 最近の Deep Learning 界隈は、もっぱらDropoutと新しい活性化関数の組み合わせが多いみたいですね。 しばらく触れないでいる内に、以前は最前線だった Deep Belief Netsや Stacked Denoising Autoencoders がすっかり下火になってしまったようで…。 Dropout + ReLU や Dropout + Maxout などが流行っているみたいですが、これは結局、いかに疎な︵sparseな︶ニューラルネットワークを構築できるかが学習の鍵になっている、ということなのでしょう。シンプルが一番というべきなのでしょうか…。 ともあれ、Dropoutは実装が難しくないのは嬉しい限りです。 ReLU (Rectified Linear U
http://blog.bumblebee-network.com/entry/toeic-listening-495
