![Python: ソケットプログラミングのアーキテクチャパターン - CUBE SUGAR CONTAINER](https://cdn-ak-scissors.b.st-hatena.com/image/square/5913f8f9d78b543b3b4fa926a3dcd1547b25e901/height=288;version=1;width=512/https%3A%2F%2Fimages-fe.ssl-images-amazon.com%2Fimages%2FI%2F51L6CwNG11L._SL160_.jpg)
こんにちは、スマートニュースの徳永です。深層学習業界はGANだとか深層強化学習だとかで盛り上がっていますが、今日は淡々と、ニューラルネットワークの量子化の話をします。 TL;DR パラメータだけを量子化するのであれば、ほぼ精度を落とさずに、パラメータのデータ容量は1/16程度にまで削減できる パラメータ、アクティベーション、勾配のすべてを量子化し、推論だけでなく学習までもビット演算だけで実現する研究が進んできている 現在は深層学習 = GPU必須というぐらいの勢いがあるけど、量子化の研究が進むと、今後はどうなるかわからないよ はじめに 情報理論における量子化とは、アナログな量を離散的な値で近似的に表現することを指しますが、本稿における量子化は厳密に言うとちょっと意味が違い、十分な(=32bitもしくは16bit)精度で表現されていた量を、ずっと少ないビット数で表現することを言います。 ニュ
ユルリ(太古の夢) @yuluri 素晴らしい世界史サイトを見つけました。こんなのがあればいいな…と妄想していた理想の世界史地図がそこにあった!すごく良い!!私、大歓喜!!すごい!!ありがとうございます!!! x768.com/w/twha.ja 2017-02-19 14:02:13 ユルリ(太古の夢) @yuluri @yuluri 何がすごいかというとね!!ある時代・ある地域にあった国名・版図・統治者がひと目で分かる!しかも、縮尺を変えるとその頃世界の他の地域はどうなっていたのかがわかる!そしてそして、おどろくべきことにアフリカの西部や南部、コロンブス以前の南北アメリカまで網羅している! pic.twitter.com/mVOsFZpi9j 2017-02-19 14:04:27
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く