![データセンター市場で起きている劇的な半導体の主役交代 - 吉川明日論の半導体放談(308)](https://cdn-ak-scissors.b.st-hatena.com/image/square/202cddb653d433c23504f531830842559885c8dd/height=288;version=1;width=512/https%3A%2F%2Fnews.mynavi.jp%2Ftechplus%2Farticle%2Fsemicon-308%2Fogp_images%2Fogp.jpg)
Transformerは分散できる代償として計算量が爆発的に多いという不利がある。 一度みんなが忘れていたリカレントニューラルネットワーク(RNN)もボケーっとしている場合ではなかった。 なんと、GPT3並の性能を持つ、しかも完全にオープンな大規模言語モデルが公開されていた。 そのなもRWKV(RuwaKuvと発音しろと書いてある。ルワクフ?) RWKVはRNNなのでGPUメモリをそれほど大量に必要としない。 3GBのVRAMでも動くという。 時間がない方はビデオをご覧ください 僕の失敗は、何も考えずにgit lfs installでディレクトリごとコピーしようとしたこと。 このディレクトリには過去のモデルデータが全部あるので、ひとつ30GBのモデルデータを何十個もダウンロードしようとしていて終わらなかったのだ。 モデルデータは一とつあれば十分なのでひとつだけにする。 次に、chatのリポ
写真は、学研『大人の科学マガジン』Vol.24に付録される「4ビットマイコン」。 CPUは4MHz、プログラム領域が40バイト、データ領域が8バイトしかないコンピューターで、表示はLEDのみ! シンプルすぎて素敵です。 でもこんなシンプルな構造でもちゃんとプログラムが組めるようになっているんですから、また驚きなんですよねー。実際にここ数日間プログラムを組んでみたのですが、まさにプログラミングの原点に触れている感じでした! プログラムを組むというと、人間の理解できるニモニック(アルファベットの表記)を打ち込んでコンピューターに命令をするんですが、実はそれらはコンピューターが直接解釈できる「機械語」に変換されているんです。しかし、この「4ビットマイコン」は、直接CPUに機械語で命令をするしくみで、まさに原点のプログラミングが体験できるようになってるんです! もちろん、一発でメモリから呼び出せる
BES - Battle Encoder Shirase for Windows 2000/XP 1.0 beta5 - 10 June 2005 BES is a small tool which limits the CPU usage for a specified process: for instance, you can limit the CPU usage of a process which would use CPU 100%, down to 50% (or any percentage you like). With this, you can use other programs comfortably while doing something CPU-intensive in the background. By limiting the CPU load,
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く