[B! memory] proto_jpのブックマーク

グラボのVRAMを外付け増設可能にする低遅延データ転送システムが開発される

画像生成AIや大規模言語モデルなどの計算処理にグラフィックボードを用いる場合、「GPUの処理性能」のほかに「VRAMの容量」も重視されます。グラフィックボードにVRAMを増設することは基本的に不可能なのですが、新たにハードウェアメーカーのPanmnesiaがグラフィックボードへのメモリ外付け増設を可能にするシステム「CXL-GPU」を開発しました。 CXL-GPU (PDFファイル)https://panmnesia.com/uploads/panmnesia-CXL-GPU.pdf GPUs can now use PCIe-attached memory or SSDs to boost VRAM capacity —Panmnesia's CXL IP claims double-digit nanosecond latency | Tom's Hardware https://ww

proto_jp 2024/07/04

リンク

ローカルで RWKV-LoRA の日本語データセットでﾌｧｲﾝﾁｭｰﾝするメモ (3090x2 で 7B いけた. 14B はだめだった)

Google Colab で RWKV-LoRA のファインチューニングを試すありがとうございます. こちらを参考にローカルでﾌｧｲﾝﾁｭｰﾝします! 14B はいくつか設定試しましたが CUDA out-of-memory でダメでした. 環境 Ubuntu 20.04 x299 + 256 GB CPU mem 14B もしうまく学習回る場合では, 128 GB でも行けると思われる. 3090(24GB) x 2 セットアップまず conda あたりで環境作って, 必要モジュールインストールしておきます.

proto_jp 2023/04/24

リンク

サービス終了のお知らせ

サービス終了のお知らせいつもYahoo! JAPANのサービスをご利用いただき誠にありがとうございます。お客様がアクセスされたサービスは本日までにサービスを終了いたしました。今後ともYahoo! JAPANのサービスをご愛顧くださいますよう、よろしくお願いいたします。

proto_jp 2014/03/05

リンク

メモリ管理 - かみやんの技術者ブログ

iPhone開発で、メモリ管理の基礎を社員に伝えることが増えてきたので、エントリとして書こう。 Objective-C基礎メモリ管理の前にObjCの基礎として、メソッド呼び出しの話。クラスのインスタンスaがmethodAをコールするときは、 [a methodA] と書く。このとき、aがnilだったときは、エラーではなく、コールされない。methodAに戻り値があるときは、それは、0やnilやNOが返る。ObjCでは、 void dealloc { if(a!=nil){ [a release]; } [super dealloc]; } は、気持ち悪いので、nilチェックはやめましょう。なお、ObjCでは、動的にメソッドを差し替えることができ、コールの度にメソッドが存在しているかも確認しています。そのため、LL言語(ライトウェイト言語、スクリプト）のように柔軟な記述が可能です。そし

proto_jp 2011/02/21

リンク

Cocoaの日々: CoreData - 大量データを扱う場合のメモリ利用量を減らす

データ件数は、Customerが 500件、Karteが6,000件︵Customer１件につきKarte 12件︶となっていて、それぞれを1つの CSVファイルへ書き出す。処理は次のような感じになる。 NSMangedObjectContext* moc = [取得]; NSArray* customers = [moc Customer全件取得]; for (NSManagedObject* customer in customers) { NSArray* kartes = [moc Karte取得・条件‥customer]; for (NSManagedObject* karte in kartes) { [CSV1行書き出し]; } }メモリのフットプリント︵利用状況︶はこんな感じ。 Customer, Karte を1件づつ読み込む度にメモリが消費され、フットプリントが増大し

proto_jp 2010/10/06

リンク

kunzo.log:System.gc でガーベッジコレクタの動きを試してみる - livedoor Blog（ブログ）

Flash CS3 を普段なーんも考えずに使っていますけど。なんか、アップデイトされてますね。 System.gc とかいうガーベッジコレクタを強制発動するメソッドが追加されてました。 CS3 でも使えるって知ってましたか？僕は知りませんでした。︵ダメ︶実際の製作物内に使うことは、あまりないかもしれませんがこれで挙動をチェックしたりできますね。︵そもそも、デバッグモードでしか動かないとかあるかな？︶というわけで、実験！実験！まずは、function の中の変数は、function が終了した時点でGCの餌食になるのを見てみます。テキトーに、test_mc というインスタンス名のMCを作って置いてください。んで、コレ。 import fl.transitions.Tween; import fl.transitions.easing.None; var testTw

proto_jp 2009/08/03

リンク

Flashのメモリを制する５つの秘訣..｜_level0.KAYAC

こんにちは、新米FDのkoyuです。今回のエントリーは世知辛い社会から魂の解放、いや、パンパンになったメモリの解放についてです。 ActionScript3.0でスライドショーなど動的に画像をロードするようなコンテンツを作成する場合に画像をロードし、removeChildしますよね？しかし、画像に対しての参照が残っていた場合に、読み込んだLoaderやDisplayObjectをremoveChildをしただけではメモリが解放されず、ガンガン膨らんできます。その様はまるで我が国の国債の発行残高のようです。結果として挙動が悪くなったり、ブラウザが落ちたりします。では、参照が残るとはどういうことでしょうか？例として挙げられるのは・addEventListenerをしている場合・変数に代入している場合などです。かく言う、私はハマってしまいして、その経験から本エントリーを書いた次