M2 MacBook Airの16GBモデルでもllama3なら実用的な速度で動いたけど、llama3:70Bはダメだ…10分くらい待って数文字しか返ってこない。

サクサク読めて、アプリ限定の機能も多数！アプリで開くはてなブックマーク閉じる ●はてなブックマークって？●アプリ・拡張の紹介●ユーザー登録●

●ログアウト

●テクノロジー ●LLMプロダクト開発者がMac Studioを買ってローカル... ●rdlfのブックマーク

M2 MacBook Airの16GBモデルでもllama3なら実用的な速度で動いたけど、llama3:70Bはダメだ…10分くらい待って数文字しか返ってこない。

rdlf のブックマーク 2024/04/25 15:55 その他 ●はてなブログで引用 ● ●

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://akarinohon.com/text/taketori.cgi/https://b.hatena.ne.jp/entry/4752525900850396672/comment/rdlf" data-user-id="rdlf" data-entry-url="https://b.hatena.ne.jp/entry/s/note.com/erukiti/n/n58a8180ea9fb" data-original-href="https://note.com/erukiti/n/n58a8180ea9fb" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fnote.com%2Ferukiti%2Fn%2Fn58a8180ea9fb" data-user-icon="/users/rdlf/profile.png">LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti</a><br><p style="clear: left">M2 MacBook Airの16GBモデルでもllama3なら実用的な速度で動いたけど、llama3:70Bはダメだ…10分くらい待って数文字しか返ってこない。</p><a class="datetime" href="https://akarinohon.com/text/taketori.cgi/https://b.hatena.ne.jp/rdlf/20240425#bookmark-4752525900850396672"><span class="datetime-body">2024/04/25 15:55</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。最初のスターをつけてみよう！

LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti

note.com/erukiti2024/04/24 もしあなたがLLMを使ったプロダクトを何かしら開発している、もしくは興味があるのなら、メモリを大量に積んだMac Studioの購入を検討すべきです。対象読者NVIDIAが絶対にいいという人はこの記事の対象読者では... 224 人がブックマーク・37件のコメント他のコメントを読む＼コメントがサクサク読めるアプリです／

●総合 ●一般 ● ●政治と経済 ●暮らし ●学び ●テクノロジー ●エンタメ ●アニメとゲーム ●おもしろ ●アプリ・拡張機能 ●開発ブログ ●ヘルプ ●お問い合わせ ●ガイドライン ●利用規約 ●プライバシーポリシー ●利用者情報の外部送信について ●ガイドライン ●利用規約 ●プライバシーポリシー ●利用者情報の外部送信について ●公式アカウント ●ホットエントリー ●はてなブログ ●はてなブログPro ●人力検索はてな ●はてなブログタグ ●はてなニュース ●ソレドコ

LLMプロダクト開発者がMac Studioを買ってローカルLLMを触るべき理由｜erukiti

はてなブックマーク

公式Twitter

はてなのサービス