LLM 勉強会
LLM 勉強会 本勉強会では、自然言語処理および計算機システムの研究者が集まり大規模言語モデルの研究開発について定期的に情報共有を行っています。 具体的には、以下の目的で活動しています。 オープンソースかつ日本語に強い大規模モデルの構築とそれに関連する研究開発の推進 上記に関心のある自然言語処理および関連分野の研究者によるモデル構築の知見や最近の研究の発展についての定期的な情報交換 データ・計算資源等の共有を前提とした組織横断的な研究者間の連携の促進 モデル・ツール・技術資料等の成果物の公開 詳細は趣旨説明をご覧ください。 News
Cloudflareから簡単に「メールアドレス使い分け」ができる新サービスが登場、ワンクリックで可能なフィッシング対策も
アカウントへの侵入を防ぐためにパスワードを使い分けているという人でも、IDとして用いるメールアドレスを使い分けているというケースはあまり多くないはず。こうした現状を踏まえた新たなセキュリティ対策サービスとして、Cloudflareが2021年9月28日に、複数のメールアドレスが受信したメールを1つのメールアドレスに統合する「Cloudflare Email Routing」と、なりすましやフィッシング対策を強化する「Email Security DNS Wizard」を発表しました。 Easily creating and routing email addresses with Cloudflare Email Routing https://blog.cloudflare.com/introducing-email-routing/ Tackling Email Spoofing an
こんにちは、普段PR TIMES STORY（以下STORY）の開発リーダーをしている岩下(@iwashi623)です。 PR TIMES STORYは弊社のMissionである「行動者発の情報が、人の心を揺さぶる時代へ」をそのまま体現したようなプロダクトで、「創業ストーリー」や「開発秘話」などの行動者の熱量をそのまま配信して、企業とメディア、生活者のより良い・多くのリレーションが生まれることを目的としています。 PR TIMES STORYトップページ 本記事では、私も今月から2年目となったので新卒の時よりさらにチームに貢献していきたい！と思っていたところ、STORYの現状の環境では開発速度が出しづらい状況を抱えていたので、そちらを解消するためにチームで行ったことを書いていきます。 現状 STORYは一部PR TIMESとは別リポジトリ、別インフラで独立して管理されており、独立している部
2023/11/13追記以下の記事は､Llama2が公開されて数日後に書いた内容です｡ 公開から数ヶ月経った23年11月時点では､諸々の洗練された方法が出てきていますので､そちらも参照されることをおすすめします｡ (以下､元記事です) 話題のLamma2をファインチューニングします｡ QLoRAライブラリを使うパターンと､公式推奨の2つを試しました｡前者が個人的にはオススメです｡ 前提Hugging faceで配布されている公式のモデルが必要です｡以下を参考に､ダウンロードしておきます｡ データセット作成 (7/20 15:20追記 設定ミスってたので修正しました) test.jsonを適当に作ります｡ [ { "input": "", "output": "### Human: 富士山といえば?### Assistant: なすび" }, { "input": "", "output":
GCP(Google Cloud Platform)でディープラーニング学習環境構築方法 背景 ようやくDockerでのディープラーニングGPU学習環境構築に成功した @karaage0703 。疲れを癒す間も無く、ディープラーニングの帝王Google社のデベロッパーアドボケイトから、新たなる天啓がくだる。 度々からあげさんの記事を引用して恐縮ですが、もしGCPを使う場合は、このあたりをまるっとイメージにまとめたDeep Learning Containersってのもあります。ポチるだけでCUDA/TF/Jupyter/その他全部入りのコンテナをGKEで動かせます。 #gcpjahttps://t.co/tszxsK6sichttps://t.co/VMo9OHBjUp — Kazunori Sato (@kazunori_279) August 7, 2020 CUDAドライバ周り、誰し
リトアニアのセキュリティ企業Nord Securityは3月30日、情報漏えいしたことがある企業のデータを基に、世界31カ国の大企業で働くビジネスマンが、仕事でよく使うパスワードのランキングを発表した。米国や日本、中国、インド、英国などからデータを集めたという。 「テクノロジー・IT」「航空・宇宙」など20業界でランキングを公開。例えばテクノロジー・IT業界の1位は「123456」だった。2位は「password」で、3位は「aaron431」。TOP10には「research」（4位）、「linkedin」（7位）、「社名や部署名（もしくはそれを一部変更したもの）」（12位）などもあった。 航空・宇宙業界も1位は「password」。2位は「社用メールアドレスのドメイン」、3位は「社名や部署名（もしくはそれを一部変更したもの）」だったという。TOP20には「opnesesame」（6位）
動機 結構 lint 系がアップデートされていたり、以前は必要だったものがいらなくなっていたりしていて自分が作った以前のテンプレートだとちょっと不要な設定などが増えていたので、 これを機に調査しながら設定を見直そうかなと。 今回作ったもの この記事で設定をした Next.js のテンプレートはこちらに公開してあります。 前提 node: v18.17.1 next.js: 13 系 React: 18 系 Next.js まずは Next.js のインストールから。どんなプロジェクトであれ TypeScript で開発をしたいから --ts をつけます。 あとは設問に答えていけば基本的なプロジェクトが作られます。基本的に全て Enter で問題ないです。 ちなみに Would you like to customize the default import alias? はデフォルトで N
SUZURI のセールとテレビ CM を乗り越えるために負荷試験を実施しました - Pepabo Tech Portal
Scaling Docker to Serve Millions More Developers: Network Egress | Docker
Scaling Docker to Serve Millions More Developers: Network Egress In Part 1 of this blog we went into a deep dive that analyzed all of the images stored in Docker Hub, the world’s largest container registry. We did this to give you a better understanding of how our new Terms of Service updates will impact development teams who use Docker Hub to manage their container images and CI/CD pipelines. Par
Amazon Virtual Private Cloud (VPC) now supports the transfer of Elastic IP addresses between AWS accounts
Today, we are announcing Elastic IP transfer, a new Amazon VPC feature that allows you to transfer your Elastic IP addresses from one AWS Account to another, making it easier to move Elastic IP addresses during AWS Account restructuring. Prior to this, when moving applications to a new AWS Account, you had to allocate new Elastic IP addresses for your applications requiring you to allowlist the ne
はじめに本日2022年6月21日、Cloudflareの19か所のデータセンターにおいて、トラフィックに影響を与える障害が発生しました。折り悪くこの19か所の拠点は当社最大の拠点であり、全世界のトラフィック処理の大半を占めています。この障害は、当社のインフラの重要な一部であり、Cloudflareのトラフィックの大部分を処理する当社最大の拠点における耐障害性を高めるための長期的なプロジェクトの一環として行われた変更により発生したものです。06:27 UTC、今回の障害の原因となったネットワーク設定の変更をこれらの拠点で実施。06:58 UTC、最初のデータセンターがオンラインになる。07:42 UTC、すべてのデータセンターがオンラインになり、正常稼働となる。 お客様の拠点によっては、Cloudflareを使用するWebサイトやサービスにアクセスできない場合があります。その他の拠点では、C
松竹は6月17日、大阪松竹座の特定のイベントに申し込んだ会員情報111人分が、他の申込者から閲覧可能だった可能性があると発表した。申し込み用のGoogleフォームで設定ミスがあったため。 対象は、「松竹歌舞伎会」会員のうち、大阪松竹座「七月大歌舞伎」チケット購入者限定で募集した「船乗り込み」イベントの応募者。 6月11日午後4時30分ごろから12日午前12時50分ごろに応募した会員の会員番号、氏名、郵便番号、住所、メールアドレス、参加人数が、申し込んだ会員相互で閲覧可能だった可能性があるという。 各情報は個人ごとにひも付けられない表示になっており、「個人を特定することは困難だった」としている。閲覧できたのは、フォームにアクセスできた限定的な会員で、外部からアクセスできる状態ではなかったという。 対象者には謝罪文を送付した。再発防止のため、フォーム公開時のテストとチェック体制の強化を図るとし
GitHub - ExistentialAudio/BlackHole: BlackHole is a modern macOS virtual audio driver that allows applications to pass audio to other applications with zero additional latency.
BlackHole is a modern macOS virtual audio driver that allows applications to pass audio to other applications with zero additional latency. License
Neovimで愛用しているプラグインの解説 普段使いしてるNeovimのスクリーンショットなど こんにちは！食パン🍞と申します🏜 普段はフロントエンドを中心にパソコンをｶﾀｶﾀしている者です💻 私は普段のコーディングのメインエディタとして、Neovimを用いています。 (Neo)Vimは、その独特な操作体系ゆえ慣れるまでが大変ですが、一度習熟すると非常に効率よくテキスト操作を行えるため、日々愛用しています。 ところで(Neo)Vimは、非常にカスタマイズ性が高く、自分好みの様々な設定を書いたり、OSSの多様なプラグインを利用することができます。一方で、その高いカスタマイズ性ゆえに設定の難しい側面も多々あり、最初はどのようにNeovimをカスタマイズしていけば悩むことも珍しくありません…。 そこで今回の記事では、私が現在使用しているNeovimのセッティングのうち、特に愛用しているプラ
![[Neovim]2023年初頭・個人的に愛用しているNeovimプラグイン🏜](https://cdn-ak-scissors.b.st-hatena.com/image/square/94931af5c4d5107bdcfb83eb0e7590158a9b35a2/height=288;version=1;width=512/https%3A%2F%2Fres.cloudinary.com%2Fzenn%2Fimage%2Fupload%2Fs--C9cwHqQF--%2Fc_fit%252Cg_north_west%252Cl_text%3Anotosansjp-medium.otf_55%3A%25255BNeovim%25255D2023%2525E5%2525B9%2525B4%2525E5%252588%25259D%2525E9%2525A0%2525AD%2525E3%252583%2525BB%2525E5%252580%25258B%2525E4%2525BA%2525BA%2525E7%25259A%252584%2525E3%252581%2525AB%2525E6%252584%25259B%2525E7%252594%2525A8%2525E3%252581%252597%2525E3%252581%2525A6%2525E3%252581%252584%2525E3%252582%25258BNeovim%2525E3%252583%252597%2525E3%252583%2525A9%2525E3%252582%2525B0%2525E3%252582%2525A4%2525E3%252583%2525B3%252520%252Cw_1010%252Cx_90%252Cy_100%2Fg_south_west%252Cl_text%3Anotosansjp-medium.otf_37%3A%2525E9%2525A3%25259F%2525E3%252583%252591%2525E3%252583%2525B3%252520%252Cx_203%252Cy_121%2Fg_south_west%252Ch_90%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyLzhmYjI2MmE0YjMuanBlZw%3D%3D%252Cr_max%252Cw_90%252Cx_87%252Cy_95%2Fv1627283836%2Fdefault%2Fog-base-w1200-v2.png)
はじめに データアナリティクス事業本部のkobayashiです。 Pythonを使って開発を行っていると、AWSのリソースを扱う際にはboto3でしたりデータ解析を行う場合はPnadas,Scipyなど様々なパッケージを使っているかと思います。 今回、その利用しているパッケージの依存関係やパッケージを調べる機会があったのでその方法をまとめたいと思います。 環境 Python 3.7.4 pipdeptree 1.0.0 pip-licenses 2.2.1 パッケージ依存関係とライセンスを調べるツール 今回使用したツールは以下になります。どちらのツールもきちんと継続的にメンテナンスされており、pipでインストールできるのでこれらを使いました。 パッケージ依存関係をツリーで表示するツール pipdeptree · PyPI pipでインストールしたPythonパッケージを依存関係ツリー形式で
こんにちは。SRE2課の福島です。 はじめに ポイント 検証 ①ACMで証明書の発行 ②EC2インスタンスの作成（特定のAMIを利用する。） ③IAMロールの作成 ④③で作成したIAMロールを証明書に関連付け ⑤③で作成したIAMロールにポリシー適用 ⑥②で作成したEC2にIAMロールをアタッチ ⑦Nginxの設定 /etc/nitro_enclaves/acm.yamlの編集 /etc/nginx/nginx.confの編集 終わりに おまけ dry-runが成功したインスタンスタイプ一覧 はじめに 今回は、以下のアップデートを実際に試してみましたので、ブログにまとめたいと思います。 Announcing SSL/TLS certificates for Amazon EC2 instances with AWS Certificate Manager (ACM) for Nitro E
2023/4/25 LLM(GPT, PaLM等) with MLOps LT大会!!! 発表資料
ProductGitHub Packages Container registry is generally availableThroughout the beta, we added features to improve the experience of using the Container registry. Today, we’re excited to announce that the Container registry is generally available as part of GitHub Packages! Last year, we introduced the Container registry to GitHub Packages and saw developers utilize it as a way to publish, manage,
GitHub - ggerganov/llama.cpp: LLM inference in C/C++
The main goal of llama.cpp is to enable LLM inference with minimal setup and state-of-the-art performance on a wide variety of hardware - locally and in the cloud. Plain C/C++ implementation without any dependencies Apple silicon is a first-class citizen - optimized via ARM NEON, Accelerate and Metal frameworks AVX, AVX2 and AVX512 support for x86 architectures 1.5-bit, 2-bit, 3-bit, 4-bit, 5-bit,
M1搭載Macの環境を汚さずにDeep Learningしたい！（Docker, PyTorch, TensorFlow, VSCode, Jupyter） - Qiita
AWSでAppleシリコンによるビルドやテストが可能に、「Amazon EC2 M1 Macインスタンス」が正式リリース
AWSでAppleシリコンによるビルドやテストが可能に、「Amazon EC2 M1 Macインスタンス」が正式リリース Amazon Web Services（AWS）は、Appleシリコンベースのインスタンスを提供する「Amazon EC2 M1 Macインスタンス」の正式リリースを発表しました。 Are you an Apple #developer working with #macOS? Now generally available, Amazon EC2 M1 Mac instances give you on-demand macOS on Apple Silicon, with the flexibility, scalability, & cost benefits of #AWS. Learn how EC2 can work for you.https://t.co
はじめに SOCではインターネットに対して公開されたホストを狙うスキャン活動を観測しています。2021年以降は特に6379/TCP（Redis）と2375/TCP（Docker API）へのスキャンが大幅に増加していることを確認しており、IIJが発行している技術レポート「Internet Infrastructure Review（IIR）Vol.54」内のSOCレポートで紹介しています。 Redisはパスワードが標準では設定されていないため、外部に公開するとパスワードなしでアクセスされる可能性があります。 攻撃者によりconfigコマンドが悪用されることで、任意のコマンドが実行される恐れがあります。 また、Dockerはコンテナを操作できるDocker APIを外部に公開すると、攻撃者が用意したコンテナイメージがデプロイされ、任意のコマンドが実行される恐れがあります。 図-1と図-2に、
Deta Space
“The first step in putting the personal back in the personal computer”
Yarn 3.0 🚀🤖 Performances, ESBuild, Better Patches, ... Hello! Long time no see! Back in December, we decided to start working on our next major release, the 3.0. It took a bit of time to do everything we intended to do, but here we are! So let's talk a bit about what it changes, and what it brings. Note that these are only the highlights, the full changelog is much more comprehensive. And if you
どこでも同じ環境を再現してアプリを動かせるようにする仮想化ツールの「Docker」を、WindowsやMacで使えるようにしたツールが「Docker Desktop」です。このDocker Desktopの製品プランが大幅に変更され、従業員数250人以上・年間収益1000万ドル(約11億円)以上のいずれかを満たす企業は無料プランが利用できなくなりました。 Docker is Updating and Extending Our Product Subscriptions - Docker Blog https://www.docker.com/blog/updating-product-subscriptions/ Docker Desktop no longer free for large companies: New 'Business' subscription is here •
How to deploy on remote Docker hosts with docker-compose | Docker
The docker-compose tool is pretty popular for running dockerized applications in a local development environment. All we need to do is write a Compose file containing the configuration for the application’s services and have a running Docker engine for deployment. From here, we can get the application running locally in a few seconds with a single `docker-compose up` command. This was the initial
GitHub - artichoke/artichoke: 💎 Artichoke is a Ruby made with Rust
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session.
Prettier 2.0
https://ginzajs.connpass.com/event/162321/ の発表内容です
GitHub - github/gh-valet: Valet helps facilitate the migration of Azure DevOps, CircleCI, GitLab CI, Jenkins, and Travis CI pipelines to GitHub Actions.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Railsアプリに最適なAWS EC2インスタンスタイプとは（翻訳）｜TechRacho by BPS株式会社
概要 原著者の許諾を得て翻訳・公開いたします。 英語記事: What's the Best EC2 Instance Type for Rails Apps? - FastRuby.io | Rails Upgrade Service 原文公開日: 2020/10/28 著者: Noah Gibbs サイト: FastRuby 皆さんはAmazon EC2 インスタンスタイプのリストをご覧になったことはありますか？このリストにはさまざまなサイズの仮想マシン（VM）が並んでいて、皆さんはこれらをレンタルしてコードを実行できます。グループごとにさまざまなサイズのVMが山ほどあるので、サイズによってグループ分けされています。 では「Railsアプリを動かすならEC2インスタンスのどのタイプで動かすべきでしょうか？」 その答えは見た目よりもシンプルです。百聞は一見にしかず。 皆さんは数字がお好きで
Lima で Intel on ARM やる
背景 Apple Silicon Mac が登場してしばらく経ち、Intel Mac が購入できなくなる日も遠からずになってきています。 そんな中で、Docker Desktop on Mac, Lima, Podman など複数の選択肢が出現しており、組織で可能な選択肢で乗り切るのだろうと思います。 ところで忘れられてそうですが、多くの企業では、本番環境など当分は Intel x86-64 で、CI もおそらく Intel x86-64 でしょう。でも手元は Apple Silicon Mac で、Docker Desktop on Mac, Lima, Podman などは特別に指定しなければ ARM な VM で動作します。それって結構めんどうくさい状況になりそうです。 つまり Apple Silicon Mac で、Intel x86-64 な Docker ローカル環境を整備した
始めに こんにちは。yosuke2です。 今回は趣味でノートPCにArch Linuxを入れた話をします。 そもそもArch Linuxとは Linuxと名前にある通りLinuxディストリビューションの1つです。 参考: Arch Linux - Wikipedia archlinux.jpより GUIが始めから備わっておらずCUIによる設定を行うことが必要など、基本的に初心者向けではなくコマンドや設定ファイルを触ることに慣れた人向けのディストリビューションとなっています。 何故Arch Linuxを入れようと思ったか まず始めにLinuxディストリビューションを選ぶ前の段階の話として、ノートPCが欲しかったというのがあります。 元々学生時代から使っていたWindows8.1の入ったノートPCがあったのですが、ストレージがHDDで動作が遅いのが辛かったからです。 しかし新しく買おうとすると
webpack の基本的な使い方 以下は webpack のインストール方法や webpack.config.js の設定方法、Loaders ローダー、Plugins プラグイン、splitChunks、webpack-dev-server、v5 で導入された Asset Modules などの基本的な使い方の覚書です。 Node.js がインストールされていることを前提にしています。 ※ webpack5 (バージョン 5) 用に内容を更新しました（2021年12月31日）。 以下で使用しているパッケージのバージョン node: 16.13.2 npm: 8.1.2 webpack: 5.65.0 webpack-cli: 4.9.1 webpack-dev-server: 4.7.2 関連ページ： nvm を使って Node.js を Mac にインストール Node.js を Ma
【2023年最新版】VSCodeをPython超特化型にする 最高の拡張機能20選まとめ。 【VisualStudio Code】【プラグイン】
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ECSでマルチステージング環境を実現した設計と実装 | PR TIMES 開発者ブログ
llama2のファインチューニング(QLORA)のメモ｜Kan Hatakeyama
GCPでのディープラーニング学習環境構築方法 - Qiita
Ruby On BrowserとRuby WASM/WASIの雑感 - ブログのおんがえし
漏えいデータから分析、業界別“ガバガバパスワード”集 海外セキュリティ企業が公開
Next.js のプロジェクトを開発しやすいようにするlintとformatterなどの設定
2022年6月21日に発生したCloudflareの障害について
松竹、Googleフォームの設定ミスで個人情報漏えいの可能性
[Neovim]2023年初頭・個人的に愛用しているNeovimプラグイン🏜
Pythonパッケージの依存関係とライセンスを確認する | DevelopersIO
ACMの証明書をEC2で利用可能になりました - サーバーワークスエンジニアブログ
LangChain Toolsの運用と改善
GitHub Packages Container registry is generally available
課金の心配無用、Azureは無料枠専用アカウントで試せる
Redis・Docker APIを狙うマルウェアの調査とスキャンの観測
2020年師走における Next.js をベースとしたフロントエンドの環境構築
フリーの仮想PCソフト「Oracle VM VirtualBox 6.1」が公開、新機能多数のメジャー更新／「Linux 5.4」をサポート。ユーザーインターフェイスも改善
ローカルでも動く！？日本語に特化した強化学習済み対話GPT言語モデルを検証してみる - Qiita
Yarn 3.0 🚀🤖 Performances, ESBuild, Better Patches, ...
Docker Desktopが無料プランを個人・小規模法人向けに限定、大企業向け新プランを設定
【超入門】20分でLaravel開発環境を爆速構築するDockerハンズオン - Qiita
趣味でArch Linuxを入れてみた話｜TechRacho by BPS株式会社
webpack の基本的な使い方（入門）