NVIDIAがオープンモデル「Nemotron-4 340B」を発表、LLMトレーニング用合成データの生成に革命を起こすか
高度なAIのトレーニングには高品質な学習データが欠かせませんが、そのようなデータは急速に枯渇しつつあることが問題となっています。NVIDIA2024年6月14日に、大規模言語モデル(LLM)のトレーニングに使用する合成データの生成を念頭に開発され、商用アプリケーションにも使えるオープンソースのAIモデル「Nemotron-4 340B」を発表しました。 NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models | NVIDIA Blog https://blogs.nvidia.com/blog/nemotron-4-synthetic-data-generation-llm-training/ Nvidia's 'Nemotron-4 340B' model red
「彼氏がジムに行くと3時間くらい戻ってきません。週に何回も行くし普通そこまでトレーニングしませんよね？黒ですか？」→「これはやってますねぇ…」
お花やさん @ohana_ippai_ あかんめちゃくちゃ笑った 「彼氏がジムに行くと3時間くらい戻ってきません。週に何回も行くし普通そこまでトレーニングしませんよね？黒ですか？」みたいなの流れてきたけど多分ほんとにその人トレーニングしてると思う 2024-06-04 22:05:01
GPT4-Vの100分の1のサイズで同等の性能を誇るマルチモーダルモデル「Llama 3-V」が登場、トレーニング費用はたった8万円
画像認識が可能なオープンソースモデルの「Llama 3-V」が公開されました。Llama 3-Vは、OpenAIのマルチモーダルモデル「GPT4-V」よりも格段に小型で、事前トレーニングにかかる費用は500ドル(約78000円)程度なのにもかかわらず、ほとんどの指標で同等のパフォーマンスを示しています。 Llama 3-V: Matching GPT4-V with a 100x smaller model and 500 dollars | by Aksh Garg | May, 2024 | Medium https://aksh-garg.medium.com/llama-3v-building-an-open-source-gpt-4v-competitor-in-under-500-7dd8f1f6c9ee 今回発表されたLlama 3-Vは、 Metaが公開した言語モデルの「L
OpenAIが、AIモデルのトレーニングに用いるために100万時間を超える分量のYouTube動画をダウンロードして利用していたことがThe NewYork Timesの指摘でわかりました。なお、YouTubeと同じ親会社AlphabetのもとにいるGoogleは、OpenAIの行為に気付いていましたが、自分たちも独自のAIモデルのトレーニングにYouTubeの動画を活用していたため、行動を起こさなかったとのことです。 How Tech Giants Cut Corners to Harvest Data for A.I. - The New York Times https://www.nytimes.com/2024/04/06/technology/tech-giants-harvest-data-artificial-intelligence.html Google reporte
AWS 認定トレーニング「Advanced Architecting on AWS」を受講してみた | DevelopersIO
お疲れ様です。AWS 事業本部のヒラネです。 AWS 認定トレーニング「Advanced Architecting on AWS」を受講してきたので内容のご紹介や感想をお伝えしたいと思います。 お疲れ様です。AWS 事業本部の平根です。 AWS 認定トレーニング「Advanced Architecting on AWS」を受講してきたので内容のご紹介や感想をお伝えしたいと思います。 AWS トレーニングとは AWS トレーニングとは、AWS の利用方法の知識とスキルを身に付けるための公式教育プログラムです。 クラスメソッドのメンバーズプレミアムサービスにご加入いただいているお客様の場合は、 特別割引価格で受講いただけます! 提供トレーニングの詳細やお申込みは以下 URL をご参照ください。 今回は、トレーニングの中でも「Advanced Architecting on AWS」を受講しまし
バックパックの背中「汗」問題を解決! これを取り付けるだけで夏場でもさらっと快適【今日のライフハックツール】
「家族から率直にキモいと言われたので図解します」こんな感じでソシャゲしてたら腰痛が起きなくなったという体勢、実際良いトレーニングになるらしい
コハル @kohal9000 この体勢のままソシャゲやってたら最近腰痛が起きなくなったし、家族から率直にキモいと言われたので図解します。 pic.twitter.com/IoxiQHfNNj 2024-01-27 19:52:56
ChatGPTに単語を「永遠に」繰り返すよう促すことでトレーニングに使われた膨大なテキストデータを吐き出させる攻撃手法をGoogleの研究者らが開発
ChatGPTのトレーニングにはインターネットから取得したデータが利用されていますが、具体的なデータの中身は非公開となっています。「同じ単語を繰り返して」という単純な命令を行う事でChatGPTにトレーニングデータを出力させることに成功したとGoogleの研究者らが発表しました。 Extracting Training Data from ChatGPT https://not-just-memorization.github.io/extracting-training-data-from-chatgpt.html [2311.17035] Scalable Extraction of Training Data from (Production) Language Models https://arxiv.org/abs/2311.17035 機械学習モデルのトレーニングに使用したデー
Microsoft、「基礎C#認定資格」を公開 無料でC#が学べる35時間分のトレーニングコースも
Microsoft、「基礎C#認定資格」を公開 無料でC#が学べる35時間分のトレーニングコースも：freeCodeCampと提携 Microsoftは、freeCodeCampと提携してC#の認定資格である「Foundational C# Certification」を公開した。C#プログラミングの基礎を包括的に学べる35時間のコースも含まれている。
米X（旧Twitter）が9月29日に発効させするプライバシーポリシーの改定で、公開データをAIのトレーニングに使うことを新たに追加していたことが明らかになった。米IT系ブログStackdiaryが9月1日に指摘した。 日本語版では、「本ポリシーで概説されている目的のため、当社が収集した情報や一般公開された情報を、機械学習または人工知能モデルのトレーニングに使用することがあります。」となっている。 この件について、XのオーナーでCTO（最高技術責任者）のイーロン・マスク氏は「（トレーニングに使うのは）公開データだけで、DMやプライベートなものは対象外だ」とポストした。 マスク氏は7月、“スーパーインテリジェントAI”構築を目指して立ち上げる新企業ｘAIで、xAIのAIモデルのトレーニングに、Twitterの公開データを利用すると明言している。xAIのWebサイトには、「当社はX Corpと
マネージャー＆リーダー向け 社内トレーニング / Training of management and leadership for Stockmark
ストックマークの社内研修の公開版※資料です。 （※実際に研修で利用したものとは異なります）
Linux Foundationは、edXプラットフォームを通じて、オープンソースやその他のソフトウェアの安全な使用・開発についての無料オンラインコース「セキュア ソフトウェア開発」を提供している。今回発表されたのは、第2部の「セキュア ソフトウェア開発：実装（LFD105-JPx）」。 本トレーニングは3部から構成されており、6月から第1部「セキュア ソフトウェア開発：要件、設計、再利用（LFD104-JPx）」が提供されていた。 同トレーニングの対象は、ソフトウェア開発者、DevOpsプロフェッショナル、ソフトウェアエンジニア、Webアプリケーション開発者、および安全なソフトウェアの開発方法の学習に関心のある人々。限られたリソースで、情報セキュリティを向上させるための実践的な手順に焦点を当てている。攻撃に強いソフトウェアを開発するためのセキュリティの基本、脆弱性が悪用された場合の実践的
米国の作家の経済的地位向上を目的とするAuthors Guild（全米作家協会）は7月18日（現地時間）、米OpenAIなどの生成AIに取り組む企業のCEOに対し、AIのトレーニングに作家の作品を無断で使わないよう求める書簡を公開した。本稿執筆現在、8500人以上が署名している。 宛先は、以下の企業のCEOだ。 OpenAIのサム・アルトマンCEO AlphabetおよびGoogleのスンダー・ピチャイCEO Metaのマーク・ザッカーバーグCEO Stability AIのエマド・モスタークCEO IBMのアービンド・クリシュナCEO Microsoftのサティア・ナデラCEO 書簡には、「大規模言語モデル（LLM）で構築される生成AIは、われわれの著作物のおかげで存在する」「これらのテクノロジーは、われわれの言葉、物語、スタイル、アイデアを模倣し、逆流させている。著作権で保護された何百
イーロン・マスク氏は7月14日（米国時間）、12日に予告した新企業xAIに関するスペースを予定より少し遅れて開催した。4万人以上がリアルタイムで参加し、マスク氏の伝記を執筆中のウォルター・アイザックソン氏やキム・ドットコム氏なども質問した。 マスク氏は、xAIの目標は複雑な科学や数学の問題を解明し、宇宙を理解するのに役立つ“スーパーインテリジェントAI”を構築することだと語った。そうしたAIは2029年までに登場すると予想するのが現実的だという。xAI立ち上げメンバーらは、社会に利益をもたらす「人間より賢いAI」を構築したいと語った。 マスク氏はまた、将来的にはOpenAIやGoogleなどに代わるAI企業になるが、xAIはまだ初期段階であり、競合に追いつくには時間が必要だとも語った。 途中、異星人が見つからないのはなぜかについての「フェルミのパラドックス」について熱く語る場面もあった。ま
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
なぜイチローは筋トレを「否定」したのか……運動科学の第一人者が解き明かす「トレーニング不要論」の真意（高岡 英夫）
100万時間以上のYouTube動画をOpenAIがAIモデルのトレーニングに利用していたことが判明
1日6分でOK。言いたいことを「瞬時に」言葉にするための言語化トレーニング | ライフハッカー・ジャパン
英語発音の練習方法！初心者からネイティブ級を目指す人まで発音が良くなるトレーニング法を紹介
【セキュリティ資格】CISSP合格体験記_202310_トレーニング有 - Qiita
X（旧Twitter）、ユーザーの公開データをAIトレーニングに使うと改定ポリシーに明記
Linux Foundation、日本語版「セキュア ソフトウェア開発：実装」トレーニングを無料提供
全米作家協会、生成AI大手に「トレーニングに著作を無断で使うな」公開書簡
マスク氏、xAI紹介スペースで「TwitterのデータをLLMトレーニングに使う」などの発言