ある日漫然と半導体アナリストの市場分析記事を眺めていたら、AMDとNVIDIAが躍進しているという趣旨の記事が出てきて興味を持って読んでみたら、かなり衝撃的な事実が浮かび上がってきて思わず詳細を調べてしまった。 記事の内容は、データセンター市場でのCPU/GPUの売り上げの推移に関するもので、Intel、AMD、NVIDIAの3社がデータセンター市場向けに供給するCPU/GPUの売り上げを四半期ごとに追いかけた形で構成されていた。GPUで強みを発揮するAMDとNVIDIAという構図は以前から感じていたが、各社の四半期の決算の数字をずらりと並べると、この2年間でデータセンター市場では劇的な変化が起こっていることがはっきりと見て取れた。 GPUノードの急増で激変するデータセンター市場 Intel、AMD、NVIDIAの3社はオープン市場で汎用のCPU/GPU半導体製品を供給している。 この2年
Apple・NVIDIA・AnthropicなどがYouTubeの動画字幕を許可なくAIのトレーニングに利用していたと判明
IT系メディアのProof Newsが、AppleやAnthrpic、NVIDIAなどがYouTubeに公開されている17万本以上の動画の字幕をAIの学習に許可なく使用していたと指摘しています。 Apple, Nvidia, Anthropic Used Thousands of Swiped YouTube Videos to Train AI https://www.proofnews.org/apple-nvidia-anthropic-used-thousands-of-swiped-youtube-videos-to-train-ai/ YouTube creators surprised to find Apple and others trained AI on their videos | Ars Technica https://arstechnica.com/ai/20
イギリスのスタートアップ「Spectral Compute」社がCUDAのプログラムを全く変更することなくAMD製GPUで実行できるようにコンパイルするツールキット「SCALE」を開発したと発表しました。 SCALE GPGPU Programming Language https://scale-lang.com/ Announcing the SCALE BETA https://scale-lang.com/posts/2024-07-12-release-announcement Spectral ComputeのCEOであるマイケル・ソンダーガード氏は「一度コードを記述すればあらゆるハードウェアプラットフォームでビルド・実行できるべき」「CPUでは長年実現されてきたのに、なぜGPUでは実現できないのか？」とSCALEの開発に至った経緯を説明。 SCALEはNVIDIAのCUDAツ
生成AIをめぐるもうひとつの循環取引疑惑
こんにちは。 前回はGPU製造のトップ企業、エヌヴィディアを中心とする循環取引――2社以上の企業がお互いに相手先に対する架空の売上を計上して実態より高い収益をあげているように見せかける手法――について説明させていただきました。 今回は架空売上の規模ではGPUをめぐる循環取引より大きい可能性が高い、生成AIとクラウド事業をめぐる循環取引疑惑について詳述したいと思います。 なぜ誕生して間もなく、まだまだ急成長期にあるはずの生成AIが循環取引という姑息な手段で売上高のカサ増しをしなければならないかと言うと、鳴りもの入りで華々しく登場しながら、正直な数字を出せばがっかりするほど収益成長率が低いからです。 生成AIの普及は遅々として進まない エヌヴィディアは最新のH100型GPUを2023年1年間だけでマイクロソフトとメタ（フェイスブック）には15万個ずつ、アルファベット（グーグル）、アマゾン、オラ
世界で初めてリアルタイムレイトレーシング技術を搭載したNVIDIAの「GeForce RTX 20シリーズ」がリリースされてから約6年。リアルタイムレイトレーシング処理の実装は、どのように進化していったのだろうか……？ リアルタイムレイトレーシングの大まかな歴史 2018年、リアルタイムレイトレーシング技術を世界で初めて搭載したのがNVIDIAの「GeForce RTX 20シリーズ」だ。 →NVIDIAが新アーキテクチャの「GeForce RTX」シリーズを発表 価格は499ドルから 同年、Microsoftはゲーム／マルチメディア向けAPIセット「DirectX 12」に、GPUのリアルタイムレイトレーシング処理機能を使うためのAPI「DirectX Raytracing」を追加した。ただ、本APIが本格的に使われ始めたのは、2020年に「DirectX 12 Ultimate」がリリ
NVIDIAは2024年に中国でH20チップを100万個販売して2兆円を売上げる予定、HuaweiのAIチップの2倍を販売して存在感を示す
アメリカが中国に対する高性能半導体の輸出を制限する中で、半導体企業は輸出制限に適合する半導体の中国への販売を続けています。新たに、NVIDIAが中国向けAIチップ「H20」を今後数カ月で100万個以上販売する予定であることが報じられました。 Nvidia to make $12bn from AI chips in China this year despite US controls https://www.ft.com/content/b76ef55b-21cd-498b-ac16-5660908bb8d2 Nvidia to sell AI chips worth $12B in China https://www.cryptopolitan.com/nvidia-to-sell-ai-chips-worth-12b-in-china/ 中国はAIの研究開発に力を注いでおり、生成AI
AIはバブルなのか？
IT大手によるAIへの投資が盛んに行われているなか、そうした投資が「バブル」なのか実際の需要に見合ったものなのかをAI関連企業を主に扱っている投資家のデビッド・カーン氏が分析しています。 AI’s $600B Question | Sequoia Capital https://www.sequoiacap.com/article/ais-600b-question/ AI’s $200B Question | Sequoia Capital https://www.sequoiacap.com/article/follow-the-gpus-perspective/ カーン氏は2023年9月に最初の分析を投稿し、2024年6月に2つ目の分析を投稿しました。最初の分析では大手企業やスタートアップが期待しているAI関連収益をAIへのインフラ投資を基に推測し、AI関連製品の実際の収益成長率が期
ブースは、韓国の音声AI企業Supertoneが出展したもの。角刈りオジサンの美少女ボイスは、リアルタイム音声変換ソフト「SHIFT」のデモによるものだった。このSHIFT、少女だけでなく少年、成人女性、成人男性、渋いおじいさん、悪魔などさまざまな声がプリセットされており、リアルタイムかつ高精度に声を変換できるのが特徴。 独自の音声合成基盤モデル「NANSY」（Neural Analysis & Synthesis）を採用しており、ユーザーの声の事前学習も、10秒程度のサンプルスクリプトを読み上げるだけで完了。ユーザーとキャラクターの音声の混合比率や感情の表現度合い、音の高低なども細かく調整可能だ。 同様の技術として「RVC」（Realtime Voice Changer）などが有名だが、快適に利用するにはNVIDIAの高性能なGPUを必要とする。一方、SHIFTはCPUのみで47ミリ秒と
画像生成AIや大規模言語モデルなどの計算処理にグラフィックボードを用いる場合、「GPUの処理性能」のほかに「VRAMの容量」も重視されます。グラフィックボードにVRAMを増設することは基本的に不可能なのですが、新たにハードウェアメーカーのPanmnesiaがグラフィックボードへのメモリ外付け増設を可能にするシステム「CXL-GPU」を開発しました。 CXL-GPU (PDFファイル)https://panmnesia.com/uploads/panmnesia-CXL-GPU.pdf GPUs can now use PCIe-attached memory or SSDs to boost VRAM capacity —Panmnesia's CXL IP claims double-digit nanosecond latency | Tom's Hardware https://ww
GPUでこんな課題は ありませんか？ 生成AI実行には 高価なGPUが必要 GPUの物理的な環境の準備や セットアップ作業が面倒 海外サービスは 法規的な懸念あり 高火力 DOKはこれらの 課題を解消します
米エヌビディアを起点にした人工知能（AI）関連株の物色が半導体メモリー株に及んでいる。生成AI向けの画像処理半導体（GPU）に組み込む高性能メモリーの需要が急拡大しているためだ。5日にはメモリー大手、韓国サムスン電子が4〜6月期決算の速報値を公表する。半導体株相場の行方を占いそうだ。メモリー株では、韓国SKハイニックスと米マイクロン・テクノロジーの上昇が目立つ。SKの株価は2023年末比で66
DeepLearning系の将棋AIがRyzenのiGPUで簡単に動いた（ふかうら王編） - シンギュラリティ実験ノート
AIデータセンターの1万5000個のGPUを相互接続する技術をAlibaba Cloudの研究者が発表、NVIDIA技術を捨ててイーサネットを採用
Alibaba Cloudのエンジニア兼研究者であるEnnan Zhai氏が、LLMトレーニング向けデータセンターのGPUをイーサネットで相互接続する方法に関する研究論文を発表しました。この技術は特に、NVIDIAのGPU相互接続プロトコルであるNVLinkではなくイーサネットを採用している点で斬新とされています。 Alibaba HPN: A Data Center Network for Large Language Model Training (PDFファイル)https://ennanzhai.github.io/pub/sigcomm24-hpn.pdf Alibaba Cloud ditches Nvidia's interconnect in favor of Ethernet — tech giant uses own High Performance Network t
GitHub - NVIDIA/multi-gpu-programming-models: Examples demonstrating available options to program multiple GPUs in a single node or a cluster
This project implements the well known multi GPU Jacobi solver with different multi GPU Programming Models: single_threaded_copy Single Threaded using cudaMemcpy for inter GPU communication multi_threaded_copy Multi Threaded with OpenMP using cudaMemcpy for inter GPU communication multi_threaded_copy_overlap Multi Threaded with OpenMP using cudaMemcpy for itner GPU communication with overlapping c
一生一緒にエヌビディア【NVDA】の背景 エヌビディア【NVDA】を始めとする半導体関連株が人気です。需給のバランスによる業績の変動、技術革新のスピードから、半導体関連株は値動きが大きいです。かつて中心的な存在だったIntelが目立たなくなっているのは一例です。 とはいえ、２１世紀の新たなサービスであるスマホ、クラウド、AIといったすべての技術的な根幹を支えているのは半導体です。これからも新たなイノベーションが起きるのでしょうが、半導体あってのイノベーションという大枠は変わらないのでしょう。 そういう意味では、業界をまるっと買えるSOX、あるいは類似のSMHなどは魅力です。ちょうど、新薬開発リスクを低減できるヘルスケアセクターのETF買いのような形です。これに関しては、２０１９年に出した拙著でも触れた通りです。 さて、今回はポートフォリオでNVDAが占める割合が大きくなりすぎた、という方か
任天堂株主総会レポート2024
2013年に初参加し、コロナ禍で2年ほど欠席を挟んで今回で10回目の参加となる任天堂株主総会に今年も行ってきた。 先日、株主総会に関する記事執筆の依頼があり、株主総会に参加する意義と楽しみ方について書いたので、合わせて読んでいただけるとありがたい。 任天堂が好き過ぎて株を購入。「任天堂株主総会レポート」中の人が語る、“推し”企業に投資する魅力 | イーデス さて、今年2024年の株主総会だが、Nintendo Live 2024 TOKYOが脅迫により中止に追い込まれたことが影響したのか、今年から手荷物検査が行われると告知があった。博多駅からの始発で開会時間には間に合うのだけど、手荷物検査や天候不良で余計な時間が取られそうだと判断し、余裕を持てるようにホテルを予約して前日入りすることにした。 かつて任天堂の株価はWii全盛期に7万円台をつけ、その後の業績不振によりもっとも低いときは1万円を
Intelが、光学入出力チップレットをCPUに統合した「完全統合型光コンピューティング相互接続(OCI)」の実証デモを発表しました。銅線と電気でデータをやりとりする従来のチップよりも格段に長い距離のデータ伝送を高帯域幅かつ低消費電力で実現するOCIは、大規模なCPUクラスターやGPUクラスターで構築されたAIインフラに革命をもたらすとされています。 Intel Demonstrates First Fully Integrated Optical I/O Chiplet :: Intel Corporation (INTC) https://www.intc.com/news-events/press-releases/detail/1699/intel-demonstrates-first-fully-integrated-optical-io Intel® Shows OCI Opti
米AIスタートアップ「Etched」は6月25日（現地時間）、ChatGPTなど最新のAI技術の基盤となっている「Transformer」アーキテクチャーに特化したチップ「Sohu」を発表した。この発表は、現在NVIDIAが支配的な地位を占めるAIチップ市場に、新たな競争をもたらす可能性がある。 Transformer処理に特化 AIチップ市場は現在NVIDIAが圧倒的なシェアを持つ。同社の汎用GPUは様々なAIモデルを効率的に処理できる柔軟性から市場の約80%を占めている。 多くの大手テクノロジー企業がAI開発のためにNVIDIAのチップに数十億ドルを投資しているのが現状だ。 Etchedの「Sohu」は、ASIC（Application-Specific Integrated Circuit：特定用途向け集積回路）と呼ばれる、特定の用途に最適化された集積回路だ。汎用性は低いものの、特定
自分の認識をだらだら書くとこうなる。 結局のところ2003年から2011年頃までいちばん延べ計算量が必要だったのはリアルタイムの3Dグラフィックスのレンダリングだったんだ。そこではNVIDIAって会社がPCゲームのプラットフォームを握ってしまっていてそこで技術開発をめっちゃ進めてしまったんだ。 結果的にPlayStation2までは純日本設計だったグラフィックチップが、PlayStation3ではNVIDIAのGPUになってしまったんだ。そこで負けが確定してしまった感じだ。PlayStation3のCPU、CELLに内蔵されているSPUは、世代をどんどん進めていったら最終的にレンダリングもできるグラフィックチップに進化する可能性があったのかもしれないけど次世代が出せなかったのでそこで終わりになってしまった。 NVIDIAは先端を走っているユーザーが何を求めているかをめちゃくちゃちゃんと調査
スーパーコンピューターで日本がトップに立ち続けていたら今ブームのAIに繋がったのか？ それともスパコンとAIは関係ない？ 脱Android、Huaweiが独自OS「HarmonyOS NEXT」てのがニュースなったけど これもスパコン技術が応用されてそこから生まれてたりするの？ スパコン予算をすべてに優先してたら日本産独自OSとか日本産AIに繋がってたんだろうか？ つながらない OSはもうぜんぜんまったく完璧に関係ないのでAIについてだけ説明する まず2010年代に始まった第3次AIのブームはソフトウェアというかアルゴリズムのブレークスルーがきっかけ カナダのYoshua Bengio、Geoffrey Hinton、Yann LeCunの3人がディープニューラルネットワークに関する発見をしたこと 3人はこの業績で「ディープニューラルネットワークがコンピューティングの重要な要素となるた
人工知能（ＡＩ）関連株ブームに乗るデイトレーダーにとって、毎週２桁のリターンを得られる賭けは他になかった。 これは、米半導体メーカー、エヌビディアの株価についてレバレッジを効かせた上場投資信託（ＥＴＦ）「グラニトシェアーズ２倍ロングＮＶＤＡ・デイリーＥＴＦ」（ティッカー：ＮＶＤＬ）を指す。記録的な資金を注ぎ込んできた個人投資家は今では、同社の約4300億ドル（約68兆6300億円）に上る時価総額消失を受け、大きな損失に直面している。 エヌビディア株が調整局面入り、過去３営業日で時価総額68兆円消失 エヌビディア株の日次リターンの２倍を提供するＮＶＤＬには先週、記録的な７億4300万ドルの流入があった。投資家は「世界で最も重要な銘柄」とされるエヌビディア株から得られる利益の増幅を狙った。だがそのタイミングは悪かった。ＮＶＤＬは18日終値から約25％下落している。年初来ではなお約329％上昇だ
中島聡さん、NVIDIAのGPUが用済みになるって本当ですか？AI開発の行列乗算をなくす｢MatMul-free LM｣で気がかりなこと - まぐまぐニュース！
エヌビディアの強みであるGPUの優位性を揺るがすかもしれないAI関連の注目論文とは？人気急上昇中のメルマガ『週刊 Life is beautiful』より読者Q&Aをご紹介。著者の中島さんは「Windows95の父」として知られる日本人エンジニア。メルマガでは毎号、読者からの質問に丁寧に回答しています。 ※本記事のタイトル・見出しはMAG2NEWS編集部によるものです プロフィール：中島聡（なかじま・さとし） ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。 1ビットの高速推論AIチップ 米国より先に中国が開発する可能性も 読者からの質
先日時価総額が3兆3350億ドルに達し（約526兆円）、 マイクロソフトを抜いて世界首位となった、 アメリカの半導体大手「NVIDIA」の創業者、 ジェンスン・フアン氏が14日、 カリフォルニア工科大学の卒業式でスピーチを行い、 京都・銀閣寺での日本人庭師との出会いが、 人生で最も重要な教訓になったと話し、話題になっています。 フアン氏は子どもたちが10代だった頃、 毎年夏にNVIDIAの海外オフィスに1ヶ月間赴き、 プライベートでは家族と旅行をしていたそうなのですが、 日本滞在中、京都の銀閣寺に行った際、 見事な手入れが施されている庭園で、 1人の日本人庭師の姿に目を惹かれたそうです。 その庭師さんは「京都特有の」炎天下の中、 竹製のピンセットを使い慎重に枯れた苔を摘み取り、 それを竹かごに入れていたのですが、 その姿に興味を惹かれたフアンさんが、 「この広大な庭でなぜピンセットで作業を
NVIDIA、LLMのトレーニングに使用できるオープンモデルファミリー「Nemotron-4 340B」を発表
NVIDIAは2024年6月14日（米国時間）、大規模言語モデル（LLM）をトレーニングするための合成データを生成するオープンモデルファミリー「Nemotron-4 340B」を発表した。医療、金融、製造、小売など、あらゆる業界の商用アプリケーション向けのLLMに対応している。 高品質のトレーニングデータは、カスタムLLMの性能、精度、応答の質を高める上で重要だが、堅牢（けんろう）なデータセットは、コストが膨大でアクセスしにくい場合がある。 独自のオープンモデルライセンス（NVIDIA Open Model License）を採用しているNemotron-4 340Bにより、開発者は強力なLLMの構築に役立つ合成データを、無料でスケーラブルに生成できると、NVIDIAは述べている。 関連記事 NVIDIA、AI/ML開発者向けツールキット「NVIDIA AI Workbench」の一般提供
米半導体大手「エヌビディア」時価総額世界首位に マイクロソフト抜く（日テレNEWS NNN） - Yahoo!ニュース
アメリカの半導体大手「エヌビディア」の時価総額が18日、マイクロソフトを抜いて世界首位となりました。 【画像】NVIDIA...そのCEOは「もはや神」 18日のアメリカ株式市場で、半導体大手「エヌビディア」の株価は、前の日の終値から3.5パーセント上昇しました。時価総額は3兆3350億ドル、日本円でおよそ527兆円となり、マイクロソフトを抜いて世界首位となりました。 エヌビディアの時価総額は、今月5日に3兆ドルの大台を突破し、アップルを抜いて一時世界2位となったばかりです。AI向け半導体の需要拡大を背景に株価はこの1年で3倍以上高騰しています。 現在、エヌビディアは、アメリカの代表的な株式指数であるダウ工業株30種平均の構成銘柄ではありませんが、市場では、ダウ平均に採用されるとの観測が高まっています。
米NVIDIAは6月14日（現地時間）、LLMのトレーニング用オープン合成データ生成モデルシリーズ「Nemotron-4 340B」を発表した。独自のオープンモデルライセンス（PDF）の下、「あらゆる業界の商用アプリケーション向けLLM」のトレーニングに使うデータセットを合成できるとしている。つまり、商用利用も可能だ。 LLMの開発では、高品質で多様なデータセットでのトレーニングが不可欠だが、ネットなどから収集したデータには偏りや不正確なものが含まれる可能性があり、量にも限りがある。そのため、合成データの生成に注目が集まっている。 Nemotron-4 340Bには、合成データ生成のパイプラインを形成するbase、instruct、rewardの3つのモデルが含まれる。baseモデルは、9兆個のトークでトレーニングされたカスタマイズの基盤となるモデル。独自データを組み込むことで、このモデル
NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models
NVIDIA today announced Nemotron-4 340B, a family of open models that developers can use to generate synthetic data for training large language models (LLMs) for commercial applications across healthcare, finance, manufacturing, retail and every other industry. High-quality training data plays a critical role in the performance, accuracy and quality of responses from a custom LLM — but robust datas
NVIDIAがオープンモデル「Nemotron-4 340B」を発表、LLMトレーニング用合成データの生成に革命を起こすか
高度なAIのトレーニングには高品質な学習データが欠かせませんが、そのようなデータは急速に枯渇しつつあることが問題となっています。NVIDIA2024年6月14日に、大規模言語モデル(LLM)のトレーニングに使用する合成データの生成を念頭に開発され、商用アプリケーションにも使えるオープンソースのAIモデル「Nemotron-4 340B」を発表しました。 NVIDIA Releases Open Synthetic Data Generation Pipeline for Training Large Language Models | NVIDIA Blog https://blogs.nvidia.com/blog/nemotron-4-synthetic-data-generation-llm-training/ Nvidia's 'Nemotron-4 340B' model red
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
データセンター市場で起きている劇的な半導体の主役交代 - 吉川明日論の半導体放談(308)
CUDAのコードを全く変更せずにAMD製GPU向けにコンパイルできるツールキット「SCALE」が登場
3万円以下のビデオカードでゲームを遊ぶことができるか？GPU 11種類×ゲーム10本で実力を検証する 【新装第3回】端境期の今だからこそ見きわめたい格安カードとの付き合い方 text by “KTU”加藤 勝明
GPUの「レイトレーシング処理」改良の歴史をひもとく【GeForce RTX 30シリーズ編】
自作PCのこれまで、そしてこれから。PC自作の夜明けを迎えた1990年代【自作PC史&極私的パーツ名鑑】 DOS/V POWER REPORT 2024年冬号の記事を丸ごと掲載！
学園アイドルマスターのアイドルをより輝かせるライティング手法 | Unity Learning Materials
角刈りオジサンから美少女ボイス 「GPU不要で超低遅延」なリアルタイム音声変換ソフトを見てきた
グラボのVRAMを外付け増設可能にする低遅延データ転送システムが開発される
高性能なGPUを低価格で提供 高火力 DOK（ドック） | さくらインターネット
半導体株物色、NVIDIAの次はメモリー 上昇率が指数の２倍 点検 半導体株 - 日本経済新聞
「AMD ROCm」が「WSL 2」にベータ対応 ～NVIDIAでいうところの「CUDA」に相当／マルチGPU、「Tensorflow」もサポート
Intelをも唸らせるTSMCが今後投入する新しい半導体技術
一生一緒にエヌビディア【NVDA】、そして積みビディアへ - たぱぞうの米国株投資
Intelが光でデータ伝送の距離を100倍にする「光コンピューティング相互接続」チップレットを発表
【大原雄介の半導体業界こぼれ話】 生成AIのバブルはいつ弾ける？
「NVIDIA最新GPUの20倍速い」史上最速を謳うAIチップ「Sohu」
自分の認識をだらだら書くとこうなる。 結局のところ2003年から2011年頃まで..
スーパーコンピューターで日本がトップに立ち続けていたら今ブームのAIに繋..
低価格ゲーミングPC自作の最適解が見えた！Ryzen 7 5700X3D/5700Xの10～13万円プランで徹底ベンチ 【第7戦】エントリー～ミドルGPUに3D V-Cacheは効くのか!? text by 芹澤 正芳
【Hothotレビュー】 Core Ultra 7 165H搭載の最新NUC登場！高性能かつ静かなミニPC「ASUS NUC 14 Pro」
エヌビディア株のレバレッジ型ＥＴＦ、株価急落前に記録的な資金流入
加熱するLLM開発競争に冷や水、オープンモデルの組み合わせだけでGPT-4o越えの事実
海外「だから親日家なのか！」NVIDIA創業者が日本で学んだ人生で最も重要な教えが話題に
第289回 NVIDIAはなぜ強いのか？ 競合ベンダー創業者の視点で考えてみる
NVIDIAの時価総額が世界一に。Microsoftを抜く
NVIDIA、AIトレーニング用合成データ生成モデル「Nemotron-4 340B」を商用利用可でリリース
【Ubuntu日和】 【第54回】お手軽に画像生成するならこれ！Intel Arc A580の侮れない実力
