イギリスのスタートアップ「Spectral Compute」社がCUDAのプログラムを全く変更することなくAMD製GPUで実行できるようにコンパイルするツールキット「SCALE」を開発したと発表しました。 SCALE GPGPU Programming Language https://scale-lang.com/ Announcing the SCALE BETA https://scale-lang.com/posts/2024-07-12-release-announcement Spectral ComputeのCEOであるマイケル・ソンダーガード氏は「一度コードを記述すればあらゆるハードウェアプラットフォームでビルド・実行できるべき」「CPUでは長年実現されてきたのに、なぜGPUでは実現できないのか？」とSCALEの開発に至った経緯を説明。 SCALEはNVIDIAのCUDAツ
ある日漫然と半導体アナリストの市場分析記事を眺めていたら、AMDとNVIDIAが躍進しているという趣旨の記事が出てきて興味を持って読んでみたら、かなり衝撃的な事実が浮かび上がってきて思わず詳細を調べてしまった。 記事の内容は、データセンター市場でのCPU/GPUの売り上げの推移に関するもので、Intel、AMD、NVIDIAの3社がデータセンター市場向けに供給するCPU/GPUの売り上げを四半期ごとに追いかけた形で構成されていた。GPUで強みを発揮するAMDとNVIDIAという構図は以前から感じていたが、各社の四半期の決算の数字をずらりと並べると、この2年間でデータセンター市場では劇的な変化が起こっていることがはっきりと見て取れた。 GPUノードの急増で激変するデータセンター市場 Intel、AMD、NVIDIAの3社はオープン市場で汎用のCPU/GPU半導体製品を供給している。 この2年
生成AIをめぐるもうひとつの循環取引疑惑
こんにちは。 前回はGPU製造のトップ企業、エヌヴィディアを中心とする循環取引――2社以上の企業がお互いに相手先に対する架空の売上を計上して実態より高い収益をあげているように見せかける手法――について説明させていただきました。 今回は架空売上の規模ではGPUをめぐる循環取引より大きい可能性が高い、生成AIとクラウド事業をめぐる循環取引疑惑について詳述したいと思います。 なぜ誕生して間もなく、まだまだ急成長期にあるはずの生成AIが循環取引という姑息な手段で売上高のカサ増しをしなければならないかと言うと、鳴りもの入りで華々しく登場しながら、正直な数字を出せばがっかりするほど収益成長率が低いからです。 生成AIの普及は遅々として進まない エヌヴィディアは最新のH100型GPUを2023年1年間だけでマイクロソフトとメタ（フェイスブック）には15万個ずつ、アルファベット（グーグル）、アマゾン、オラ
世界で初めてリアルタイムレイトレーシング技術を搭載したNVIDIAの「GeForce RTX 20シリーズ」がリリースされてから約6年。リアルタイムレイトレーシング処理の実装は、どのように進化していったのだろうか……？ リアルタイムレイトレーシングの大まかな歴史 2018年、リアルタイムレイトレーシング技術を世界で初めて搭載したのがNVIDIAの「GeForce RTX 20シリーズ」だ。 →NVIDIAが新アーキテクチャの「GeForce RTX」シリーズを発表 価格は499ドルから 同年、Microsoftはゲーム／マルチメディア向けAPIセット「DirectX 12」に、GPUのリアルタイムレイトレーシング処理機能を使うためのAPI「DirectX Raytracing」を追加した。ただ、本APIが本格的に使われ始めたのは、2020年に「DirectX 12 Ultimate」がリリ
NVIDIA GPU向けCUDAのコードをそのままAMD GPU向けにコンパイル出来る「SCALE」が登場 | XenoSpectrum
人々をNVIDIA製GPUに縛り付けていた枷の一つが取り払われるかも知れない。英国の企業Spectral Computeが7年の開発期間を経て、CUDAプログラムをAMD GPUでネイティブに実行できるGPGPUツールチェーン「SCALE」を公開した。これにより、開発者はコードの変更なしにCUDAアプリケーションをAMD GPUで動作させることが可能になるのだ。 SCALEがもたらすGPGPU開発の新たな道 SCALEは、CUDAソースコードをAMD GPU向けにネイティブコンパイルする「クリーンルーム実装」として設計された。これまでのHIPIFYやZLUDAなどの既存のソリューションとは異なり、SCALEはコードの変換や移植作業を必要とせず、CUDAプログラムをそのままAMD GPU向けにコンパイルできる。 特筆すべき点として、SCALEはNVIDIAのnvccコンパイラの代替として機能
SCALE documentation
SCALE by Spectral Compute# What is SCALE?# SCALE is a GPGPU programming toolkit that allows CUDA applications to be natively compiled for AMD GPUs. SCALE does not require the CUDA program or its build system to be modified. Support for more GPU vendors and CUDA APIs is in development. To get started: See the tutorial. Review the examples. Contact us for help. How does it work?# SCALE has several k
TeslaP40(VRAM/24GB)x2+RTX3060/12GB+X99マザボセットでローカルLLM推論専用マシンを作った話
■目次 ・1.はじめに/注意事項 ・2.ハードウェア ・3.ソフトウェア ・4.BIOS設定 ・5.OSのインストール ・6.CUDAのインストール ・7.カードにPLを設定する ・8.DockerでText generation web UIを立ち上げる ・9.言語モデルのダウンロードと設定、推論など ・10.参考にしたサイトなど 1.はじめに/注意事項中古のNVIDIA Tesla P40/24GBをローカルLLMの推論用に使うのは茨の道です。 ローカルLLM推論用に大容量のVRAMが欲しければ素直にマイニング落ちのRTX3090/24GBなどを使う方が難易度/汎用性/ワッパ/リセールバリュー（手放して売る際の値段など）などの面で優れています。 Linux環境ではIntel/Arc、AMD/Radeonという選択肢もあります。 2.ハードウェアTesla P40はサーバー/ワークステー
SCALE is a GPGPU programming toolkit that allows CUDA applications to be natively compiled for AMD GPUs.
GDDR について もともとGPGPUはGPUであり、GPUはグラフィックスボードであります。 グラフィックスボードは、DVIとかHDMIとかDisplayPort を備え、60fps などで毎フレーム画像を生成＆出力するものですが、そうするとゲームなどではその fps に対して、例えば 60fps であれば 16.6ms の時間で読みだせる分量だけのテクスチャなどを絵作りに使えることになります。昨今ではマルチパスレンダリングも当たり前に行われていますので、１枚の絵を作るためにメモリ上での描画作業は何度も繰り返されます。 つまり１枚の絵を、より高精細で複雑にしようとするととにもかくにも大量のバス帯域が無いとはじまりません。 逆に、1フレーム時間で読みだせない容量があっても、それは別のシーンの描画の為の準備的なデータを置いておくことにしか使えませんので、やはり容量より帯域が優先されがちです。
#SCALEとは？CUDAアプリケーションをAMDGPU用に有益にコンパイルできるようにするGPGPUプログラミング ツールキット #七16
https://docs.scale-lang.com より SCALEとは？ SCALE は、CUDA アプリケーションを AMD GPU 用に有益にコンパイルできるようにする GPGPU プログラミング ツールキットです。 SCALE では、CUDA プログラムやそのビルド システムを変更する必要はありません。 より多くの GPU ベンダーと CUDA API のサポートが開発中です。 始めるには:をご覧ください チュートリアル.レビュー the 例示例.お問い合わせ 助けのために。 どのように機能しますか？# SCALEには、他のクロスプラットフォームGPGPUソリューションと比較して、いくつかの重要な革新があります:SCALE は CUDA プログラムをそのまま受け入れます。それらを別の言語に移植する必要はありません。これは、プログラムがインラインPTXを使用している場合でも同様で
電源メーカーのSeasonicがNVIDIA RTX 5000シリーズのTDP情報を掲載、RTX 5090はTDP500Wに到達か | XenoSpectrum
電源メーカーSeasonicのWebサイトには、適切な電源を選択するための「電源ワット数計算ツール」が用意されており、ユーザーはCPUやGPU、SSDの搭載数やファンの数を入力することでオススメの電源を知ることが出来る様になっている。ユーザーにとって便利な代物だが、これが今回NVIDIAの次世代GPUの電力情報を掲載していることが、@Olrak29_氏の指摘から明らかになった。そしてその情報から、全体的に消費電力は増加傾向である事も明らかになっている。 RTX 5000シリーズは全体的に消費電力が増加傾向か Seasonicの電源ワット数計算ツールは、過去にもAMDのGPUについて、発売前に電力情報を掲載したことがあった事から、今回の情報もある程度信憑性を持って見ることが出来るかも知れない。Seasonicに掲載された情報によると、RTX 5000シリーズの各モデルのTDPは以下の通りのよ
はじめに どんな人向けの記事？ ローカルLLMに興味がある方 ローカルLLM向けにGPUの購入を検討している方 内容 本記事では、ローカルLLMの推論に向いているGPUの選定を行います。 タイトルにある通り、結論から言うと私はM2 Ultra搭載のMac Studioを購入しました。 なぜ私が60万円以上もするMac Studioを購入するに至ったのか？その経緯を書き留めています。 検討項目 ローカルLLMの推論向けに最適なGPUは何か？ 今後のGPU販売計画も考慮して、今買うべきか待つべきか？ Mac Studioを購入する際の具体的なスペックはどうすべきか？ 背景 昨年、画像生成AI向けにNVIDIAのGeForce RTX 3060 (12GB)を購入しましたが、最近のローカルLLMの性能向上により、このGPUでは物足りなくなってきました。また、メインで使用している第8世代Core
GeForce Game Readyドライバ 556.12 不具合情報。Core 2 Duoなど、古いCPUのサポートを終了。インストールするブルースクリーンや再起動ループ | ニッチなPCゲーマーの環境構築Z
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
CUDAのコードを全く変更せずにAMD製GPU向けにコンパイルできるツールキット「SCALE」が登場
3万円以下のビデオカードでゲームを遊ぶことができるか？GPU 11種類×ゲーム10本で実力を検証する 【新装第3回】端境期の今だからこそ見きわめたい格安カードとの付き合い方 text by “KTU”加藤 勝明
データセンター市場で起きている劇的な半導体の主役交代 - 吉川明日論の半導体放談(308)
GPUの「レイトレーシング処理」改良の歴史をひもとく【GeForce RTX 30シリーズ編】
SCALE GPGPU Programming Language
GPGPUのメモリアーキテクチャついて考えてみる - Ryuz's tech blog
ローカルLLMのための最適なGPU選定：Mac Studio購入の決め手