deejayrokaのブックマーク - はてなブックマーク

GraphRAG Analysis, Part 1: How Indexing Elevates Knowledge Graph Performance in RAG

TLDR:Knowledge graphs may not significantly impact context retrieval — all knowledge graph RAG methods I examined showed similar context relevancy scores to those of FAISS (~0.74). Neo4j withOUT its own index achieves a higher answer relevancy score (0.93) but an 8% lift over FAISS may not be worth the ROI constraints. This score is compared to Neo4j WITH index (0.74) and FAISS (0.87), suggesting

deejayroka 2024/07/19

リンク

CL 字幕の自動生成 | CyberAgent Developers Blog

目次はじめに CLでの取り組み字幕の仕組み字幕の自動生成音声抽出文字起こし翻訳今後についてはじめにこんにちは、FANTECH 本部の古谷です。今回は、「LDH動画配信サービス「CL」、生成AIを使用した字幕・翻訳機能を提供開始」に伴い、CLにおける多言語対応についてご紹介します。 CLでの取り組み CLでは、世界中のユーザへ最高のエンターテイメントを届けるため、多言語対応に力を入れています。 CLが提供する配信は以下の3種類あり、それぞれ配信の特性に応じて多言語化の課題があります。ライブキャス配信オンデマンド配信ライブ配信ライブキャス配信は、複数のアーティストによるライブ配信で低遅延、かつリアルタイムで配信を楽しむことができます。この特性に合わせ、アーティストの発言を話者分離した上でリアルタイムに7ヶ国語に翻訳しユーザへ伝搬する仕組みを取り入れています。この仕

deejayroka 2024/07/19

リンク

Mistral AIがコード生成特化型AI「Codestral Mamba」をオープンソースライセンスでリリース

MetaとGoogle DeepMindの元従業員が立ち上げたAI開発企業のMistral AIが、コーディング用AIモデル﹁Codestral Mamba﹂を発表しました。オープンソースライセンスでのリリースであり、商用利用が可能となっています。 Codestral Mamba | Mistral AI| Frontier AIin your hands https://mistral.ai/news/codestral-mamba/ Mistral AIは2024年5月に初のコーディング用生成AIモデルとして﹁Codestral﹂をリリースしていましたが、Codestralは商用利用が禁止されていました。 Mistral AIが初のコーディング用生成AIモデル﹁Codestral﹂をリリース、80以上のプログラミング言語でトレーニング済み - GIGAZINE 今回リリースされたC

deejayroka 2024/07/18

リンク

AWS Lambdaを最大限に活用するためのベストプラクティス - Qiita

はじめにサーバーレス大好きなエンジニアです！みなさん、AWS Lambdaを使ってますか？日常的に利用しているけど、最適化についてはあまり考えていない方も多いのではないでしょうか。実際、私もあまり意識せずに使っていました。使い方をちょっと工夫するだけで、Lambdaのパフォーマンスがぐんと上がるんです！今回は、AWSのドキュメントに書かれているベストプラクティスを参考にしながら、Lambdaを最大限に活用する方法をお伝えします。各セクションのタイトルを見ると、ちょっと難しそうに感じるかもしれませんが、できるだけわかりやすく解説していきますので、ぜひ参考にしてみてください！対象読者 Lambdaを使ったことがある人もっと効果的に使いたいと感じている方チームの開発効率とコードの品質を向上させたい方 Lambdaに興味がある方では、早速始めていきましょう！目次ハンドラー

deejayroka 2024/07/18

リンク

LLMOpsを推進！Azure Log Analyticsを活用したLLMの継続的な監視と改善 - AITC - ISID | AI トランスフォーメンションセンターコラム

こんにちは！AIソリューショングループの太田です。このコラムでは、Azure Log Analyticsを使ったLLMOpsの実現方法について紹介します。昨年から大規模言語モデル︵LLM︶を製品やサービスに組み込む企業が増えています。しかし、LLMサービスの品質を維持するには、その運用にも注意を払う必要があります。具体的には、LLMの出力の品質管理や、ユーザーからのフィードバックを元にしたプロンプトの最適化など、継続的な監視と改善が求められています。これらの運用上の活動にAzure Log Analyticsが役立ちます。 LLMOps︵LLM︵Large Language Model︶+ Ops︵Operations︶︶とは LLMOpsは製品に組み込まれたLLMの運用に必要なベストプラクティスの概念を指します。例えば、LLMの運用ではLLMの出力の監視と評価とプロンプト管理

deejayroka 2024/07/18

LLMOps

リンク

LangChainから使用するLangSmithとLangfuseの詳細比較

はじめにこの記事で想定している読者の方 LangChain経由でLLMを用いたchainを使用している方 LangChainと共に使用するLLM実験管理ツールを迷っている方「LangChain」はLLMをシステムに組み込む際に非常に便利なライブラリであり, 実際に開発に用いられている方も多いと思います。ですが, LLMの性質上プロンプトやchainの構造を変化させての実験が多くなってしまい, 記録・管理が大変になりがちです。そんな場合に使用したいLLMの実験管理ツールについて前編の記事にてLangChainから使用するために選定したLangSmithとLangfuseについて今回は実装を行った上で比較して行こうと思います! TL;DR 今回は以下の画像のデモアプリを作成し3種類のchainについて実際に記録しLangSmithとLangfuseの比較を行いました! デモアプリの入力画面

deejayroka 2024/07/17

リンク

Next '24 で発表された生成 AI の基盤となるクラウドストレージのイノベーション | Google Cloud 公式ブログ

※この投稿は米国時間 2024 年4月11日に、Google Cloud blogに投稿されたものの抄訳です。生成 AIにより、ソリューションを生み出す方法、イノベーションの進め方、世界とかかわり方が大きく変化しようとしています。まるで本物のような画像や動画を生成する、音楽を作曲する、コードを記述するなど、生成 AIモデルによりこれまでは考えられなかったことが可能になっています。ですが、AI の威力を十分に活用するためには、スケーラブルなストレージ基盤が欠かせません。 Google Cloud では、企業が生成 AIの潜在能力を活かすためのインフラストラクチャを提供できるよう取り組みを進めています。Google Cloud Next '24では、ストレージのポートフォリオに加わった一連の新機能を発表しました。 Google Cloud のストレージによる AIのトレー

deejayroka 2024/07/17

リンク

「訓練データはタダではない」音楽業界が問う生成AIの根本的問題

強力な生成AIモデルを訓練するには膨大な量の訓練データを必要とする。音楽生成AIスタートアップ2社に対して大手レコード会社が今回起こした訴訟は、これまでで最大のメッセージを伝えている。それは﹁高品質な訓練データは無料ではない﹂ということだ。 by Melissa Heikkilä2024.07.15 8 この記事の3つのポイント生成AIブームを支える訓練データの大規模化に、データ所有者らが反発大手レコード会社がAI 音楽企業を訴えた訴訟が、AIの未来を左右する可能性 AI企業は高額な費用を支払うか、効率的なモデル構築を迫られている summarized by Claude 3 この記事は米国版ニュースレターを一部再編集したものです。生成AIブームは規模に支えられている。訓練データが多ければ多いほど、モデルはより強力になる。しかし、問題がある。人工知能︵AI︶企業が訓練データ取得のため

deejayroka 2024/07/17

リンク

Zen 5+Zen 5cコアの異種混合CPU「Ryzen AI 300」の設計が公開

deejayroka 2024/07/17

リンク

【インタビュー】tofubeats『NOBODY』｜AI・民主化・J-CLUB

2024年4月26日に発表されたtofubeatsによる最新作﹃NOBODY﹄。本人の歌唱はもちろん、ゲストボーカルによる客演もゼロ、そのかわりに全編でDreamtonics社の歌声合成ソフトウェアSynthesizer Vを使用したという本作は、このように書いてみると字面上、アノマリーな作品という印象を受けるものの、作品を聴けばtofubeats流のストロングスタイルなハウス作品であるということがわかるはずだ。リリースから3ヶ月ほど経ったいま、本作にまつわるあれこれ……Synthesizer V導入に至った経緯、いまダンスミュージックに向き合う理由、歌詞への眼差し、今回の取材稼働で何度も語られる﹁J-CLUB﹂というワードなどなど……をtofubeats本人の口からつまびらかにしてもらおうと思う。取材・文 : 高橋圭太撮影 : 寺沢美遊 - ﹃POP YOURS﹄、﹃森、道、市場﹄、

deejayroka 2024/07/17

リンク

OpenAIが新型人工知能「Strawberry」プロジェクトを密かに推進、以前「Q*」とリークで呼ばれていた数学が解けるAI

汎用人工知能(AGI)の研究に画期的な進歩をもたらすかもしれないとウワサされるOpenAIのAI開発プロジェクト「Q*(キュースター)」が、社内で積極的に取り組まれていることが伝えられました。 Exclusive: OpenAI working on new reasoning techno logy under code name ‘Strawberry’ | Reuters https://www.reuters.com/techno logy/artificial-intelligence/openai-working-new-reasoning-techno logy-under-code-name-strawberry-2024-07-12/ OpenAI's Q* Gets New Name, Project Strawberry: Report Says It Can Naviga

deejayroka 2024/07/16

リンク

危機的状況の画像生成AI「Stable Diffusion 3」立て直しへ (4/4)

代表交代、資金注入で立て直しはかる苦しい状態に直面していたStabl ityAIですが、変化の動きもありました。25日、新CEOにプレム・アッカラジュ氏が就任したと発表が行われました。元々現在のCEOは、投資家筋から評判が悪かったと言われる創業者のエマド・モスタク︵Emad Mostaque︶氏の3月の退任後、追加の資金調達なりが決まるまでの暫定CEOという位置づけでした。アッカラジュ氏は、﹁ロード・オブ・ザ・リング﹂などで知られるニュージーランドの映画スタジオWeta DigitalのCEOも勤めたことのあり、その後、Unity Softwareが買収する部門のWeta Cloudの創業者でもあり、映像業界で長年のキャリアを積んできた人物のようです。これに合わせて、AI関連にも積極投資をしている米大手ベンチャーキャピタルのGreycroftを始めとする4社に加え、ナップスターで知ら

deejayroka 2024/07/16

リンク

LLMに面倒なことをやらせるソフト「Code Cooker」の紹介

LLMに面倒なことをやらせたい面倒なことはChatGPTにやらせようという本の著者のからあげです。書籍では、様々な面倒なことをChatGPTにやらせています。ChatGPT単体︵コアの部分︶は、基本的にテキスト︵言葉︶を生成することしかできないので、どうやって面倒なことをやらせているかというと、ChatGPTの生成したテキストで、拡張機能を操作することで、実現しています。イメージ的には以下のように、ChatGPTの手足のように拡張機能を使う感じです。拡張機能としては、色々ありますがChatGPTが生成したコードを実行できるAdvanced Data Analysis︵Code Interpreter︶が重要かつ代表的な機能となります。面倒なことはChatGPTにやらせよう︵講談社︶より引用この機能はChatGPT独自のものだったのですが、最近はGeminiのGoogle AISt

deejayroka 2024/07/16

リンク

AI時代は「質問力」が最大の武器になる→マジの研究者の人が本気で、だけど完全な初心者にもわかるようにプロンプトを解説した本「AI時代の質問力」に興味津々

deejayroka 2024/07/16

リンク

ChatGPTが論文のライティングスタイルにもたらした変化｜genkAIjokyo|ChatGPT/Claudeで論文作成と科研費申請

Preprintあげたのでご報告！📣 ChatGPTが使いがちな英単語ってありますよね。﹁delve﹂﹁realm﹂﹁utilize﹂あたり。︵限界助教先生の記事面白かったです、以下👇参照︶https://t.co/aYK0KDgJ7L… pic.twitter.com/ognOJecixR — 松井健太郎睡眠・精神医学 (Kentaro Matsui) (@matsuikentaro1) May 17, 2024 論文執筆は、多くの研究者にとって時に苦痛を伴う作業です。英語を母語としない研究者にとっては特に、言語の壁が大きな障害となります。ChatGPTは、この障壁を一気に取り払ってくれます。翻訳、校正、要約作成—かつては数日を要したこれらの作業が、数分で完了する。その魅力は、抗いがたいものです。特定の分野、特にコンピューターサイエンスや工学系の論文において、ChatGPT特有

deejayroka 2024/07/16

リンク

ローカルLLMに小説を書いてもらう v2｜Kohya S.

この時はそれぞれ単独のプロンプトで小説家と編集者を演じさせましたが、今回はもうすこしシステマチックに、段階を踏んで小説を生成させてみます。プロンプトの検討等にはkgmkm氏のリポジトリや記事を参考にさせていただきました。この場を借りてお礼申し上げます。仕組みを相談するのにClaude (3.5 Sonnet)とやり取りをしていましたので、この記事の草稿も書いてもらいました。所々、なんとなく冗長だったり文体が違ったりしますが、面倒なのでそのままにしてあります︵すみません︶。生成スクリプト生成スクリプトとプロンプト定義はgistに置きました。 https://gist.github.com/kohya-ss/68d41a9720bfbdfd87869ec970142f4b 概要近年、大規模言語モデル︵LLM︶の発展により、AIによる文章生成の可能性が大きく広がっています。今回はローカル環

deejayroka 2024/07/16

LLM
ai

リンク

コードのコメントやドキュメントなどのテクニカルライティングを生成AIが提案、補完、校正など支援するツール「Grazie」、JetBrainsが提供開始。日本語は未対応

コードのコメントやドキュメントなどのテクニカルライティングを生成AIが提案、補完、校正など支援するツール「Grazie」、JetBrainsが提供開始。日本語は未対応 Kotlin言語や統合開発ツールIntelliJ IDEAなどの開発を行っているJetBrainsは、IT系のテクニカルライティングのためのAI作文支援ツール「Grazie」（紹介動画によると発音は「グラッツィ」のようです）を発表しました。 JetBrainsの説明によると、Grazieで利用している言語モデルはハイテク業界のテキストを学習させているため、テクニカルライティングを的確に支援できるとのことです。 Introducing Grazie, a new AI writing companion! Streamline non-coding tasks right inside your JetBrains IDEs,