stealthinuのブックマーク - はてなブックマーク

最後にKANは勝つのか?MLPに変わると主張されるKANを試す｜shi3z

コルモゴロフ・アーノルド・ネットワークス(KAN;Kolmogorov–Arnold Networks)は、MITとカルテック、ノースイースタン大学、NSF 人工知能および相互作用研究所らの共同研究によって生まれた、これまでの多層パーセプトロン(MLP;Multi Layer Perceptron)に変わるニューラルネットワークだそうな。先週一番話題になったので知ってる人も多いと思う。 AIの世界は恐ろしく、世界の片隅で新発見がされるとそれが一週間もしないうちに世界中でテストされ、改良され、確認され、解析される。 KANの公式な実装には機械学習屋がHello Worldと呼ぶMNIST(手書き数字6万字を学習させて精度を競うモノ)がなかった。それどころかGPUも使われていなかったので、﹁一体全体どうすれば?﹂と困惑するしかなかったのだが、さすが世界は広い。すでにEfficient-KANや

stealthinu 2024/05/08

KANが今だとあんまりメリットなくてあと通常の画像認識とかそういうのには向かない（関数推定とかに向く）というテスト結果

deeplearning

リンク

Copilot Studioを使ってみた。注意点と実際にかかるお金の話など｜shi3z

Copilot StudioはMicrosoft 365 E5というお高いパッケージに入らないとプレビュー版すら使えないらしい。仕方ないので会社で入りましたよ。会社に所属してるのは3人だけど、E5だと25人分のアカウントがついてくる。しかし!!! 金さえ払えば使えるというほどイージーなものではなかったので皆さんにお伝えします。ちなみにE5に入っただけで月額45000円(1800円x25で)になりました(ただし七日間の試用期間中にキャンセルすれば無料に)。まずMicrosoft365で企業アカウントを作り、会社のメンバー的な人に個人アカウントを発行します(この時点でかなりハードルが高い)。そしてCopilot Studioのページからリンクに飛べば、企業の個人アカウントでログインできた。やったぜ! しかしログインしても、様子がおかしい。なんかフローチャートが出てきて、フローチャート

stealthinu 2023/11/17

こうやって人柱になってくれてありがたい… まだごりごりpreviewという感じ。

リンク

GPT-3.5-Turbo / GPT-4-Turbo 1106のJSONモードの使い方｜shi3z

日本時間未明(午前三時)ものすごいスピードで語られたOpenAI初の開発者向けイベントDevDayで発表されたGPT-4-TurboとGPT-3.5-TurboによるJSONモード。これはものすごく強力なんだけど、Python APIによる使い方がどこにも描いてないので試行錯誤の末見つけましたので共有いたします。 from openai import OpenAI import openai import os openai.api_key = "<APIキー>" client = OpenAI() def gpt(utterance): #response = openai.chat( response = client.chat.completions.create( #model="gpt-4-1106-preview", model="gpt-3.5-turbo-1106", r

stealthinu 2023/11/08

JSONモード、確実にJSON吐いてくれるのありがたい。ただまだAPIの動作安定してないな。

リンク

俺に起業の相談をするな｜shi3z

最近よく聞かれるので改めて言っておく。俺に起業の相談をするな。一切受けつけていない。突然事業のアイデアを言われても俺は助けないし助けられない。俺が相手にするのはUberEatsのユーザーと、昔から一緒に仕事をしている人の紹介だけだ。もうすぐ五十路が見えているというのに新たな人間関係を構築しようとするほど俺は暇でも気長でもない。相談されるとそれだけで僕の頭脳が無駄に消費される。俺に相談するというのは基本的に泥棒である。俺は何か聞いたら自分でも意識しないうちに気の利いた解決策を考えてしまう。俺にとって俺の頭脳は商売道具だから、俺に起業の相談をするというのはタダでイラストレーターに絵を描けと言ってるのと同じだ。相談を受けなくていいようにたくさん記事を書いてるし本も書いている。俺の情報を一方的に発信するのは構わないのだが、誰かのへんな考えを聞いて時間を浪費したくない。時間は限られているのだ。

stealthinu 2023/10/23

うわー、これは同意しかない。つい最近、会社が潰れるとこに立ち会ってた(というか現在進行系)とこなので…

リンク

無料でGPT4越え!?ついに来たXwin-LM｜shi3z

今日のウィークリーAIニュースではnpaka大先生と一週間のニュースを振り返った。今週もいろいろあったが、なんといってもダークフォース、GPT-4越えと言われるXwin-LMである。中国製。大先生もまだ試してないというので番組内で一緒に試してみた。もちろんドスパラ製Memeplexマシン(A6000x2)を使用。 >>> from transf ormers import AutoTokenizer, AutoModelForCausalLM >>> model = AutoModelForCausalLM.from_pretrained("Xwin-LM/Xwin-LM-7B-V0.1") Downloading (…)lve/main/config.json: 100%|██████████████████| 626/626 [00:00<00:00, 56.2kB/s] [2023

stealthinu 2023/09/23

これでGPT4なみ？くらいの気持ちで読んでたら、なんと7B！？それはとんでもねえわ。どんな魔法？？例のTextbook is All You Need.のおかげなのかな？これはまたさらに世界が加速するな。 ●deeplearning ●LLM

リンク

もうみんなプログラマーになれるよ｜shi3z

僕の20年来の親友にnpakaというプログラマーがいるんだけど、彼はもう超凄い。何でもすごい。何でも書けるし何でも早い。本を書くのもプログラムを書くのも、新しいわけわかんない説明書がバグだらけの環境に慣れるのも早い。んで、これまではちょっとしたことも難しいことも全部npaka(布留川君)に頼んでたんだけど、最近二人とも独立したからつまんないこと頼むのは悪いなと思って﹁あれはできるんだっけ﹂くらいのことは自分で何とかしようかなと思った。それでChatGPTに﹁Swiftで⚪︎⚪︎やるにはどうすんの?﹂と聞いたら、Swiftについてほとんど何も勉強してないのに作りたいものが何となくすぐにできてきちゃって、でもまあやっぱりChatGPTだと知識が古いので詰まったらネットで検索すると、だいたい結局npaka(布留川君)のページが出てきてやはり信頼と実績の大先生(仲間内ではそう呼ばれている)です

stealthinu 2023/09/11

『だいたい結局npaka(布留川君)のページが出て』最近すごいこの状況になってる。RAG使う何かを作ってる人たちはみんなこの状況ではないか。

リンク

OpenInterpreter / ついにAIがガチのアシスタントに!これは凄い、というか凄すぎる｜shi3z

凄いものが出てきてしまった。 ChatGPTの﹁Code Interpreter﹂が話題になったが、あれはあくまでクラウド上で動いているだけ。それを模してローカルで動作するようになった﹁Open Interpreter﹂は、衝撃的な成果である。 Open Interpreterのインストールは簡単。コマンド一発だ $ pip install open-interpreter起動も簡単 $ interpreter -yこれだけでOK。あとはなんでもやってくれる。たとえばどんなことができるのかというと、﹁AppleとMetaの株価の推移をグラフ化してくれ﹂と言うとネットから自動的に情報をとってきてPythonコード書いてグラフをプロットしてくれる。凄いのは、ローカルで動くのでたとえばApplescriptを使ってmacOSで動いているアプリを直接起動したり操作したりできる。﹁Keynot

stealthinu 2023/09/08

清水さん大げさだからと思って開いたがほんとに凄い。なるほどCode Interpreterと同等のがローカルで動くなら使えるツールの制限や外のデータにアクセスできな問題は解決される／試したすげえ

リンク

LINEの3.6B言語モデルで遊んだら爆笑した｜shi3z

LINEから36億(3.6B)パラメータの大規模言語モデル(LLM)が公開されたので早速遊んでみた。正確には遊んだのは昨日のデイリーAIニュースなのだが、面白かったのでこちらにも転載する。細かいやり方は大先生のページを参照のこと。例によってこんな関数を書いた def line(prompt): # 推論の実行 input_ids = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt") tokens = model.generate( input_ids.to(device=model.device), min_length=50, max_length=300, temperature=1.0, do_sample=True, pad_token_id=tokenizer.pad_token_i

stealthinu 2023/08/16

おー、3.6Bでここまでできるとは。やっぱある程度以上になるとモデルよりデータが主役であるとここでも立証されてる。

リンク

プレ・シンギュラリティ、もう始まってない?｜shi3z

毎日AIニュースを追いかけていると、当然、波がある。﹁今週は落ち着いてるな﹂とか﹁今日はやばいな﹂とか。今日は、久々に﹁やばいな﹂という日だった。まず、一日のうちにSOTA(State Of The Art)超えしたという大規模言語モデルを三つくらい見た。明らかにおかしい。さらに、AttentionとMLPを使わない大規模言語モデルの実装も見た。世界を三次元的に解釈して合理的な質問と答えを行う大規模言語モデルもあれば、4ビット量子化した60モデルは8ビット量子化した30Bモデルよりも高性能という主張がなされたり、Googleは論理回路の設計を強化学習で行なっているという。どれもこれもにわかには信じ難いが、今目の前で起きていることだ。﹁シンギュラリティ﹂の定義には、﹁AIがAIを設計し、改良し続ける﹂という部分があるが、今のAIは人間も考えているが、実はAIがAIを設計している部分

stealthinu 2023/07/27

清水さんの言ってることよりブコメの反応が気になった。意外とまだLLMからAGIとかシンギュラリティへつながること自体を否定してる人たち多いのねという。DL界隈の人はさすがにそこは認めるになった気がする。

リンク

Midjourney/Memeplex(StableDiffusion)などの画像生成AIで思い通りの画像を出すヒント｜shi3z

このnoteの収益を使ってStable Diffusionを使ったWebサービス https://memeplex.appを公開しました。誰でも無料で何枚でもAI作画をすることができます(そのかわり、混み合ってる時は時間がかかると思います)。このnoteで学んだことをぜひ活用して、AIによる新しい時代の風を感じてください。また、本文中にMidjourney、StableDiffusion、DreamStudio、Memeplexなどの言葉が頻出するため、全面的な修正を行うことにしました。StableDiffusionに統一しておきたいと思います。現状(2022/8/28)は、StableDiffusion=DreamStudio/Memeplexと考えて構いません。Memeplexは将来的にStableDiffusion以外のアルゴリズムもサポートする予定だからです。

stealthinu 2022/08/09

midjourneyのイディオム的なもの。

リンク

はてなブックマーク

タグ

ブックマーク / note.com/shi3zblog (10)

お知らせ

今週のはてなブックマーク数ランキング（2024年7月第2週）

はてなブックマーク透明性レポート（2024年 2月-2024年4月）

今週のはてなブックマーク数ランキング（2024年7月第1週）

公式Twitter

キーボードショートカット一覧

はてなブックマーク

公式Twitter

はてなのサービス