タグ

ブックマーク / wirelesswire.jp (9)

  • 1ビットLLMの衝撃! 70Bで8.9倍高速　全ての推論を加算のみで!GPU不要になる可能性も


    1ビットLLMの衝撃! 70Bで8.9倍高速　全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pmJST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日﹁デイリーAIニュース﹂を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
    1ビットLLMの衝撃! 70Bで8.9倍高速　全ての推論を加算のみで!GPU不要になる可能性も
    stealthinu
    stealthinu 2024/02/29
    1bit量子化というか3値にしてるらしい？これだと掛け算いらないからGPUが不要ということなんだが学習は結局GPUでやったのを量子化してるんじゃないの？もうちょっと詳しく見ないとわからんな。
    リンク

  • 格下の相手には手を抜く対戦AI


    格下の相手には手を抜く対戦AI 2018.02.21 Updated by Ryo Shimizu on February 21, 2018, 08:17 am JST 筆者が経営するギリア株式会社と株式会社UEIでは、週に1回程度、個人の研究発表をする場を設けています。たまにインターンも参加します。 深層学習はあまりにもできることが多く、その可能性を少しでも効率的に探るため、個々人がそれぞれの仮説を持って研究した成果や知見を交換しておくことは非常に重要だからです。 AlphaZeroをベースとした深層強化学習の研究をしていた開発者が、面白い発見を報告してくれました。 ﹁どうもAIからみて相手が格下だと、手を抜く傾向がある﹂ 彼は決定論的問題の一つである迷路をAlphaZeroに解かせようとしていました。 ただし、迷路は毎回作り直されます。 左上からスタートして、右下のゴールを目指します。
    格下の相手には手を抜く対戦AI
    stealthinu
    stealthinu 2018/02/22
    相手がランダムだと手が悪すぎてそれに該当する学習回数が少ないから悪い目の手を選んでしまうということはないかなあ。
    リンク

  • NVIDIAが規約変更によりGeForceのデータセンター利用を制限。大学などの研究活動にも大ブレーキ


    NVIDIAが規約変更によりGeForceのデータセンター利用を制限。大学などの研究活動にも大ブレーキ First Order rising 2017.12.19 Updated by Ryo Shimizu on December 19, 2017, 16:08 pmJST 深層学習分野で、NVIDIAの名を知らない者は潜りと言われても仕方がないでしょう。かつて日本の新聞社で、NVIDIAを﹁謎の半導体メーカー﹂と呼んで赤っ恥をかいた人がいますが、NVIDIAなくして深層学習の研究はままならないことは間違いありません。 というのも、深層学習に不可欠な積和演算機能に優れた半導体とAPIを提供しているのが、事実上世界にNVIDIA一社しかないからです。 Intelやその他のメーカーも頑張って入るのですが、NVIDIAが持つ多数の知的財産権の前に、後塵を拝しています。 それはそれで、NVID
    NVIDIAが規約変更によりGeForceのデータセンター利用を制限。大学などの研究活動にも大ブレーキ
    stealthinu
    stealthinu 2017/12/20
    『先日NVIDIAが主催したGPU Technology Conferenceの壇上でこの点について指摘したものの当然のように会場では黙殺されました』これちゃんと指摘したことすばらしいな。
    リンク

  • 明晰な知能の定義


    明晰な知能の定義 The definition of bright intelligence 2017.03.31 Updated by Ryo Shimizu on March 31, 2017, 09:39 am JST AIと一口に言っても、大きく分けて深層学習以前と以後に分けられます。 深層学習以前のAIは、はっきり言って停滞していました。 停滞しつつも、手書き文字認識や音声認識といった分野で着々と実績を積み上げ、そしてそのどこかに﹁越えられない壁﹂のようなものを感じてまた停滞する、ということを繰り返してきました。 昨今注目されているAIは深層学習で、実は深層学習屋さんと、それ以前の機械学習または自然言語処理屋さんは仲が良くないのです。 深層学習以前の世界では、AIの研究というと、﹁情報をどう扱うか﹂﹁情報のどの部分に着目するか﹂ということ、専門的な言葉でいえば﹁情報の特徴量﹂をど
    明晰な知能の定義
    stealthinu
    stealthinu 2017/04/03
    『共通点は新しいテクノロジーの到来を受け入れられなかった人たちは滅んだということ』という主題には同意するんだけど一番の例として深層学習上げるのはどうか。ニューロブームは３度目だってよくご存知だろうに。
    リンク

  • 第二世代人工知能の亡霊がもたらす”AIの冬”


    第二世代人工知能の亡霊がもたらす"AIの冬" AIWinter is coming!! 2016.11.21 Updated by Ryo Shimizu on November 21, 2016, 15:49 pmJST 日立が公開した﹁汎用人工知能﹂のプロモーションビデオが日本のAI業界で悪い意味での注目を集めています。 このビデオでは、日立は自社で開発したAI技術﹁H(エイチ)﹂を、﹁汎用人工知能﹂と自称しています。 しかし、﹁汎用人工知能﹂は、通常、AGI(Artificial General Intelligence)の訳とされ、人工知能研究のメインストリームでは、GoogleやFacebookなどを含めて﹁まだ世界の誰も開発に成功していない﹂ものとされています。 ビデオに登場する株式会社日立製作所、研究開発グループ技師長の矢野和夫氏によれば、このH(エイチ)は、﹁(カスタマ
    第二世代人工知能の亡霊がもたらす”AIの冬”
    stealthinu
    stealthinu 2016/11/21
    Watsonの例がやばい。物売るってレベルじゃねえ感。Watsonって医師が見つけられなかった病気見つけたとかニュースになってなかったっけ？ほんとこれじゃ80年台エキスパートシステムのまんまじゃんね…
    リンク

  • 知性とは何か　AlphaGoの初戦で感じたこと


    知性とは何か　AlphaGoの初戦で感じたことDaisy, Daisy! Planted one day... AlphaGo sings a requiem for humanity 2016.03.10 Updated by Ryo Shimizu on March 10, 2016, 07:38 am JST AlphaGoが人類最強の棋士と目されるイ・セドル9段を初戦で下しました。 このことは、囲碁関係者に大きな衝撃を与えています。 反対にAI関係者にとっては、残念ながら想像通りの結果になったと言えます。 AI関係者は、Googleがあそこまで断言するということは当然勝算あってのことだと考える人が多かったように思えます。仮に今回負け越したとしても、善戦すれば、数ヶ月のうちにさらに棋力を増し、いずれは打ち負かすだろうというのが大方の予想でした。 AlphaGoが一度でも人類のトップ
    知性とは何か　AlphaGoの初戦で感じたこと
    stealthinu
    stealthinu 2016/03/10
    内容もだけどサブタイトルに『Daisy, Daisy! Planted one day... AlphaGo sings a requiem for humanity』とついててかっけえ！と思って筆者見たらid:shi3zさんだった。さすがだわ。
    リンク

  • ディープラーニングを小学生でも使えるようにしてみる

    ディープラーニングを小学生でも使えるようにしてみる Trial to make easy to use deep learned neural network 2015.06.30 Updated by Ryo Shimizu on June 30, 2015, 06:59 am JST この一ヶ月で、ディープラーニングが急激に使いやすくなってきています。 Google傘下のディープラーニング研究グループDeep Mindでインターンをしているスタンフォード大学の学生はこんな台詞をツイートしています。 「ディープラーニングに関して、新しくクールな論文が発表される速度は、それを読める速度より速い」 それこそ毎日のようにディープラーニングに関する何らかの新しい話題が出てきます。 それくらい、ディープラーニングは盛り上がっているのです。 「人工知能は人間を超えるか」を記した東京大学の松尾豊先生に

    ディープラーニングを小学生でも使えるようにしてみる
    stealthinu
    stealthinu 2015/06/30
    清水さん煽り過ぎ…　そりゃ学習したあとのネットワークはだれでも使えるよ。ライブラリみたいなもんだもの。まあでもそれだけでも十分使える品質のものが提供されるようになったのは特筆すべき事だが。
    リンク

  • 日本でデスマーチが発生する理由とW杯コートジボアール戦のゴミ拾いの関係 - WirelessWire News（ワイヤレスワイヤーニュース）

    先日のワールドカップの日本対コートジボアール戦で、日本のファンが、試合に負けたのにも関わらず、スタジアムのゴミを拾ったことが、様々な国のサッカーファンやメディアに驚かれました。 Japanese fans stayed behind after the game last night to clean their section of the stadium. Class act. pic.twitter.com/av1hzs4eXY— World Cup 2014 (@Brazil14WC) June 15, 2014 Japanese fans cleaning near the seats where they were sitting. Such an admirable civilisation. Massive respect. pic.twitter.com/leAYPuEK

    stealthinu
    stealthinu 2014/06/17
     読み進めていって、はあ？？となったところでアイコン見てやっと気がついた。くっそ。もっと早くにこいつだと気がつくべきだった。時間が無駄になった。  

    ●ネタ
      
    リンク

  • サラ金よさようなら - WirelessWire News（ワイヤレスワイヤーニュース）


    そろそろクリスマス休暇で路上で酔いつぶれている人が大量に出没しているイギリスです。年末ではありますが、イギリス政府、日本だったら﹁はあああ？﹂とびっくりする施策を発表いたしました。 イギリスでもリーマンショック後に、中小企業への貸し渋りが社会問題となっておりましたが、なんとP2P金貸しサイトに政府が出資し、中小企業はそっから金を借りてくれ、と発表いたしました。 主導しているのは、ビジネス＆イノベーションスキル省︵微妙に胡散臭い役所名ですな︶という役所です。ここが用意したBusiness Finance Partnershipという資金から、約26億円をFunding Circleに、約13億円をZopaに出資することにしました。 どちらもイギリスではメジャーなP2P金貸しサイトでありますが、ビジネス向けにもお金を貸してますので、中小企業の利用者が結構多いんであります。 このP2P金貸しサイ
    stealthinu
    stealthinu 2012/12/19
    イギリスではクラウドなんちゃらみたいな感じでC2Cで少額の金貸しをやるってサービスが始まってるとのこと。一般化してくるときっとスパマーによって悪用されそうだが。
    リンク
  • 1

お知らせ

もっと読む

公式Twitter

  • @HatenaBookmark

    リリース、障害情報などのサービスのお知らせ

  • @hatebu

    最新の人気エントリーの配信

はてなブックマーク

公式Twitter

はてなのサービス

  • App Storeからダウンロード
  • Google Playで手に入れよう
Copyright © 2005-2024 Hatena. All Rights Reserved.