タグ

関連タグで絞り込む (11)

タグの絞り込みを解除

アルゴリズムと機械学習に関するskypenguinsのブックマーク (10)

  • 金子勇さんのED法を実装してMNISTを学習させてみた - Qiita


    追記‥続きを書きました。 はじめに 先日以下の記事が投稿され、その斬新な考え方に個人的ながら衝撃を受けました。 内容をざっくり言うと、ニューラルネットワークの学習を現在の主流であるBP法︵誤差逆伝播法︶ではなく、ED法︵誤差拡散法︶という新しい学習手法を提案しているものです。 もし記事の内容が本当ならニューラルネットワークの学習がO(1)でできてしまう事になり、まさしく革命が起きてしまいます。 ︵結論からいうと速度面はそこまででもなかったです︵それでも早くなる可能性あり︶︶ ︵ただこの新手法のポテンシャルは革命を起こす可能性は秘めているといっても過言ではありません︶ED法に関してネットを探すとインターネットアーカイブに情報が少し残っていました。 このページですがED法のサンプルプログラム︵C言語︶が残っており、このサンプルプログラムをベースにpythonで書き起こしたものが本記事となりま
    金子勇さんのED法を実装してMNISTを学習させてみた - Qiita
    skypenguins
    skypenguins 2024/04/20
    “これが1999年に考えられていたなんて衝撃です。 ディープラーニングの誕生が2006年らしいので〜” NN(神経回路網)とBP法(誤差逆伝播法)は両方とも60年代からずっと存在してるような…
    リンク

  • Twitter's Recommendation Algorithm

    Twitter aims to deliver you the best of what’s happening in the world right now. This requires a recommendation algorithm to distill the roughly 500 million Tweets posted daily down to a handful of top Tweets that ultimately show up on your device’s For You timeline. This blog is an introduction to how the algorithm selects Tweets for your timeline. Our recommendation system is composed of many in

    Twitter's Recommendation Algorithm

  • inzkyk.xyz

    2021/03/24 Jeff Bezanson, Stefan Karpinski, Viral B. Shah, Julia contributors 著

    inzkyk.xyz

  • 異常検知入門と手法まとめ - Qiita

    異常検知について勉強したのでまとめておきます。 参考文献 下記文献を大いに参考にさせていただきました： [1] Ruff, Lukas, et al. "A Unifying Review of Deep and Shallow Anomaly Detection." arXiv preprint arXiv:2009.11732 (2020). [2] 井手. "入門 機械学習による異常検知―Rによる実践ガイド" コロナ社(2015) [3] 井手,杉山. "異常検知と変化検知 (機械学習プロフェッショナルシリーズ)" 講談社サイエンティフィク(2015) [4] 比戸. "異常検知入門" Jubatus Casual Talks #2(2013) [5] Pang, Guansong, et al. "Deep learning for anomaly detection: A rev

    異常検知入門と手法まとめ - Qiita

  • 確率的勾配降下法のメリットについて考えてみた


    機械学習初心者です。機械学習やディープラーニングでは、﹁確率的勾配降下法﹂というアルゴリズムがよく出てきますが、そのメリットがいまいちピンとこなかったので考えてみました。素人のポエムなのでトンチンカンなこと書いていると思います︵そこそこ長いよ！︶。 二次関数の最小値 全てはここから始まります。今回の確率的勾配降下法も、それのもととなった最急降下法も全てこれの応用です。 例‥$ y=x^2-4x$ の最小値とそのときの$x$を求めなさい 参考‥二次関数の最大値，最小値の2通りの求め方 数学的解法︵1︶～平方完成～ 高校数学でおなじみ︵？︶の平方完成をします。 $$y = (x^2-4x+4)-4 = (x-2)^2-4 $$ したがって、x=2のときに最小値-4です。簡単ですね。 しかし、次数や次元が増えていくと簡単に平方完成できなくなります。もう少し一般的に使える方法を考えます。 数学的解
    確率的勾配降下法のメリットについて考えてみた

  • 勾配降下法の最適化アルゴリズムを概観する | POSTD


    (編注‥2020/10/01、2016/07/29、いただいたフィードバックをもとに記事を修正いたしました。) 目次‥ さまざまな勾配降下法 バッチ勾配降下法 確率的勾配降下法 ミニバッチ勾配降下法 課題 勾配降下法を最適化するアルゴリズム Momentum(慣性) Nesterovの加速勾配降下法 Adagrad Adadelta RMSprop Adam アルゴリズムの可視化 どのオプティマイザを選ぶべき？ SGDの並列化と分散化 Hogwild! Downpour SGD SGDのための遅延耐性アルゴリズム TensorFlow Elastic Averaging SGD 最適化されたSGDに対する更なる戦略 シャッフル学習とカリキュラム学習 バッチ正規化 早期終了 勾配ノイズ 結論 参考文献 勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネット
    勾配降下法の最適化アルゴリズムを概観する | POSTD

  • If文から機械学習への道

    機械学習とif文が地続きであることを解説しました。 ver.2 質問への回答を追加し、顧客価値の小問に図を追加してわかりやすくかみ砕きました。Read less

    If文から機械学習への道

  • たのしい機械学習 Part1


    (原文‥Machine Learning is Fun! by Adam Geitgey より許可を得て翻訳) (訳者注‥難解な機械学習のコンセプトを平易に説明している素晴らしいブログを見つけ、ぜひ日本の皆さんに伝えたい！と思い文章化しました。共感いただいた方、文章末尾の❤️マークからいいね！お願いします。一緒に機械学習勉強してくれる人も募集中です。=>Email:dai@jenio.co) 機械学習の事を人々が話しているけど、 あなたは言葉の意味はわかっていない。 そんな場面に遭遇した事はありませんか？ 同僚の言葉に相槌を打つのに疲れた。。 そんな状況を変えましょう！ このガイドは機械学習に興味があるけど、 何から勉強したらいいのかわからない人に向けて書かれました。 多くの人がWikipediaを見ると思いますが、 ストレスがたまり、 誰かがレベルの高い説明をしてくれるのを望みますよね？
    たのしい機械学習 Part1

  • Chainerで顔イラストの自動生成 - Qiita


    PFNのmattyaです。chainerを使ったイラスト自動生成をやってみました(上の画像もその一例です)。20日目の@rezoolabさんの記事(Chainerを使ってコンピュータにイラストを描かせる)とネタが被っちゃったので、本記事ではさらに発展的なところを書いていきたいと思います。一緒に読んでいただくとよいかと。 概要Chainerで画像を生成するニューラルネットであるDCGANを実装した→github safebooruから顔イラストを集めてきて学習させた 学習済みモデルをconvnetjsで読み込ませて、ブラウザ上で動くデモを作成した→こちら(ローディングに20秒程度かかります) アルゴリズム 今回実装したDCGAN(元論文)はGenerative Adversarial Networkというアルゴリズムの発展形です。GANの目標は、学習データセットと見分けがつかないようなデ
    Chainerで顔イラストの自動生成 - Qiita

  • ストリームデータ解析の世界


    ︻機械学習アドベントカレンダー2015 8日目︼ ストリームデータ解析 という分野がある。ある生成元から絶えずデータが到来する環境で、いかにそれらを捌くかという話。﹁時間計算量はほぼ線形であって欲しいし、空間計算量も小さく抑えつつ精度を担保したいよね﹂ということを考える世界。個人的に最近はそのあたりの情報を追いかけていたので、整理も兼ねてその世界を俯瞰したい。 すごいリンク集 はじめに、この分野で外せないと思うリンクを3つ挙げておく。 ■ SML: Data Streams YahooやGoogleの研究所を経てCMUの教授をしているAlex Smola先生の講義の一部︵スライド＋動画あり︶。理論からシステムアーキテクチャまで包括した実際的な機械学習ならこの人。この人の機械学習サマースクールの講義は最高だった。 古典的なものから最近のものまで、代表的なアルゴリズムについて直感的な説明といい
    ストリームデータ解析の世界
  • 1

お知らせ

もっと読む

公式Twitter

  • @HatenaBookmark

    リリース、障害情報などのサービスのお知らせ

  • @hatebu

    最新の人気エントリーの配信

はてなブックマーク

公式Twitter

はてなのサービス

  • App Storeからダウンロード
  • Google Playで手に入れよう
Copyright © 2005-2024 Hatena. All Rights Reserved.