サクサク読めて、
アプリ限定の機能も多数!
アプリで開く
●はてなブックマークって?
●アプリ・拡張の紹介
●ユーザー登録
●ログイン
●ログアウト
トップへ戻る
総合
●人気
●新着
●
IT
●
最新ガジェット
●
自然科学
●
経済・金融
●
おもしろ
●
マンガ
●
ゲーム
●
はてなブログ︵総合︶
一般
●人気
●新着
●
社会ニュース
●
地域
●
国際
●
天気
●
グルメ
●
映画・音楽
●
スポーツ
●
はてな匿名ダイアリー
世の中
●人気
●新着
●
新型コロナウイルス
●
働き方
●
生き方
●
地域
●
医療・ヘルス
●
教育
●
はてな匿名ダイアリー
政治と経済
●人気
●新着
●
政治
●
経済・金融
●
企業
●
仕事・就職
●
マーケット
●
国際
●
はてなブログ︵政治と経済︶
暮らし
●人気
●新着
●
カルチャー・ライフスタイル
●
ファッション
●
運動・エクササイズ
●
結婚・子育て
●
住まい
●
グルメ
●
お金
●
はてなブログ︵暮らし︶
●
掃除・整理整頓
●
雑貨
●
買ってよかったもの
●
旅行
●
アウトドア
●
趣味
学び
●人気
●新着
●
人文科学
●
社会科学
●
自然科学
●
語学
●
ビジネス・経営学
●
デザイン
●
法律
●
本・書評
●
将棋・囲碁
●
はてなブログ︵学び︶
テクノロジー
●人気
●新着
●
IT
●
セキュリティ技術
●
はてなブログ︵テクノロジー︶
●
AI・機械学習
●
プログラミング
●
エンジニア
おもしろ
●人気
●新着
●
まとめ
●
ネタ
●
おもしろ
●
これはすごい
●
かわいい
●
雑学
●
癒やし
エンタメ
●人気
●新着
●
スポーツ
●
映画
●
音楽
●
アイドル
●
芸能
●
お笑い
●
サッカー
●
話題の動画
アニメとゲーム
●人気
●新着
●
マンガ
●
Webマンガ
●
ゲーム
●
任天堂
●
PlayStation
●
アニメ
●
バーチャルYouTuber
●
オタクカルチャー
●
おすすめ
都知事選
﹃qiita.com﹄
●
人気
●
新着
●
すべて
54users
qiita.com/Azunyan1111
AIが作った画像か判断するAIを作りました Webサービスとして提供していましたが、飽きたのでクローズしました ※機械学習やったことない人が書いてます Why ピクシブのお気持ち表明記事の﹁AI生成作品のフィルタリング機能﹂というのが気になり、機械学習で作ることが出来るのではと思いやってみることに Step 1 素材を集める 割愛 Step 2 コードを書く AutoGluon というAutoML(全自動で良い感じに機械学習してくれる奴)ツールを使ったので、パラメーターの調整や難しいコードは何も書いてません。 過去に使って良い感じになった奴を流用します。 from autogluon.vision import ImagePredictor, ImageDataset if __name__ == "__main__": # \imagesの中にはAIが生成した画像フォルダとAIが作ってな
●
テクノロジー
●2022/10/21 21:01
●機械学習
●AI
●人工知能
●サービス
●あとで読む
●画像
●qiita
●techfeed
72users
qiita.com/Azunyan1111
はじめに こんな記事書いてる人です。 Python Webスクレイピング テクニック集﹁取得できない値は無い﹂JavaScript対応@追記あり2/28 Python Webスクレイピング 実践入門 ︻毎秒1万リクエスト!?︼Go言語で始める爆速Webスクレイピング︻Golang︼ スクレイピングが大好きで、スクレイピングするためにAWSやVPS、Docker、サーバーレスなどなど1から勉強したりする人です。︵もちろん遊びの範囲で︶ 今回はそんな毎日スクレイピングしている自分がされたら嫌だなぁって思う現実的なスクレイピング対策を教えます。(Flash使えばいいじゃんとか極論はNG) ※この記事はスクレイピングの対策であって、SEO的に不利になったりすることもあります。ご注意を 趣味で一つのVPS環境で複数のドメイン・サイトを管理できるCMSを作ったりもしてます。1サイトマップ・RSSフ
●
テクノロジー
●2018/09/13 10:00
●スクレイピング
●scraping
●PubSubHubbub
●あとで読む
●SEO
●web
●python
●WebSub
5users
qiita.com/Azunyan1111
はじめにGoで並列処理を書く時に、例えばgoroutineの数は上限10個で処理が終わったらまたgoroutineを立ち上げて処理をするみたいなものだったりとか個人的によく使う物を紹介します。 ※最適な書き方とかではなくて、こう書けばこう動くよ集です。 ※sleepはコピペした時にわかりやすいようにと処理を止めを簡略化するために使ってます goroutineの処理が終わるまで処理を止める
●
テクノロジー
●2018/03/11 01:02
●golang
13users
qiita.com/Azunyan1111
はじめに Webスクレイピング、みなさん大好きですよね。私は大好きです。 今回は秒間1~10万リクエストを送る方法をご紹介したいと思います。 だだし注意していただきたい所があります。 過剰なリクエストは相手のサーバーに負担をかけ、最悪訴訟問題となります。 有名なものだとLibrahack事件とも呼ばれる岡崎市立中央図書館事件と言うものがあります。 岡崎市立中央図書館事件 - wikipedia Webスクレイピングの注意事項一覧 また、相手のサーバだけではなく、通信業者︵プロバイダ︶等から目をつけられる可能性もあります。 最悪の場合通信業界のブラックリストに入り一生ネット契約ができなくなるかもしれません。︵存在するかは知りません︶ それらを考えた上で、スクレイピングを行いましょう。 ︵もちろん許可取ったり、著作権とかも考えてね!︶ あくまで技術的にこうすればできるよという知見と考えてくださ
●
学び
●2018/02/23 10:14
●golang
●scraping
●Qiita
●プログラム
●tech
●Ruby
1205 users
qiita.com/Azunyan1111
この記事について 本記事はPythonを使ったWebスクレイピングのテクニックを紹介します。 ※お酒飲みながら暇つぶしで書いたので割と適当です。 今回紹介するテクニックを使えれば経験上大体どんな値でも取得でき、これらはRubyだろうがGolangだろうが同じ様に動作します。 Webスクレイピングが出来ないサイトがあればコメントにて教えてください。全身全霊を持ってやってみます。 また、Webスクレイピングをしたことが無い方は下記の記事を読むことをお勧めします。 Python Webスクレイピング 実践入門 - Qiita 追記更新 6/12 コメントに対応しました。 はじめに 注意事項です。よく読みましょう。 岡崎市立中央図書館事件(Librahack事件) - Wikipedia Webスクレイピングの注意事項一覧
●
テクノロジー
●2018/02/22 10:50
●python
●スクレイピング
●あとで読む
●scraping
●プログラミング
●JavaScript
●web
●chrome
●selenium
●テクニック
8users
qiita.com/Azunyan1111
はじめに Markdown便利ですよね。QiitaやGutHubなど主要なサービスでは主にMarkdownを使って記事の投稿だったり、中~長文を投稿するときにはよく使われていますよね でもユーザーにWebページに投稿するときに気をつけないといけないのはXSS インターンシップなどで学生が作ったサイトとかだと大体6割はXSSできちゃいます。︵とか言う自分も学生なんですけどね!︶ ここでは私個人が経験したXSSについて色々紹介したいと思います。 追記 書いてて思ったけど、Markdownあんまり関係ないです。 いってみよぉ! HTML編 まず最初はこちら!
●
テクノロジー
●2017/12/05 12:03
●markdown
●xss
●Security
●あとで読む
4users
qiita.com/Azunyan1111
本記事の読者対象は ・人工知能っていうのはアバウトに知ってるけどよくわからない ・そもそも人工知能ってそこまで価値なくね? ・やろうと思ったが数式を見て萎えて辞めた ・人工知能をやりたいがどうすればいいかわからない ・人工知能系のソースはムズすぎて読めない みたいな人を対象にしています。 遺伝的アルゴリズムは人工知能の一部として定義されていますが、 私からすると感覚的に二分探索のアルゴリズムを書いてる感覚です。 遺伝的アルゴリズムもアルゴリズムなので概念を理解すれば実装は簡単です。 本記事は実践的なので、そもそも遺伝的アルゴリズムを知らない人は対象外です。 ですが、安心してください。下記の神スライドを全部読んでアバウトに理解すればOKです。 (このスライドは神レベルで超効率的に遺伝的アルゴリズムを学べます。本にして売ってください) 遺伝的アルゴリズム︵Genetic Algorithm︶を
●
政治と経済
●2017/11/10 16:25
●AI
●python
118 users
qiita.com/Azunyan1111
PythonによるWebスクレイピングの実践入門を書きたいと思います。 概論的なところは除いて、フィーリングで理解していくスタイルで行きたいと思います。 ※追記 本記事は少し難しいやり方をとっていますが、学習すると言う意味ではとても価値あるものだと思います。 本記事を読み終えた後はこちらのテクニック編をご覧になるとサクッと出来たりします。 Python Webスクレイピング テクニック集﹁取得できない値は無い﹂JavaScript対応 やること 最終的には﹁1時間ごとに日本経済新聞にアクセスを行いその時の日経平均株価をcsvに記録する﹂ プログラムを組んでみたいと思います。 注意 注意事項です。よく読みましょう。 岡崎市立中央図書館事件(Librahack事件) - Wikipedia Webスクレイピングの注意事項一覧 何を使うの? 言語:Python 2.7.12 ライブラリ:urll
●
テクノロジー
●2017/08/03 18:09
●python
●スクレイピング
●プログラミング
●あとで読む
●scraping
●web
●ソフトウェア
このページはまだ
ブックマークされていません
このページを最初にブックマークしてみませんか?
﹃qiita.com﹄の新着エントリーを見る
キーボードショートカット一覧
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
●総合
●一般
●世の中
●政治と経済
●暮らし
●学び
●テクノロジー
●エンタメ
●アニメとゲーム
●おもしろ
●アプリ・拡張機能
●開発ブログ
●ヘルプ
●お問い合わせ
●ガイドライン
●利用規約
●プライバシーポリシー
●利用者情報の外部送信について
●ガイドライン
●利用規約
●プライバシーポリシー
●利用者情報の外部送信について
●公式アカウント
●ホットエントリー
●はてなブログ
●はてなブログPro
●人力検索はてな
●はてなブログ タグ
●はてなニュース
●ソレドコ
Copyright © 2005-2024 Hatena. All Rights Reserved.
設定を変更しましたx