タグ

fluentdに関するuzuki05のブックマーク (7)

  • td-agentでqueue size exceeds limit - Glide Note

    昨年構築してからずっと安定稼働していたfluend(td-agent)が年明けくらいから下記のエラーが出て連日停止してしまって、 ちょっとハマったのでメモしておく。(ハッキリとした原因は掴めてないですが) 利用しているtd-agentのバージョンはtd-agent-1.1.18-0.x86_64。 現象 fluent.logには下記が出ていて、機能が停止している。 2014-01-09T20:28:59+09:00 fluent.error {"error":"#<Fluent::BufferQueueLimitError: queue size exceeds limit>","error_class":"Fluent::BufferQueueLimitError","message":"forward error"} 2014-01-09T20:28:59+09:00 fluent.w

    uzuki05
    uzuki05 2016/11/01
    取りこぼしがあったので調べてみたらこのことだったみたい
  • Norikra+FluentdでDoS攻撃をブロックする仕組みを作ってみた | Developers.IO


    Norikra NorikraSQL ApacheNorikra1 Norikratagomoris Norikra使DoS DoS ApacheFluentd  Fluentdin_tail Fluentdout_norikraNorikra Norikra
    Norikra+FluentdでDoS攻撃をブロックする仕組みを作ってみた | Developers.IO
    uzuki05
    uzuki05 2014/05/15
    これはいい
  • Amazon LinuxにFluentdをインストールしてS3とMongoDB連携する | Developers.IO

    あらゆるログを収集する 昨年あたりからfluentdという名前をよく耳にするようになりました。弊社での実際のプロジェクト活用が出てきています。そこで今回は備忘録としてセットアップからプラグインのインストール等の基的な手順を紹介したいと思います。 セットアップ Amazon Linuxにインストールするためにリポジトリを設定して簡単インストールします。 $ sudo vi /etc/yum.repos.d/td.repo [treasuredata] name=TreasureData baseurl=http://packages.treasure-data.com/redhat/$basearch gpgcheck=0 yumでインストールにて自動起動設定します。 $ sudo yum install td-agent -y $ sudo service td-agent start

    Amazon LinuxにFluentdをインストールしてS3とMongoDB連携する | Developers.IO
  • 増えるログ、多様化するログをどう効率的に運用するか

    増えるログ、多様化するログをどう効率的に運用するか:今さら聞けないfluentd~クラウド時代のログ管理入門(1)(1/2 ページ) 仮想化やクラウド化、モバイル化の進展に伴い、管理すべきログが多様化・肥大化しています。そんな中でも効率よく、意味のあるログ管理を実現するツールとして注目されている「fluentd」を、これから始めたい方のために一から解説します。 システムを安定して効率良く運用していくために、ログ管理は欠かせない要素の1つです。仮想化やクラウド化、モバイル化の進展につれてシステムはますます大規模化し、それに伴い管理すべきログが多様化・肥大化する傾向にあります。 fluentdはこういった中でも、効率よく、意味のあるログ管理を実現するために非常に有用なツールです。連載では、fluentdの基と具体的な活用方法を紹介します。 ログ管理の現状と課題 環境の仮想化・クラウド化、さ

    増えるログ、多様化するログをどう効率的に運用するか
  • Fluentdが流行る理由がいま分かる、10の実践逆引きユースケース集 - Y-Ken Studio

    ログデータを活用してビジネスに役立てようという最近のトレンドは理解できる。 しかし、なぜログ収集ソフトウェアのFluentdがこれほどまで話題になるのか、不思議に感じている方もいるのではないだろうか。単にログデータを収集するならばsyslog-ngやrsyslogで十分ではないかという意見もあるだろう。 それらは既存のログシステムを置き換えるプロダクトであり、Fluentdのそれとは根的に異なる。Fluentdは、既存のログシステムに手を入れることなく新たにログの収集を行い、ストリームデータ処理を実現するプロダクトなのである。 一般的にログデータはサーバの数だけ分散しており、それを定期実行処理で収集するということだけでも、なかなか骨の折れる仕事である。さらに集めるだけでなく、日々増え続けるログデータを活用できる形に加工してしかるべきデータストアに保管するということに挫折した方もいるのでは

    Fluentdが流行る理由がいま分かる、10の実践逆引きユースケース集 - Y-Ken Studio
  • 柔軟なログ収集を可能にする「fluentd」入門 | さくらのナレッジ


    fluentdfluentd/ fluentd fluentdTreasure Data1LinuxUNIX 1 fluentdWeb syslogdsyslog-ngfluentd  fluentd
    柔軟なログ収集を可能にする「fluentd」入門 | さくらのナレッジ
  • Fluentdで始めるリアルタイムでのログ有効活用


     FluentdFluentdJSON FluentdWeb使Fluentd 稿Fluentd     UNIXOSRuby 1.9  
    Fluentdで始めるリアルタイムでのログ有効活用
  • 1