タグ

awkに関するrichard_rawのブックマーク (31)

  • データ集計コマンドを極めてシステム処理と業務速度を爆速化するお話 - Y's note

    Index データ集計コマンド 爆速で検索したいぜ! lookを使う LC_ALL=Cを設定する データのランダムサンプリングがしたいぜ! sedを使う awkを使う sortの--random-sortを使う Script言語を使う shufを使う ランダムサンプリング速度比較 合計と平均値を集計したいぜ! 列データ取得 重複行のカウント 合計値出力 平均値出力 複数ファイルのデータ結合がしたいぜ! 共通項目での結合 同じ行数での結合 まとめ データ集計コマンド joinコマンドが便利過ぎて生きるのが辛い - Yuta.Kikuchiの日記 lookコマンドによる二分探索が速すぎて見えない - Yuta.Kikuchiの日記 今日はデータ集計を行う上で絶対に覚えておいた方が良いコマンドと知識を紹介したいと思います。これを身につければシステム処理と業務効率化に大きく繋がると思います。この記

    データ集計コマンドを極めてシステム処理と業務速度を爆速化するお話 - Y's note
    richard_raw
    richard_raw 2013/08/01
     look/LC_ALL=C/shuf/paste使/grepack or ag使  

    grep

    sed

    awk

    perl

    linux

    shell

    clip
     
  • IDEA * IDEA

    ドットインストール代表のライフハックブログ

    IDEA * IDEA
    richard_raw
    richard_raw 2013/03/07
    まさかのawk。そういえば256倍本持ってたような……。
  • 旧・Macの手書き説明書 - FC2 BLOG パスワード認証

    ブログ パスワード認証 閲覧するには管理人が設定した パスワードの入力が必要です。 管理人からのメッセージ https://mac-tegaki.comへ移転中 閲覧パスワード Copyright © since 1999 FC2 inc. All Rights Reserved.

    richard_raw
    richard_raw 2012/11/16
    しまったzshで重複除外してたからできません。
  • シェルプログラミングTips - UEC - usp engineers' community

    UEC - UNIXを深く理解し、シェルプログラミングを極めるコミュニティサイト Info インフォメーション イベント情報 / ニュース・プレスリリース ユニケージについて ユニケージ開発手法とは / ユニケージエンジニアとは ユニケージ開発手法 技能検定 / 試験日程 ユニケージ開発手法 教育講座 / 開講日程 ユニケージ開発手法 教育講座レポート 出版物 シェルスクリプトマガジン / 注文 / 取扱書店 / 問合せ USP出版書籍 / 注文 / 取扱書店 / 問合せ Software Design / FreeBSD Expert FreeBSD Weekly Topics / 日経Linux 推薦図書 オススメの定番書 / より上級者を目指す UNIXビギナー向け教 / UNIXの文化を知る AWK/SEDを習得する / 手元に置きたい実用書 古典を楽しむ UECサイトについて

  • テキストファイルを処理するときのUnixコマンドまとめ - nokunoの日記

    個人的にテキストファイルを処理することが多いのですが,簡単な処理ならUnixのコマンドをパイプとリダイレクトで組み合わせてできることが多くあります.今回はそんななかでもちょっとマニアックなTIPSをまとめてみました. sortコマンドでタブ区切りのファイルを指定する最近知って驚愕したのがこれ.sortコマンドでタブ区切りのファイルを指定したいときは,Ctrl+v Tabでタブ文字を入力していたのですが,$ sort -t $'\t' -k 2,2 のようにしてタブ区切りで2番目のキーでソートすることができます. 1000行おきにデータをサンプリングする1000行おきにファイルからデータをサンプリングしたいときとかは,perlでワンライナーを書くのが速いようです.$ perl -ne '$i++; print unless ($i % 1000)' 某所のコードゴルフによるとこれだけ短くでき

    richard_raw
    richard_raw 2012/01/23
    ブックマーク数が多いですな……。/cutとpasteはよく使ってます。
  • コンピュータ系技術書を無料で読めるサイトまとめ - 情報科学屋さんを目指す人のメモ(FC2ブログ版)

    何かのやり方や、問題の解決方法をどんどんメモするブログ。そんな大学院生の活動「キャッシュ」に誰かがヒットしてくれることを祈って。 特に探すつもりはなかったけど、技術書を無料で読めるサイトに複数遭遇したので、出会った分だけでもとまとめてみた。無料で読めるサイトと言っても、基的には無料公開されているページへのリンク集という形。 O'REILLY Open Books http://oreilly.com/openbook/ リンク先の右にあるリンクの書籍が無料。左のジャンル分けは通常の書籍一覧なので注意。他のサイトに比べるとだいぶ少ない。 O'REILLY Open Feedback Publishing System (OFPS) http://ofps.oreilly.com/ 出版前の書籍を公開して、フィードバックを受け付けるというサイト。作りかけのも存在するが、最新の内容が読めると

    richard_raw
    richard_raw 2011/09/07
    英語の勉強に(ぇ
  • 突然のTwitter砲にもなんとか耐えたさくらVPSに感謝する - As a Futurist...


    2/6 退 Twitter Yahoo  0  2 VPS   VPS1CentOS+Apache+mod_fastcgi+PHP-FPM+MySQL5.5(InnoDB) WordPress
    突然のTwitter砲にもなんとか耐えたさくらVPSに感謝する - As a Futurist...
    richard_raw
    richard_raw 2011/02/08
    おー、ほぼやったこと無いのになんだか懐かしいログ解析。awkで取りだしてcut|sort|uniq
  • 【レポート】Linuxでよく使うコマンド50 | エンタープライズ | マイコミジャーナル


    Guides, HowTos and Tips for Technology Geeks - The Geek Stuff UbuntuFedora使GUI使CUI使CUICUI 50 Most Frequently Used UNIX / Linux Commands (With Examples)UNIXLinux使50
    richard_raw
    richard_raw 2010/11/14
    なんでtarやねん。/Linuxでwhatis使えましたっけ?/原文読めということですね、わかりました。
  • UPS出版、書籍「プログラミング言語AWK」を復刊 | パソコン | マイコミジャーナル


     (UPS)AWK3,990 AWK AWKAWK(Alfred AhoPeter WeinbergerBrian Kernighan)UPSA5320
  • awk4j - Home

    The AWK~plus Programming Language AWK~plus は、プログラム言語AWK言語仕様と GNU GAWKの主要な拡張機能、 型推論と関数型プログラミングによるシンプルな外観、 言語レベルでのロックフリーでスレッドセーフな並列プログラミング、 動的と静的な型システムをサポートする 次世代スクリプト実行環境です。 最新の言語仕様を実装した AWK~plusによる、新しいスクリプテイングの世界を体験ください。 AWK~plus Scripting for Android AWK~plusインタプリタ環境を組み込んだランチャーは、 Android マーケットから入手可能です。 awk4j (AWK for Java platform) awk4j は、 GNU AWK 互換の言語処理環境で、 AWKスクリプトを、中間言語としてのホスト言語 ( Java, Java

    richard_raw
    richard_raw 2009/05/25
    Java 環境で awk スクリプトを実行
  • bash,awk,sed - スキルアップ輪講

    参考文献 † # Web サイトのことをやたらと HP という人がいますが,HP は Hewlett-Packard のことです. 非常に有益です. 入門 UNIX シェルプログラミング UNIX の部屋 awk manual sed manual 正規表現メモ Cyberam-シェルスクリプト 吉田淳「シェル&シェルスクリプト」, 日経 Linux, 2004/4- 森島直人「シェルの魔術」, UNIX MAGAZINE, 2004/11- man コマンド ↑ bash スクリプトの書き方 † スクリプトファイルの名前は何でも良いが,慣例として拡張子は .sh とする. スクリプトファイルは,必ず以下の行で書き始める. #!/bin/bash なお,/bin/bash とは,bash コマンドへのフルパスである.Linux オペレーティングシステムでは /bin 以下にある sh は