並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 216件

新着順 人気順

workflowの検索結果1 - 40 件 / 216件

 workflow216 github        5  
  • イーロン・マスクのロケット製造5つのステップがサイコーだった

    イーロン・マスクが YouTube チャネルでスペース X のテキサス工場スターベースの中を歩き回りながらロケット製造や電気自動車について説明しているのを観た。ツイートしたこの件。 これがめちゃくちゃに示唆に富んでいて面白かった。この日のイーロン・マスクは饒舌で楽しそうなので、かなり魅入ってしまった。きっと彼はカンファレンスや会議室の中でインタビューを受けるよりも、工場でみんながロケット作ったり作業している場で語った方が情熱を込めていろいろ説明してくれるんだと思う。 この中で製造工程の話があって、これはロケット製造などの特定分野だけでなく、IT やその他の分野にでも当てはまる普遍的な知見だと思ったので意訳してみた。ざっとビデオを観て印象に残った部分だけを意訳した。あくまで大枠で言ってることをまとめただけなので、もし詳細に興味があればぜひビデオを観てイーロン・マスクの話を直接聞いて確認してく

      イーロン・マスクのロケット製造5つのステップがサイコーだった
    • ミルクボーイがアジャイルを説明したら


       !   40 5940
      • アメリカの美大で学んだこと05:「絵がうまい」より大切なこと|Kenta Shimbo

        突然ですが絵がうまい人ってたくさんいますよね。 SNSなんか見てると、もう全人類が自分より絵が上手いんじゃないかって思えてきて、凹むことさえあります。笑 僕は23歳のド素人として美大に入学したので(うちの学校はポートフォリオ審査や美術スキルのテストは無いので本当に素人でした)、入学時点でのスキルは学校内ではすごく下の方でした。 さて、絵がうまいのはコンセプトアーティストとして働く上で当然大きなアドバンテージになりますが、一番大事なことが「絵がうまいこと」かと聞かれれば、、、どうなんでしょう? 今回は「絵がうまいこと」よりもっと大切なことがあるぞ、と教わった授業の話です。 絵の天才じゃない人は何で勝負するの?学校が3年目に突入すると、基礎授業が終わり、だんだんとコンセプトアートらしい授業が始まります。そんな中、ある授業で教授がこんな質問をしてきます。 「さて、この中(教室内)に絵の天才はいな

          アメリカの美大で学んだこと05:「絵がうまい」より大切なこと|Kenta Shimbo
        • バッチ処理 プラクティス

          バッチ処理は既に先人の方々が多くのナレッジを公開してくれていますが、それでもなお難しさが変わらないテーマだと思っています。 この記事は、筆者がこれまでの開発経験で気づいたバッチ処理の実装ナレッジを整理し、体系化を目指して文章にしました。 ここでの内容が、より良い課題解決に貢献できれば幸いです。 自身の断片的な思考整理(メモ書き)の延長で内容を整理したため、一部書き振りが統一されておらず、読みにくいかもしれません。ご了承ください。🙏 バッチ処理の難しさバッチ処理は難しい。 人によっては簡単なテーマかもしれませんが、自分は難しいテーマだと思っています。 「難しさの根源は何か?」を考えると、1. 考慮点が多様にあること 2. 解決する課題によって答えが大きく変わること に整理できました。 この2点は、どのソフトウェア開発にも当てはまる項目ではありますが、ことバッチ処理においては顕著に現れます。

            バッチ処理 プラクティス
          • 「ほう・れん・そう」には“あるパラメータ”が足りない マイクロソフト澤氏が語る、労働生産性を上げるためのヒント

            2019年9月25日、ランサーズ株式会社が主催するイベント「オープンタレントサミット〜令和元年、これから求められる本当の働き方改革とは?〜」が開催されました。働き方改革が施行され、大企業が副業を解禁するなど、これまでの「働き方」が大きく変化するこの時代、企業はどう向き合っていくべきか。このイベントでは、本質的な働き方の変化を進める企業の担当者が登壇し、取り組みや事例をもとに様々なディスカッションが行われました。この記事では、マイクロソフトの澤円氏による基調講演「本当の働き方改革に必要な考え方」の内容をお届けします。我々はデータを信じる生き物に変化をしたーー。そう語る澤氏は、すべての企業はテクノロジーカンパニーにならなければいけないと語ります。 澤氏がひも解く、本当の働き方改革に必要な考え方 澤円氏:みなさんこんにちは。日本マイクロソフト澤でございます。50分ほどお時間をいただきまして、「働

              「ほう・れん・そう」には“あるパラメータ”が足りない マイクロソフト澤氏が語る、労働生産性を上げるためのヒント
            • 日立社員「社内からQiitaに投稿?できるのそれ」 - Qiita


              (2019-12-18 ) 稿稿1 OSSOSS  () Qiita Advent Calendar : ()IT   IT Google i
                日立社員「社内からQiitaに投稿?できるのそれ」 - Qiita
              • なぜデザイン思考はゴミみたいなアイデアを量産してしまうのか|サカキバラ・ケイ

                デザイン思考がもてはやされてしばらく経ちましたが、デザイン思考の成功例、何か思い出せますか?仮に思い浮かんだとしたら、その「成功例」は本当にデザイン思考によって生まれたものですか? 一応最初に断っておきますと、僕は「デザイン思考はゴミだ」と言っているわけではありません。デザイン思考(デザインシンキング)にも向き・不向きがあるのに、その特性を踏まえないまま変なバッターボックスに立たせた企業が大変シュールな状況に陥っていることを、普段デザインで事業成長を支援している身として危惧しているというわけです。マイナスドライバーでプラスのネジを回すのはやっぱり無理があるし、おもしろTwitterおじさんだった人に大統領をやらせたらそりゃみんな怪我するよね、という単純な話です。 著名デザインファームPentagram New Yorkのグラフィックデザイナーであり教育者でもあるNatasha Jenは「D

                  なぜデザイン思考はゴミみたいなアイデアを量産してしまうのか|サカキバラ・ケイ
                • 無料でIFTTTやZapierっぽく全自動連携できる「n8n」を自サーバー上に構築してみた


                  IFTTTZapier使使使n8n使 n8n.io - Workflow Automation https://n8n.io/ n8n Windows 10WSLUbuntun8n n8nNode.jsNode.js Nod
                    無料でIFTTTやZapierっぽく全自動連携できる「n8n」を自サーバー上に構築してみた
                  • ワークフロービルダーが新登場 : Slack で簡単にタスクを合理化

                    ワークフロービルダーが新登場 : Slack で簡単にタスクを合理化フォームやメッセージなどの自動化で面倒な雑務にさよなら Slack チーム一同作成2019年10月15日イラスト: GiacomoBagnara Slack の調べでは、オフィスワーカーの 70% が業務の遂行に他のチームや同僚の助けを必要としていることが分かっています。協力してプロジェクトを進めるには、リアルタイムで適切な担当者に適切な情報を届けることが欠かせません。にもかかわらず、申請を行ったり、進捗状況を尋ねたり、チームメンバーに関連情報を伝えたりといった手続きは手間のかかるものばかり。これがプロセス全体のボトルネックとなることもままあります。 Slack が今日リリースする新しいツール、ワークフロービルダーは、生産性向上の妨げとなるこうした障壁を取り除き、Slack でのプロジェクト進行をさらにスムーズにするソリュ

                      ワークフロービルダーが新登場 : Slack で簡単にタスクを合理化
                    • 【速報】Slackの神・新機能「ワークフロー」使ってみた!これは仕事が超効率化する予感…! | SELECK [セレック]

                      Slackが一昨日(2019年10月15日)に発表した新機能「ワークフロービルダー」! みなさま、もう使いましたか? 結論から言うと、この機能は最高です。いますぐ使うべし! 公式サイトによると、ワークフロービルダーとは、下記のような機能とのこと。 定型的なアクションやコミュニケーションを自動化するワークフローをわずか数分で作成。 ということで早速ためしてみたのですが、これ、めちゃくちゃ使える…!用途としては、下記のようなものが考えられると思います。 入社後の手続きや、オンボーディングのフローを自動化 年末調整や健康診断といった、総務系オペレーションの効率化 会社・チームの目標管理や更新 チームの朝会のような、アジェンダの決まったMTGをSlack上で実施 bot的に使って遊ぶ(おまけ。あとで紹介しています) 弊社では、早速ワークフローがじゃんじゃん生成されています! 実際のワークフローの中

                        【速報】Slackの神・新機能「ワークフロー」使ってみた!これは仕事が超効率化する予感…! | SELECK [セレック]
                      • 新 GitHub Actions 入門 - 生産性向上ブログ

                        github.blog GitHub Actions の新バージョンが 8/8 に発表されました。 www.kaizenprogrammer.com 自分は過去にも旧バージョン時に GitHub Actions の入門記事を書いていたのですが、新バージョンがこれまでと大きく変わってしまっているので、この記事ではあらためて GitHub Actions についていろいろ調べたり動かしてみたりした内容をまとめます。 目次 注意事項 GitHub Actions とは これまでの GitHub Actions とどこが変わったか コンセプト マルチプラットフォーム対応 HCL から YAML へ 料金 その他 GitHub Actions と Azure Pipelines 簡単な例 (Hello, World) ワークフローの設定 ワークフローとは ワークフローを実行するイベント ワークフロー

                          新 GitHub Actions 入門 - 生産性向上ブログ
                        • 大公開!バッチアプリケーションの品質を高めるZOZOの『バッチ開発ガイドライン』 - ZOZO TECH BLOG


                          MA  Tips      Android iOS Frontend Backend Infra API Batch DB(Datab
                            大公開!バッチアプリケーションの品質を高めるZOZOの『バッチ開発ガイドライン』 - ZOZO TECH BLOG
                          • GitHub Actions 逆引きリファレンス


                            1.#調 Tips  調1 GitHub Actions  Workflow  Workflow syntax for GitHub Actions - GitHub Docs  2.Step  Job  Workflow#2-1.Step  Job  Workflow #Step < Job < Workflo
                            • ベイジのウェブ制作ワークフロー2021年版(約100のタスクと解説) | knowledge / baigie


                              使 5       2014
                                ベイジのウェブ制作ワークフロー2021年版(約100のタスクと解説) | knowledge / baigie
                              • 初めての技術選定を頼まれた時に大事だったのは俯瞰的・相対的な考え方だった - MonotaRO Tech Blog

                                背景 お題 技術の差別化 差別化から分かること 情報資産からToBeを考える 俯瞰的・相対的な技術選定 これまでの話から学んだこと 最後に はじめまして、MonotaROでデータエンジニアをやっています、芝本です。 エンジニアのみなさん、技術を使って何か作ってみるのって楽しいですよね。 私は、公私ともに日々物作りに励んでいます。プライベートだと、最近はマイクロフロントエンドについて学んでいます。 技術を使うためには、技術を学ばなければいけません。 プライベートにおいては、好奇心に従って自由に学びますよね。 とりあえずgit cloneして動かしてみたり、書籍を購入して読んでみたりします。 というようにプライベートでは主に次のような選択肢があると思います。 書籍を読んで好きなものを選ぶ 実際に手を動かしてみて好きなものを選ぶ 人に教えてもらって好きなものを選ぶ 基本的にプライベートの場合は何

                                  初めての技術選定を頼まれた時に大事だったのは俯瞰的・相対的な考え方だった - MonotaRO Tech Blog
                                • Github Actions チートシート

                                  概要 何度も調べて何度もテストしたりしたので、多用するものをまとめていきたい。 項目 push時に実行 // feature/aaaで動く。 feature/aaa/bbbでは動かない on: push: branches: - feature/* // feature/aaa, feature/aaa/bbbで動く on: push: branches: - feature/** // なにかしらのtagがpushされたときに実行、branchのpushは無視 on: push: tags: [ '**' ] branches-ignore: [ '**' ] // 指定したpathの変更だけでは実行しない on: push: branches: - main paths-ignore: - '*.md' - 'docs/**' on: workflow_dispatch: inputs

                                    Github Actions チートシート
                                  • GitHub Actions入門 ── ワークフローの基本的な構造からOIDCによる外部サービス認証まで - エンジニアHub|Webエンジニアのキャリアを考える!

                                    GitHub Actions入門 ── ワークフローの基本的な構造からOIDCによる外部サービス認証まで GitHubが公式に提供するGitHub Actionsは、後発ながらよく使われるワークフローエンジンとなっています。本記事では、藤吾郎(gfx)さんが、典型的なCI/CDのユースケースに即したワークフローの設定と管理について解説するとともに、注目されているGitHub OIDC(OpenID Connect)の利用についても紹介します。 GitHub Actionsは、GitHubが提供するCI/CDのためのワークフローエンジンです。ワークフローエンジンは、ビルド、テスト、デプロイといったCI/CD関連のワークフローを実行し、定期実行するワークフローを管理するなど、開発におけるソフトウェア実行の自動化を担います。 ▶ GitHub Actions - アイデアからリリースまでのワーク

                                      GitHub Actions入門 ── ワークフローの基本的な構造からOIDCによる外部サービス認証まで - エンジニアHub|Webエンジニアのキャリアを考える!
                                    • Power Apps & GPT-4oを使って超高速で画像解析アプリを作る! - Qiita


                                      GPT-4o GPT-4o QiitaPower Apps🧐  GPT-4o使 Power Apps  Power Apps Power Apps PowerPoint    ScreenContainer -   HeaderContainer   Header -   Bo
                                        Power Apps & GPT-4oを使って超高速で画像解析アプリを作る! - Qiita
                                      • GitHub ActionsにおけるStep/Job/Workflow設計論

                                        この記事について GitHub Actionsには、以下3つの実行単位が存在します。 Workflow Job Step パイプラインを組む中で出てくる複数個の処理を、1つの実行単位でまとめてしまうか、それとも分割するのかというのは悩むポイントかと思います。 一つのstepのrunフィールドにコマンドを詰め込む?それともstepを分けた方がいい? 一つのJobの中のstepとして記述した方がいい?それとも別のJobに定義した方がいい? 一つのWorkflowの中にJobをたくさん定義する?それともWorkflowを別にする? この記事では、Workflow・Job・Stepそれぞれの性質を踏まえた上で、ベストな処理単位の選び方を考察します。 使用する環境・バージョン GitHub Actions: 2022/5/15時点での機能をもとに考察 読者に要求する前提知識 GitHub Actio

                                          GitHub ActionsにおけるStep/Job/Workflow設計論
                                        • 英文を一文ずつに分割してGoogle翻訳へ投げるAlfred Workflowを作った - ぽよメモ

                                          これまでに作ったAlfred Workflow poyo.hatenablog.jp poyo.hatenablog.jp これまでに作ったAlfred Workflow これは何? 論文PDFの問題 環境 Google Translate Formatter 準備 使い方 注意点 一文ごとに分解する機能は単なる正規表現マッチとIFの羅列 ピリオドが無い場合は文字列分解できない. 意図的に混入されているハイフンを消してしまう たまにうまく動かない まとめ これは何? 一文ごとに分解して翻訳にかけることで見通しが良くなり,論文を読む速度が上がるWorkflow. サンプルとして使用したのは,機械翻訳ネットワークTransformerを提案した論文*1 論文PDFの問題 全てがそうではありませんが,論文PDFはたまにそのままコピーすると「見かけ上の改行位置がそのまま反映された文章」としてコピー

                                            英文を一文ずつに分割してGoogle翻訳へ投げるAlfred Workflowを作った - ぽよメモ
                                          • デザイナーとエンジニアを巻き込んだワークフローの改善|鈴木慎吾 / TSUMIKI INC.

                                            「エンジニアリングに興味があるデザイナー、デザインに興味があるエンジニア Advent Calendar」20日目の記事です。 今年の5月から、社内でクライアントワークのチームから自社事業のチームに異動し、映画・ドラマ・アニメのレビューサービスのFilmarksで有料会員機能のPMを担当しています。 以前はUIデザインやアプリ開発、あるいはその中間的な仕事としてプロトタイプ開発やディレクションなどを経験してきました。 PM業の傍ら、社内のデザイナーとエンジニアの受け渡し部分の改善に取り組みました。その検討過程について紹介します。 要件定義・UIデザイン・開発間のワークフロー改善もともとFilmarks内ではディレクターがGoogleスライドなどで要件資料とGithub Issueをつくり、 デザイナーがSketchでUIをつくりZeplinで書き出したURLをエンジニアに受け渡し、エンジニ

                                              デザイナーとエンジニアを巻き込んだワークフローの改善|鈴木慎吾 / TSUMIKI INC.
                                            • Node-Based UIs in React – React Flow

                                              React Flow is a MIT-licensed open source library. You can help us to ensure the further development and maintenance by subscribing to React Flow Pro. React Flow Pro Getting Started with React Flow Make sure you’ve installed npm, pnpm or yarn. Then you can install React Flow via:

                                                Node-Based UIs in React – React Flow
                                              • IFTTTやZapierのようなワークフロー自動化OSSのn8nをECS on Fargate上に建ててみた | DevelopersIO

                                                こんにちは、臼田です。 みなさん、業務の自動化してますか?(挨拶 今回は少し前に話題になったワークフロー自動化OSSのn8nを触ってみたいと思います。 n8n IFTTTやZapierのようなサービスを自前で構築して使用できるオープンソースn8n このツールはnpmでインストールして使うことが出来ますが、dockerイメージも用意されていたのでECS on Fargateでやってみたいなーと思ったのでやってみます。ちなみに私はECS初心者です。なのでついでにECSやFargateを初めて触る人でも最低限同じように環境構築できるように意識してまとめてみます。 n8nとは n8nについてもう少し説明します。 先述しましたがn8nはオープンソースのワークフロー自動化ツールです。何かの動作をトリガーにアクションが始まり、条件分岐などをしながら次のアクションを実行できます。下記のイメージ図がわかりや

                                                  IFTTTやZapierのようなワークフロー自動化OSSのn8nをECS on Fargate上に建ててみた | DevelopersIO
                                                • 時間を区切って設計を打ち切るのはおすすめできない - hitode909の日記

                                                  最初にマイルストーンを切って、この週で設計、この週で実装、みたいなことをやるのはおすすめできない。 設計に使える時間を最初に決めた時間までしか使わないということは、どうすればいいか、考えきれてなくても作り始めているということ。 コードは書けていくので、進んでいるようにも見えるけど、問題を先送りしているだけなので、じっくり設計や作戦を詰めていれば気付ける問題に、あとのほうで直面することになる。 この問題を回避するためにはこのように作るべきであった、ということにあとで気づくと手戻りが大きくなり、こんなことをするくらいなら最初に決めておけばよかった、となることが多いと思う。 家を建てることをイメージすると、設計フェーズはここで打ち切って、手を出せるところから始めよう、といきなり柱を建てることをイメージしてほしい。 先のことを見据えると、4本の柱は長方形になっているべきという制約があるけど、そのこ

                                                    時間を区切って設計を打ち切るのはおすすめできない - hitode909の日記
                                                  • ワークフローオーケストレーション入門

                                                    「Data Engineering Study #23 Data orchestration 特集」の発表資料です イベントページ: https://forkwell.connpass.com/event/310011/

                                                      ワークフローオーケストレーション入門
                                                    • AWSサービスで実現するバッチ実行環境のコンテナ/サーバレス化/ Container service of batch execution environment realized by AWS service

                                                      AWS DevDay Tokyo 2019での発表資料です

                                                        AWSサービスで実現するバッチ実行環境のコンテナ/サーバレス化/ Container service of batch execution environment realized by AWS service
                                                      • データオーケストレーションツールDagsterの紹介

                                                        データオーケストレーションとは データオーケストレーションという言葉をご存知でしょうか?日本ではまだ耳慣れない言葉ですが、data orchestrationでgoogle検索すると実に3000万件以上ヒットし、世界的には十分に市民権を得ている言葉です。Databricksではデータオーケストレーションを以下のように説明しています。 データオーケストレーションとは データオーケストレーションとは、複数のストレージからサイロ化したデータを取り出し、組み合わせて整理し、分析に利用できるようにするための自動化されたプロセスです。 このプロセスでは、レガシーシステム、クラウドベースのツール、データレイクといったあらゆるデータセンターが接続されます。データは標準形式に変換されるため、理解しやすく、容易に意思決定に利用できます。 オーケストレーションとは、コンピュータシステム、アプリケーション、および

                                                          データオーケストレーションツールDagsterの紹介
                                                        • GitHub - n8n-io/n8n: Free and source-available fair-code licensed workflow automation tool. Easily automate tasks across different services.

                                                          You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

                                                            GitHub - n8n-io/n8n: Free and source-available fair-code licensed workflow automation tool. Easily automate tasks across different services.
                                                          • n8n.io - a powerful workflow automation tool

                                                            Secure, AI-native workflow automation The world's most popular workflow automation platform for technical teams

                                                              n8n.io - a powerful workflow automation tool
                                                            • slackの「投稿ルールが守られない問題」をコード不要のWorkflow builderで解決する - Qiita

                                                              以前の記事のご紹介 以前、 slackで「投稿ルールが守られない問題」を自作のスラッシュコマンドで解決するという記事(以下「以前の記事」)を書かせて頂きました。 【問題点】 作業依頼などに使う、定型フォーマット文章を用意してピン留めしても誰にも使われない。 【当時の解決策】 「自作のスラッシュコマンド(slackのtoken設定必要)」から、 「自作のフォーム(GASコード記述必要)」を呼び出して、 フォーム経由で投稿してもらうことで「投稿ルール」を守ってもらう。 (※詳細は以前の記事をご覧ください) slack 新機能「Workflow Builder」 先日slackから発表された「Workflow Builder」を使うと、 上記のtoken設定/GAS設定など、面倒な手順が大幅にカットされ、 誰でもフォーム作成が可能となり「投稿ルール問題」に簡単に対処できるようになりました。 コー

                                                                slackの「投稿ルールが守られない問題」をコード不要のWorkflow builderで解決する - Qiita
                                                              • Workflow元従業員が160のSiriショートカットを公開 - iPhone Mania

                                                                Siriショートカットの元となったアプリ開発企業Workflowに務めていた従業員が、様々なタスクをカバーする160のSiriショートカットのリストを自身のホームページ上で公開しました。 「私のSiriショートカットライブラリ」を公開 Workflowは、Appleが2017年に買収したタスク自動化アプリ開発企業です。同社が開発した「Workflow」が現在のSiriショートカットアプリの元となっています。 Workflowの元従業員のマシュー・カシネリ氏は、「私のSiriショートカットライブラリ(My Siri Shortcuts Library)」として、160のSiriショートカットを無料で公開しました。 カシネリ氏のショートカットリストでは、「昼食を計画する(Schedule lunch)」「トラッキングを中止する(Stop Tracking)」「ゲーム時間(Game time)」

                                                                  Workflow元従業員が160のSiriショートカットを公開 - iPhone Mania
                                                                • いろんなサービスを勝手に連携させるオープンソースのタスク自動化ツール「Huginn」を使ってみた


                                                                  IFTTTZapierHuginn使使 GitHub - huginn/huginn: Create agents that monitor and act on your behalf. Your agents are standing by! https://github.com/huginn/huginn HuginnDockerDockerPCdocker run -it -p 3000:3000 hugin
                                                                    いろんなサービスを勝手に連携させるオープンソースのタスク自動化ツール「Huginn」を使ってみた
                                                                  • 個人開発者のためのコマンドラインGit使いこなし術


                                                                     TAKUYA Git InkdropMarkdown ElectronReact Native tmuxvimvimJavaScript 稿Git Git Git GUIGit
                                                                      個人開発者のためのコマンドラインGit使いこなし術
                                                                    • バッチ処理のスケジューリングパターン


                                                                       Google Cloud Japan Customer Engineer Advent Calendar 2019 12 Google Cloud Platform (GCP) 83 GCP 使 Cloud Scheduler :  cron Google App Engine cron  : HTTP GET  URLGoogle AppEng
                                                                        バッチ処理のスケジューリングパターン
                                                                      • 小さく始めて大きく育てるMLOps2020 | | AI tech studio


                                                                        AI Lab(@chck)MLOps MLOpsDevOps稿 https://www.slideshare.net/databricks/mlflow-infrastructure-for-a-complete-machine-learning-life-cycle Jan Teichmann DevOps   
                                                                          小さく始めて大きく育てるMLOps2020 | | AI tech studio
                                                                        • Slack ワークフロー × GitHub Actions で何時でも誰でも楽なステージングデプロイを実現する - Pepabo Tech Portal


                                                                            Dr.STONE 2  CTO 鹿 @yoshikouki 30  Slack  GitHub Actions  Slack 1          
                                                                            Slack ワークフロー × GitHub Actions で何時でも誰でも楽なステージングデプロイを実現する - Pepabo Tech Portal
                                                                          • Airflowはすごいぞ!100行未満で本格的なデータパイプライン - Qiita

                                                                            はじめに ワークフローを作成、実行、監視するためのプラットフォーム「Airflow」が、近年人気を集めていて、多くの企業に利用されています。Airflow Summit 2022 のようなグローバルイベントも開催されるようになり、世界中から2000人以上のコントリビュータ(私もその1人)が貢献しているアツいプロジェクトです。 この記事で Airflow を使う意味と主要コンセプトを説明します。最後に、100行未満で実装できる本格的なデータパイプラインの実例をお見せしたいと思います。 Airflowとは 概要 Airflowは ワークフロー を作成、実行、監視するためのプラットフォームです。ここで言う「ワークフロー」は、依存関係にある複数の タスク を、下図のように繋いだ形で、パイプラインとして実行していくものと思ってください。 Airflowを使うと、より早く、よりロバストなワークフローが

                                                                              Airflowはすごいぞ!100行未満で本格的なデータパイプライン - Qiita
                                                                            • dbtを導入して小規模チームでも運用可能なデータマネジメント体制を構築した話 - High Link テックブログ

                                                                              はじめに こんにちは。株式会社High Linkのデータユニットマネージャーの芦川 (@assy) です。 私たちのチームでは、データを強みとした事業価値創出を促進するために、データ基盤の整備やデータマネジメント、全社的なデータ利活用レベルの引き上げに取り組んでいます。 データマネジメントをしていると、「誰が作ったかわからない野良のテーブルが乱立している」ことや「BigQueryコンソール上でviewを定義してしまってコードレビューができない」さらには、「テーブル間の依存関係がわからず削除できない」といった課題にぶつかる方は多いんじゃないでしょうか。 私たちもまさにこのような問題に直面し、導入したのがdbtです。 今回は、dbtの導入に至る経緯や選定の理由、dbtをどう活用しているのかといった話を共有させて頂こうと思います。 私たちのようにデータマネジメントにがっつり人的リソースを割けない

                                                                                dbtを導入して小規模チームでも運用可能なデータマネジメント体制を構築した話 - High Link テックブログ
                                                                              • データ基盤を支える技術 - ETLフレームワークの実践的な選び方・組み合わせ方 - JX通信社エンジニアブログ

                                                                                JX通信社シニア・エンジニア兼データ基盤担当大臣の@shinyorke(しんよーく)です. 最近やった「ちょっとした贅沢」は「休日, 自宅で🍺片手に野球を見ながらUberEatsで注文したランチを楽しむ」です. ⚾と飲食を提供してくださる皆さまに心から感謝しております🙏 JX通信社では, 機械学習を用いたプロダクト開発・施策 プロダクト・サービスの改善に関する分析 日々のイベントをメトリクス化して可視化(いわゆるBI的なもの) を円滑かつ効率よく行うため, 昨年からデータ基盤を整備・運用しており, 現在では社員のみならず(スーパー優秀な)インターンの皆さまと一緒に活用し, 成果を出し始めています. ainow.ai なぜデータ基盤が必要か?どういった事をしているのか?...は上記のインタビューに譲るとして, このエントリーでは「データ基盤を支える技術 - ETL編」と称しまして, Py

                                                                                  データ基盤を支える技術 - ETLフレームワークの実践的な選び方・組み合わせ方 - JX通信社エンジニアブログ
                                                                                • GitHub Actions Workflow チェックリスト | CyberAgent Developers Blog

                                                                                  GitHub Actions Workflow Best Practices こんにちは。2022年新卒入社の上田です。現在は本配属前のジョブロで ABEMA に所属しております。 この記事では GitHub Actions workflow/job 作成に関するベストプラクティスをまとめました。 workflow/job 追加時に参照できるチェックリストとしてご利用いただけるような一記事として公開しています。堅牢で安全な CI/CD pipeline を作る参考になれば幸いです。 (ジョブロ:メディア事業部における新卒研修の一環として二ヶ月間実施される本配属前のジョブローテーション研修) 自己紹介 GitHub Actions は Beta v1 の頃から利用しており、個人としても peaceiris/actions-gh-pages などをはじめとして、いくつかのサードパーティー Ac

                                                                                    GitHub Actions Workflow チェックリスト | CyberAgent Developers Blog

                                                                                  新着記事