AWS digdag embulk
[Terraform]AWS KMSを使ってGCPのサービスアカウントの鍵を暗号化する
明けましておめとうございます！ 今年もADACHIN SERVER LABOを よろしくお願いします 続きを読む…
AWS digdag
[Amazon Linux2]Digdagを構築するにあたってハマったこと
さてさて！今の会社に転職してから2年半、Digdagの運用をしているのですが、一から構築を経験したこ 続きを読む…
digdag
[Digdag][v0.9.28]Retry Intervalによって手動でRetryすることがなくなった！
Digdag運用している方にとって大変なのが、度々起こるシンクでの Fail (以下画像より)。毎日 続きを読む…
BigQuery digdag embulk
[embulk][Google Analytics]view_idをdigdagのfor_eachで回すのに苦労した件
digdagわかりません — adachin?SRE (@adachin0817) Au 続きを読む…
BigQuery digdag embulk
[embulk][BigQuery]”message” : “Bad int64 value: 11\\357\\277\\275\\357\\277\\275]\\030>”
みなさま。分析基盤の運用は大変ですよね(他人事) 今回アクセスログをtdでS3に保存してdigdag 続きを読む…
digdag shell script
[シェルスクリプト]CSVを読み込んで1行ずつループ処理とif文で特定の文字列を条件分岐する
シェル芸マスターには程遠いですが… digdagの設定ファイルを自動化する時(以下ブログ 続きを読む…
BigQuery digdag embulk Salesforce
[embulk]SalesforceのデータをBigQueryに同期できるか試してみた！
前回は抽出のみだったので、今回はBigQueyにぶち込めるのか試してみました！ しかもSalesfo 続きを読む…
digdag embulk Salesforce
[embulk]Salesforceのデータを抽出できるかやってみた
Salesforce(SFDC)上に登録されているクライアントや売上情報などをembulkで抽出でき 続きを読む…
digdag embulk
[Digdag][embulk]Error: java.lang.NullPointerException
Digdagを運用していると以下のようにエラーが複数出た。 何回も手動でdigdag runしてもエ 続きを読む…
digdag shell script slack
[Digdag][shell script]slack/chatworkでシンプルなエラー通知を行う
今までDIgdagでエラー通知をchatworkで行っていたのですが、slackでイケてる通知できな 続きを読む…