digdag
[Digdag][v0.9.28]Retry Intervalによって手動でRetryすることがなくなった！
Digdag運用している方にとって大変なのが、度々起こるシンクでの Fail (以下画像より)。毎日 続きを読む…
BigQuery
[embulk][Google Analytics]view_idをdigdagのfor_eachで回すのに苦労した件
digdagわかりません — adachin👾SRE (@adachin0817) Au 続きを読む…
BigQuery
[embulk][BigQuery]”message” : “Bad int64 value: 11\\357\\277\\275\\357\\277\\275]\\030>”
みなさま。分析基盤の運用は大変ですよね(他人事) 今回アクセスログをtdでS3に保存してdigdag 続きを読む…
BigQuery
[embulk][digdag][S3]配列でできているJSONファイルをBigQueryにシンクする
今回S3にある、圧縮された配列でできているJSONファイルをembulkでBigQueryにシンクし 続きを読む…
digdag
[シェルスクリプト]CSVを読み込んで1行ずつループ処理とif文で特定の文字列を条件分岐する
シェル芸マスターには程遠いですが… digdagの設定ファイルを自動化する時(以下ブログ 続きを読む…
BigQuery
[embulk]SalesforceのデータをBigQueryに同期できるか試してみた！
前回は抽出のみだったので、今回はBigQueyにぶち込めるのか試してみました！ しかもSalesfo 続きを読む…
digdag
[Digdag][embulk]Error: java.lang.NullPointerException
Digdagを運用していると以下のようにエラーが複数出た。 何回も手動でdigdag runしてもエ 続きを読む…
BigQuery
[BigQuery][Digdag][embulk][SQL]dateカラムはtimestamp_formatで日付型にする!!
[BigQuery][Digdag][SQL][embulk-filter-colum 続きを読む…
digdag
[Digdag][shell script]slack/chatworkでシンプルなエラー通知を行う
今までDIgdagでエラー通知をchatworkで行っていたのですが、slackでイケてる通知できな 続きを読む…
BigQuery
[BigQuery][Digdag][SQL][embulk-filter-column]年と月を保持するためのカラム追加はembulkでできる!
月次で、あるDBをBigQueryに転送したい場合、 実行した年と月をカラムに出力しないといつ実行さ 続きを読む…
BigQuery
[Digdag][embulk][MySQL]BigQueryにtinyint,bool型を入れるにはSIGNED型にキャストしないとアカン!
RDSにあるデータをembulkを使ってBigQueryに飛ばすようにテストを繰り返していました&# 続きを読む…