Digdag運用している方にとって大変なのが、度々起こるシンクでの Fail (以下画像より)。毎日Webからポチッと Retryボタン を押して、またFailが来る…エラー見てもjavaのエラーなのでまったくわからず..
ちなみに以下のように _retry を入れても再Retryして失敗しまくりです。原因としてはBigQueryにシンクしまくると怒られるので、要は間隔があればOK！
|
1 2 3 |
+table: _retry: 3 call>: table.dig |
今回Digdag v0.9.28から Retry Interval 機能が追加されて、インターバルが指定できるようになってからRetry時の実行時間の感覚を指定できるようになりました。チームでバージョンアップだ！ということでやってみたところ、うまくいったのでブログします！
■Retrying failed tasks automatically
https://docs.digdag.io/workflow_definition.html#retrying-failed-tasks-automatically
■Digdag version up
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 |
# digdag version 2019-08-27 14:22:16 +0900: Digdag v0.9.19 Client version: 0.9.19 Server version: 0.9.19 # digdag selfupdate 2019-08-27 14:24:52 +0900: Digdag v0.9.19 Checking the latest version... Upgrading to 0.9.39... Verifying... Upgraded to 0.9.39 # digdag version 2019-08-27 14:25:06 +0900: Digdag v0.9.39 Client version: 0.9.39 Server version: 0.9.19 |
■Digdag setting file
- retry.dig
|
1 2 3 4 |
_retry: limit: 5 interval: 60 interval_type: exponential |
- run.dig
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 |
timezone: Asia/Tokyo schedule: daily>: 01:00:00 +table01: !include : 'retry.dig' call>: table01.dig +table02: !include : 'retry.dig' call>: table02.dig +table03: !include : 'retry.dig' call>: table03.dig |
■後日
FailしてもRetryされていました！！！
■まとめ
とりあえず手動で実行することがなくなりました。digdagのバージョンアップについては追わないと新機能がわからん！ということでRSS入れよう。
0件のコメント