LINEで送る
Pocket

本日はembulkでBigQueryからRDS(Aurora)に何回もrunしたら、
DBがフェイルオーバーしました。
原因としてはRDSのgeneral_logが有効になっていたため、
大量なログにより、I/O負荷になっていたというなんとも悲しい体験をしました。
そこで、今回はgeneral_logの無効化とログ削除方法をブログします。


■general_log

・general_logの有効確認

・RDSコンソール(パラメーター)

0にしましょう!

・確認

これでログが増えないことを確認すればOKです


■general_log削除

・TRUNCATE TABLE

上記のようにTRUNCATEを使ってテーブル内のすべての行を抹消することはできません。

・ストアドプロシージャ一(ストアド)

もちろんRDSにもストアドが設定されており、
複数のSQL文をまとめて名前を付けて関数のように呼び出せるようにしています。
general_logをgeneral_log_backupに退避していることも分かりますな。

・ call rds_rotate_general_log

抹消!!!
負荷なし!!!


■まとめ

@kzm0211(いなむー)パイセンにサポートしてもらいましたが、
さすがに20000レコードでRDSシャットダウンはおかしい!!これは盲点!!!

参考
http://xoxo-infra.hatenablog.com/entry/2013/03/25/151338

LINEで送る
Pocket


adachin

1989年生まれのSRE。 ホスティングから大規模なアドテクなどのインフラエンジニアとして携わり、AnsibleやTerraformでのインフラコード化を推進。副業では数社サーバー保守、未経験によるエンジニアのメンターなども実施している。また、「脆弱性スキャナVuls」のOSS活動もしており、自称エバンジェリスト/技術広報/テクニカルサポート/コントリビュータでもある。現在はサービスの信頼性向上、可用性、レイテンシ、パフォーマンス、モニタリング、緊急対応、インフラコード化、リファクタリング、セキュリティ強化、新技術の検証、Docker開発環境の提供、AWSでのインフラ構築、Wordpressによるコーポレートサイトの修正、メンター、分析基盤の運用を担当している。

0件のコメント

コメントを残す

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください