AWSの設計思想は「困ったらまずS3に置く」です。ログも、バックアップも、分析用データも、中間ファイルも、いったんS3へ集約する。この「全部S3」は、オンプレの「用途ごとに別のストレージ装置」という発想とは根本的に違います。その違いと、集約を活かす設計を整理します。

01「用途別の装置」から「1つのレイクと階層」へ

オンプレでは、高速DB用のSAN、ファイル共有のNAS、バックアップのテープ、と用途ごとに別の装置を買い、それぞれを別々に運用してきました。S3中心の設計はこれを反転させ、データはまずS3という単一のレイクに集約し、性質に応じてストレージクラスで階層化する。装置を増やすのではなく、同じS3の中でクラスを使い分けます。

02ストレージクラス — オンプレ階層との対応

肝は、これらが同じバケットの中でオブジェクト単位に混在できること。オンプレのように「アーカイブ用の別装置に手で移す」必要がなく、ライフサイクルルールで自動的に階層を落とせます。

03ライフサイクルとIntelligent-Tiering — 運用を自動化する

S3集約の真価は運用の自動化です。「作成から30日でIA、90日でGlacier、7年で削除」といったライフサイクルルールを宣言すれば、あとはS3が勝手に動かします。テープ交換も、アーカイブ装置への手動移動も要りません。

現場のコツ:アクセスパターンが読めないデータは、まずIntelligent-Tieringに入れておくのが安全です。手動で「これはIAに」と判断する運用は、判断ミスと手間の両方を生みます。ただし128KB未満の小オブジェクトは監視・自動階層化の対象外で常にFrequent Accessティア扱いになり、階層化によるコスト削減が効かないので、スモールファイル対策とセットで考えてください。

04分析を効かせる — パーティションと列指向

S3に集約したデータを、Athena(S3上のデータにSQLを投げる)やRedshift Spectrum、EMRで分析するのが、データレイクの本領です。ここで効くのが2つの設計です。

逆に、生ログをCSVのまま無数の小ファイルでS3に撒くと、分析は遅く高くなります。「S3に置けば分析できる」は半分正しく、パーティションと列指向の設計があって初めて実用になります。

05オンプレ運用との根本的な違い

まとめ

「全ストレージをS3へ」は、単なる置き場所の変更ではなく、用途別の装置運用から単一レイク+自動階層化への発想転換です。ストレージクラスとライフサイクルで運用を自動化し、パーティションと列指向で分析を効かせる。オンプレの容量計画・調達・RAID設計から解放される代わりに、従量課金とオブジェクトストレージの癖(前々回前回)を設計に織り込む。この転換ができると、S3は単なる倉庫ではなく、データ活用の土台になります。

S3を中心にしたデータ集約・データレイクの設計(ストレージクラス戦略、ライフサイクル、分析基盤の土台づくり)は、EMWの得意領域です。散らばったデータの集約から、Athena/分析で使える形までご支援します。

相談する
← ブログ一覧へ戻る