【GCP】BigQuery+Dataplexハンズオン受講レポート

こんにちは。最近Google CloudのDataシリーズにはまっている林です。

Google Cloud Day: Digital ’22の2週目に開催されたハンズオン祭のうち、『データエンジニア向けBigQuery + Dataplex 編』を受講してきました。

Google Cloud Day: Digital ’22
2022 年 4 月 19 - 22 日、26 - 28 日 開催決定。全ての業界で活躍する開発者やそのリーダーを対象に、Google Cloud が支援する企業の DX の実現と、新たなビジネス価値の創造について、経営的、技術的観点から深く学べるカンファレンスです。 皆様のビジネスを加速するヒントを、ぜひ見つけてく...

Dataplex”は聞いたことがあったもののどのようなサービスか全く理解していなかったため、非常に勉強になる内容でした。

Dataplexって?

分散したデータを一元化して、 データ管理を自動化し、より強力な大規模な分析を可能するインテリジェントなデータファブリック
(ハンズオン資料より抜粋)

なるほど、わかったようなわからないような。私はこれだけでは具体的なイメージがさっぱりでした。

なので具体的にできることを見ていきます。

Dataplexが解決する課題(資料より抜粋) できること
インテリジェントなデータ管理・処理 Cloud Storageバケット内のファイルのメタデータの自動検出ができる。

データのキュレーションができる。

データ品質(※)の管理・運用ができる。

サイロ化されたデータの一元管理 BigQueryデータセット、Cloud Storageバケットをグループ化しまとめて管理(アクセス制御等)できる。
効率的なデータの探索と分析ツールの柔軟な選択 データ内での探索やクエリなど分析を統合された画面からできる。(プレビュー版)
データ品質:データが分析するうえでどれくらい信頼できるかの指標。データ品質に問題があると、データによる誤った事実認識や意思決定などにつながる。

要するに、

Dataplexを使うと大規模なデータの管理がしやすくなるよ。(※ただしBQ、GCS上のデータに限る)

というサービスのようです。

Google Cloudコンソールの切り口で見ていきます。

Dataplexコンソール

管理

サイロ化されたデータの一元管理』に該当する部分です。

以下はデータ管理に関連する用語整理です。

レイク 論理グループ
分析対象データ(BQ、GCS)をまとめることができる
ゾーン 論理グループ
分析対象データ(BQ、GCS)をまとめることができる  

未加工ゾーン 非構造化データや半構造化データを入れるゾーン
データ変換が必要なデータ
ファイルフォーマット:CSV、JSON
キュレートされたゾーン 構造化データを入れるゾーン
ファイルフォーマット:Paquet、Avro、ORC
アセット BigQueryデータセット、Cloud Storageバケット

※2022/04時点では上記2つのみ対応。今後拡張予定。

図にすると以下のイメージです。

データ管理の図

安全

レイクやゾーン単位でのユーザーのアクセス権管理がここからできます。

アクセス管理画面

処理

データのキュレーションやデータの品質チェックなど、色々な処理(タスク)が作成可能です。

タスク作成画面

探索

アセットに登録されているデータを探索することができます。ここからデータを選んでタスクを作成することもできます。

データ探索画面

今回はハンズオンのクーポンがあったので無料でしたが、最後に料金も見ておきます。

レイク/ゾーン/アセットの設定やセキュリティポリシーの適用は無料です。
主に『処理』と『探索』に料金がかかるようですが、無料枠が用意されているので、小規模な利用でしたら無料枠に収まるかもしれないです。

また、別途裏で稼働するDataproc、BigQuery、Dataflowなどの料金もかかります。

料金  |  Dataplex  |  Google Cloud
Dataplex の料金を確認する

ハンズオン

シナリオは以下の通りです。

ハンズオンシナリオと構成

ハンズオンでやったことのざっくりとした流れです。

ハンズオン事前準備

  1. サンプルデータ用GCSバケット作成
  2. サンプルデータをGCSバケットにコピー
  3. Dataplex APIの有効化
  4. Data Fusionの起動(API有効化、インスタンス作成)

BigQueryを使った分析の基本

  1. GCSからBigQueryへのデータのロード
  2. BigQueryへのクエリの実行
  3. BigQueryで外部テーブルを定義し確認
  4. BigQueryでビューを作成
  5. BigQueryでマテリアライズドビューを作成
  6. BigQueryでスケジュールされたクエリを設定

Data Fusionでデータパイプライン構築

  1. パイプラインの定義ファイルを準備
  2. パイプラインのインポート
  3. パイプラインの実行
  4. 生成されたデータの確認

Dataplexでデータを集約管理

  1. レイクの作成
  2. 未加工ゾーンの作成
  3. GCSバケットをアセットとして追加
  4. キュレートされたゾーンの作成
  5. BigQueryデータセットをアセットとして追加
  6. アセットのデータ自動検出の確認
  7. キュレートされた形式に変換するタスクの作成
  8. Parquetファイルへの変換を確認

Dataplexでデータ品質チェック

  1. データ品質のチェック仕様定義ファイルの作成
  2. Dataplexで品質チェックのタスクを作成
  3. 品質チェック結果の確認

環境削除

最後に

Dataplexって何?という疑問は晴れて解決しました。

タスクが簡単に作成できる部分や、グループ化して権限管理ができる部分はとても使い勝手が良く、サービスとして使う価値は十分にありそうだと感じました。
あとやはりノンコーディングで完結するのはうれしいポイントですね。

現在はデータソースがBigQueryとCloud Storageに限られているので、そこは今後拡張してくれたらなーといったところでした。
次のブログはこのハンズオンでも使用したData Fusionについて書こうと思います!

著者について

Google Cloudを活用した各種基盤の提案・設計・構築をしています。
取得資格:Google Cloud認定5個、AWS認定11個、情報処理安全確保支援士 等
2022 APN ALL AWS Certifications Engineers 受賞
好きなGoogle Cloudプロダクト:Cloud Functions / Workflows / Data Fusion ...

林惇史をフォローする
クラウドに強いによるエンジニアブログです。
SCSKは専門性と豊富な実績を活かしたクラウドサービス USiZE(ユーサイズ)を提供しています。
USiZEサービスサイトでは、お客様のDX推進をワンストップで支援するサービスの詳細や導入事例を紹介しています。
Google Cloud技術ナレッジ
TechHarmony
タイトルとURLをコピーしました