BigQuery

Google Cloud

TerraformでBigQueryをIaC化してみた

Terraformを使ってBigQueryのリソース(データセット・テーブル・スキーマ)をInfrastructure as Code(IaC)として管理する方法を解説します。
Google Cloud

Cloud Run × PythonでタイムトラッキングツールからAPI自動取得バッチを構築してみた

TMetric というタイムトラッキングツールからデータを自動で抽出し、BigQueryにロードするまでのプロセスを、Cloud RunとPythonを活用して実装した事例を紹介します。
Google Cloud

Dataformのアサーション出力先を環境ごとに変える方法

Dataformにおけるアサーション結果の出力先について、環境ごとにプロジェクトやデータセットを変更する方法をご紹介します。
Google Cloud

Dataformのアサーションを増分ロジックで実装する方法

Dataformのアサーションにおいて、増分ロジックでスキャンする方法についてご紹介します。組み込みアサーションはフルスキャンとなってしまいますが、手動アサーションによる実装であれば、クエリの書き方次第で増分ロジックでアサーションを実装することが可能です。
Google Cloud

Fivetranを使用して、メールから送られてくるデータをBigQueryに格納してみた

クラウド型データ連携サービスであるFivetranを活用し、BigQueryに効率的にデータを格納する方法について解説します。データエンジニアリングの知識がなくても、Fivetranを使えば、簡単にデータ連携パイプラインを構築することができます。
Google Cloud

【Google Cloud】BigQuery の外部テーブル機能

BigQuery外部テーブル徹底解説!GCSのデータをロード不要で即分析。作成方法から活用例、注意点まで分かりやすく解説。データレイク連携や一時分析にも最適。
Google Cloud

【Google Cloud】BigQueryのビュー機能まとめ

BigQuery のビュー機能の基本的な概念から、具体的な活用例、そして知っておくべき重要なポイントまでを徹底解説します。今回は標準ビュー、承認済みビュー、マテリアライズドビューのそれぞれのメリット、ユースケースをまとめます。
Google Cloud

【Google Cloud】Agentspaceについてご存じですか?⑤「ブレンドRAG編」

今回はブレンドRAGの機能を活用し、複数のデータソースを精査した上で回答を生成させるデモを紹介します。対象のデータソースを一か所に集約させることなく、データソースを複数選択することができるので、現状の業務環境にフィットさせる形で利用を開始することが可能です。
Google Cloud

【Google Cloud】Agentspaceについてご存じですか?④「BigQuery編」

AgentspaceのデータソースとしてBigQueryテーブルを接続し、テーブル内の情報から回答を生成させるデモをご紹介します。
Google Cloud

【Google Cloud】BigQueryにCSVデータを取り込むときに遭遇したエラーと解消方法

BigQueryにCSVデータを取り込む際にあたったエラーを備忘録を兼ねてまとめました。大規模データの際は、これらのエラーが複合的に出てくることがあります。その際も、今回ご紹介した解消方法を組み合わせることで(だいたいは)解消可能です。