Amazon Bedrock(Titan Textモデル)でAWSブログを要約して通知する

本記事は TechHarmony Advent Calendar 12/25付の記事です。

こんにちは、SCSKの木澤です。

今年初めて企画したTechHarmony Advent Calendarも、本日で完走となりました。
TechHarmony寄稿者から広く協力いただき、本企画を完遂できたことは感激ひとしおです。
各記事をご覧頂いた頂いた皆様も、ありがとうございました。

さて今年の話題と言えば、最後としては何と言っても生成AIのブームでしょう。
昨年11月のChatGPT発表以降一世を風靡し、AWSとしても今年4月にAmazon Bedrockを発表、プレビュー期間を経て9月にGAされました。

Amazon Bedrockの特徴としては、多数の生成AIモデルから選択できること、データセキュリティに強く配慮していること、他のAWSサービスと統合が容易なことが挙げられます。
生成AIモデルの性能としては後塵を拝しているとの評価もありますが、用途によっては十分に使えるため、既にAWSを活用しているユーザーにとっては有力な選択肢になると思われます。

私は昨年、AWSブログの更新を検出しTeamsに通知するという記事を発信しました。
そこで今回はこれに生成AIの要素を追加し、記事を要約して通知することにチャレンジしてみたいと思います。

アーキティクチャ・生成AIモデルの選択

アーキティクチャとしてはこんな感じ。
前回の記事から、翻訳に用いていたAmazon TranslateをAmazon Bedrockに取り替えているだけです。

  • Amazon SNS経由メール通知
  • Amazon SMS経由Teams通知(HTMLメール)
  • Webhook経由Slack

など幅広く対応可能です。

生成AIモデルにはAmazon Titan Text G1 – Expressを利用しました。
こちらは今年のre:Inventで発表があったAmazon Bedrockの言語モデルです。英語以外にも100を超える言語に対応しますが、2023年12月時点で英語以外はプレビューの扱いとなっています。

Amazon Titan Text モデル (Express と Lite) が Amazon Bedrock で一般提供されるようになりました

今回はTitan Textの日本語性能をチェックしてみたかったことや、コストの観点での選択した次第です。
もしやAWS情報の要約であるためAmazon謹製の生成AIモデルでも期待できるのでは?という思いもありました。

価格は Claudeの1/8~1/10程度、Claude Instantの2/3~1/2程度の費用となります。
もし実用に耐えるのであれば有力な選択肢になるでしょう。

基盤モデルを使用した生成系 AI アプリケーションの構築 – Amazon Bedrock の料金表 – AWS
オンデマンドやプロビジョニングスループットなどの Amazon Bedrock の料金モデルの詳細情報と、AI21 labs、Amazon、Anthropic、Cohere、Stability AI などのモデルプロバイダーの料金内訳をご覧...

 

設定手順

以下の手順を実施しました。
なお、当方では東京リージョン(ap-northeast-1)で実装しました。

パラメータストアの作成

後述のLambda関数では取得元RSSフィード情報をAWS Systems Managerのパラメータストアから取得するように設計してありますので、下記のようなJSON形式でパラメータストアを作成します。

タイトルとURL、言語のみしているシンプルなものです。

[
{"TITLE":"AWS What's New(英語版)","URL":"https://aws.amazon.com/about-aws/whats-new/recent/feed/","LANG":"en"},
{"TITLE":"AWS What's New(日本語版)","URL":"https://aws.amazon.com/jp/about-aws/whats-new/recent/feed/","LANG":"ja"},
{"TITLE":"AWS News Blog(英語版)","URL":"https://aws.amazon.com/blogs/aws/feed/","LANG":"en"},
{"TITLE":"Amazon Web Servicesブログ(日本語版)","URL":"https://aws.amazon.com/jp/blogs/news/feed/","LANG":"ja"},
{"TITLE":"AWS JAPAN APN ブログ","URL":"https://aws.amazon.com/jp/blogs/psa/feed/","LANG":"ja"}
]

Amazon SESへのメールアドレス登録

今回はAmazon SES経由で通知を行いますので、メールの「From」になるメールアドレスと、宛先となるTeamsのメールアドレスを登録し認証しておきます。

Amazon Bedrock 生成AIモデルのリクエスト

Amazon Bedrockのコンソールに接続し、Model AccessからTitan Text G1 – Expressを有効化します。

Access grantedと緑で表示されていることを確認します。

Lambda関数の作成

IAMロールの事前準備

以下のアクションを許可したポリシーを作成し、これらをアタッチしたロールを作成します。
英語版ブログのタイトルの翻訳を含むため、Translateの権限も残してあります。

  • AWS Systems Manager(Parameter Store)からの値の取得
    • ssm:GetParameterHistory
    • ssm:GetParametersByPath
    • ssm:GetParameters
    • ssm:GetParameter
  • Amazon Translateでの翻訳実行
    • translate:TranslateText
  • Amazon Bedrockでの推論実行
    • bedrock:InvokeModel
  • SESでのメール送信
    • ses:SendEmail
  • CloudWatch Logsへのログ送信
    • logs:CreateLogGroup
    • logs:CreateLogStream
    • logs:PutLogEvent

Bedrockのモデル呼び出しはbedrock:InvokeModelのみで良いようです。ポリシーはこちら。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": "bedrock:InvokeModel",
            "Resource": "*",
            "Effect": "Allow"
        }
    ]
}

Lambda関数の作成

2023年12月にLambdaでPython 3.12ランタイムがリリースされました。
内包されているbotoのバージョンは1.28.72となっており、boto3をアップデートするためにLambdaレイヤーの作成もしくは関数内への埋め込みは不要になりました。

そこで、前回同様組み込みが必要なライブラリはfeedparserのみとなります。
AWS Cloudshellにログインし、適当なフォルダを生成し以下のようなコマンドで生成→S3バケットにプッシュします。

$ pip3 install feedparser -t .
$ touch lambda_function.py
$ zip -r func.zip ./*
$ aws s3 cp ./func.zip s3://(S3バケット名)/

関数のひな形をデプロイ後、ソースコードは以下のように改修しました(ダウンロードしご確認ください)

AWSアップデート通知Python Lambdaコード(Bedrock-Titan要約版)

 

なお、botoにてAmazon Titan Textを呼び出すためのパラメータはこちらで確認できます。

Amazon Titan text models - Amazon Bedrock
The Amazon Titan models support the following inference parameters for text models.

一般設定・環境変数の設定

元々本Lambda関数はRSSのパース及び外部の呼び出しに少々時間がかかりますが、Bedrockの呼び出しで更に時間が掛かります。タイムアウト時間は3分程度まで延ばしておいた方がよいと思われます。

また環境変数として以下を指定します。

  • MAIL_FROM 送信するメールの発信元
  • MAIL_DEST_EN 英語版ブログの通知先メールアドレス(Teams)
  • MAIL_DEST_JA 日本語版ブログの通知先メールアドレス(Teams)
  • PARAMETER_STORE 作成したAWS Systems Managerパラメータストアの名前

EventBridgeルールの設定

最後に、Amazon EventBridgeのルールを追加し、作成したLambda関数を定期実行するように設定します。

動作確認

以上、AWSアップデートの要約チャレンジでした。
Lambdaを実行すると、Bedrock(Titan)で記事が要約された通知が行われます。

本サンプルはSNS経由メール通知で届いたものを掲載しています。
日本語版ブログを要約させたもの

概ね想定通りの結果が得られました。

英語版ブログをTitanで直接日本語解説させたもの

下記は比較的良い結果を載せましたが、出力結果が不安定な印象があります。

 

まとめ&今後の展望

LambdaからBedrockを呼び出して、アプリケーションに生成AIモデルを組み込むことが非常に簡単なことが解りました

今回の検証の結果では、英語版ブログの翻訳まで組み込んだ形で要約するにはまだ不安定であるといった印象でしたが、Amazon Translateと組み合わせることで実用に耐えうるレベルに達するのでは無いかという印象です。
また今回は時間切れのため検証できませんでしたが、プロンプトの調整で改善される可能性もあるかと思います。

実際にはRSSで配布される記事の要約文(Description)もあるため、今後の本番運用に関しては引き続き検証し判断していきたいと思います。

今後ともAmazon Bedrockを用いて色々なサーバレスアプリに生成AI要素を組み込んでいきたいですね。
では。

著者について
木澤 朋隆

SCSKにてクラウドのアーキテクトやマーケティング/プロモーション、社内の開発者支援等を担当しています。

資格
 AWS認定14冠
 情報処理安全確保支援士・テクニカルスペシャリスト(NW)等
表彰
 AWS Ambassador (2021~)
 Japan AWS Top Engineer (2022~)
 Japan AWS All Certifications Engineer (2022~)
 AWS Community Builder (2023~)

木澤 朋隆をフォローする

クラウドに強いによるエンジニアブログです。

SCSKクラウドサービス(AWS)は、企業価値の向上につながるAWS 導入を全面支援するオールインワンサービスです。AWS最上位パートナーとして、多種多様な業界のシステム構築実績を持つSCSKが、お客様のDX推進を強力にサポートします。

AI・MLAWSアプリケーション開発クラウドソリューション
シェアする
タイトルとURLをコピーしました