LLM

その他技術ナレッジ

Kong連載第4回 生成AIの企業利用を安全に。マルチLLM時代を制する「Kong AI Gateway」の実力

企業で生成AI(LLM)の活用が進む一方、セキュリティやコスト管理の課題が浮上しています。連載第4回では、複数LLMへのルーティング統合、APIキーの隠蔽、トークン管理などを一元化し、エンタープライズ環境で安全なAI活用を実現する「Kong AI Gateway」の強力な機能とメリットを解説します。
Azure

【Microsoft Foundry】Azure Open AI / Azure AI SearchでRAG構築入門

Azure OpenAI×Azure AI SearchでRAGを構築する入門。RAGの概要、Search/LLMの役割、リソース作成〜動作確認までを手順付きで解説。検索精度を上げるチャンク/メタデータ設計の勘所も紹介。
Google Cloud

Vertex AIのFunction Callingを再帰呼び出しして算数の問題を解かせてみた。

Vertex AI の Function Calling API について調査しましたので、その魅力について少しだけご紹介します。
AWS

生成AI初心者がAmazon BedrockのKnowledge baseを使ってRAGを試してみた

AWS re:Invent2023にて、Amazon BedrockのKnowledge baseとAgentsがGAされたと発表がありました。今回はこのうちKnowledge baseを利用して、RAG(Retrieval Augment Generation)を試してみたいと思います。
×