[Generative AI Summit Tokyo '24] セッション参加レポート - Vertex AI Search と Conversation を活用した生成 AI アプリケーション開発入門

2024.03.13 2024.03.31 Yudai Imai

Generative AI Summit Tokyo '24

「生成 AI」は、ビジネスの成長やイノベーションを促進する非常に大きな可能性を秘めています。昨年 Google は生成 AI アシスタントの「Bard」を提供開始し、そして「PaLM」や「Gemini」を搭載した Google Cloud の企業向け生成 AI サービスの提供をはじめました。また、生成 AI を利用したアプリケーションを簡単に開発できる統合 AI プラットフォーム「Vertex AI」を進化させています。

本イベントでは、「触ってみる」段階から、「生成 AI を活用したアプリケーションやソリューションを開発する」段階に移行するためのヒントや、開発者、IT 企画、ビジネスまで広く利用できる生成 AI 関連の企業向けソリューションについて、わかりやすく解説します。

この記事では、本イベントのセッション「Vertex AI Search と Conversation を活用した生成 AI アプリケーション開発入門」について、解説します。

はじめに

本セッションの概要は以下の通りです。

「生成 AI はモデルを触ってみる、試してみるから活用してアプリケーションを作るフェーズに突入しています。本セッションでは、生成 AI アプリケーションでの典型例である RAG （生成 AI を活用した情報検索）を取り上げ、Vertex AI Search や Conversation をはじめとする Vertex AI の各種サービスを活用して効率的に生成 AI アプリケーションを構築する方法を説明します。」

生成AIを活用した典型例としてのRetrieval-Augmented Generation(RAG、外部ソースから取得した情報を用いて、生成 AI モデルの精度と信頼性を向上させる技術)をGoogle Cloudのサービスを利用して実現する方法を入門的に説明するセッションでした。すでにGoogle Cloudでは試してみるフェーズから実際の業務で活用するフェーズに利用できるサービスが存在することをアピールする内容となっていたため、そういった面についてもこのブログではご紹介させていただきます！

内容

本セッションは、以下のようなことに課題を感じている開発者に向けて入門的な用語の説明が実施されました。そして、実際にGoogle Cloudのサービスを活用してRAGを構築してみてほしいという内容となっていると感じました。

LLMを業務適用できるか試したが、あまりうまくいっていない
さらなる最適化のためにLLMのチューニングが必要になりそうだが難しそう
生成AIの界隈で「検索」や「RAG」というワードが出てくるようになったが、あまりよくわかっていない

プロンプトエンジニアリングの限界について

LLMを利用したことのある方は聞いたことがあるかと思いますが、LLMに何かを質問するときには質問文であるプロンプトがとても大事になります。このプロンプトをLLMがより理解しやすくより効率的に把握させるための技術がプロンプトエンジニアリングの簡単な説明となります。

本セッションではこのプロンプトエンジニアリングの限界として、以下のような画像で説明されていました。

3-4

LLMをそのまま利用する場合は、LLMが知らない情報を回答することはできませんし、どういったエビデンスをもって回答したのかを示したりすることはできません。

ですが、こういった課題を解決する方法として利用されている技術がRAGとなっております。

セマンティック検索とベクトル検索について

本ブログではセマンティック検索とベクトル検索については簡単な説明とさせていただきますが、これらの技術はRAGを理解するうえではとても大切な内容となっております。

セマンティック検索は意味検索とも説明されるもので、ユーザーが検索エンジンやLLMにキーワードではなく自然言語で質問したときにその意味を理解しその意味に沿った検索結果を提供する技術となります。そして、その意味をどのように扱うかの部分がベクトル検索の技術となります。

5-3

ベクトル検索は、ユーザーが入力した質問をベクトルに変換し、同様にベクトルに変換されているコンテンツ群に対して検索を行う技術となります。このようにベクトルが近いコンテンツを検索することにより、セマンティック検索を実現できるようになります。

6-2

Google CloudでRAGを構築する方法について

RAGでは以下の画像のような工程を経て構築することが可能となります。そして、この工程をVertex AI Searchを活用して短縮することができます。ただし、簡単に構築できるRAGであっても業務適用させるには限界があります。

4-3

7-3

RAGの限界について

RAGは結局のところ、RAGを構築した開発者が収集したデータソースから検索した内容を回答できるだけになります。このようなことは今までできなかったためとても素晴らしい技術ではあるのですが、業務適用していくためには回答が得られた後にさらなるアクションが追加できないといけません。

9-4

このRAGの限界を超えるためのGoogle Cloudのサービス「Vertex AI Conversation」が紹介されました。

RAGの回答内容をもとにしたさらなるアクションを可能にするサービス

Vertex AI Searchで得られた回答内容をもとにさらなるアクションをカスタムすることができるサービスとして、Vertex AI Conversationというサービスが紹介されました。このサービスを利用することでVertex AI Searchで得られた回答内容をもとに、チャットボット形式で「旅行の予約」や「注文の完了」といった高度で複雑な処理を実行することが可能となります。

10-2

Vertex AI Conversationの一機能として、最近パブリックプレビューとなったVertex AI Conversation Playbooksというサービスも紹介されました。このサービスでは、ユーザーの目標とその目標を実現するためのステップ、そして目標を実現するまでの例を自然言語で登録することができるサービスとなっており、より簡単にカスタムされたチャットボットを作成できるようになります。

12-1

まとめ・感想

本セッションではGoogle Cloudのサービスを利用してRAGを説明するだけではなく、そのRAGを活用した先のアクションまで説明されています。私は今回のセッションの中で説明されていたサービスを触ったことはありましたが、このサービスを利用してどのような価値を提供できるかをあまりイメージできていなかったので、とても参考になる内容だったと感じています。

今後RAGを利用してみたいと考えているがどのようなサービスを使えばいいのか、RAGを構築したもののさらなる業務適用を進めるにはどうすればいいのか、といったことを感じていた方に対して一つの指針が示された良いセッションだったと思います。本ブログでセッション内容に興味を持った方がいらっしゃれば参考セクションのセッション詳細から確認できますので、確認してみてはいかがでしょうか！ご一読いただきありがとうございました！