デロイト トーマツ、LLMに企業独自データを組み込むノウハウを集約した「多機能RAGアプリ」を開発

　デロイト トーマツ コンサルティング合同会社（以下、デロイト トーマツ）は8日、企業が生成AIを通じて独自のデータを利活用するために、大規模言語モデル（以下、LLM）に企業のデータベースを接続するRAG（Retrieval Augmented Generation）の利便性や精度を向上する複数技術を搭載した、多機能RAGアプリケーション（以下、多機能RAGアプリ）を開発したと発表した。

　デロイト トーマツでは、RAGは生成AIが企業内の既存知識や蓄積されたデータを活用するにあたり有用な手段である一方、ビジネスで利活用するための技術課題が複数顕在化していると指摘。具体的には、大量のドキュメントの中から必要な情報を検索できない、ドキュメント中のグラフやチャートなどの視覚的情報が読み取れない、複数の問いを含む複合的な質問に回答できない、自社独自の用語をLLMが理解していないため回答が正確ではないといった課題があるという。

　デロイト トーマツは、さまざまな生成AIプロジェクトにてこうした課題に対峙し、その技術ノウハウの中から、特に利便性や精度の向上に寄与する技術を集約し、多機能RAGアプリを開発した。

　多機能RAGアプリのうち、検索精度向上のための機能としては、複雑な質問をシンプルな質問に分解して複数回の検索を経て回答を生成する「サブクエリ検索」、最初に複数のドキュメントを検索して選別した後に特定ドキュメントに絞ったチャンク（意味のまとまり）単位での検索を行う「2段階検索」などを備える。

　LLMの回答分野拡張のための機能としては、テキストのみならずドキュメント中のグラフやチャートなどの視覚的情報を読み取り可能とする「マルチモーダル」、業界や自社特有の用語の定義を登録しその定義を踏まえた回答を生成するための「独自用語集」などを備える。

　回答精度向上のための機能としては、評価の高い回答を優先的に表示するために一次保存して検索を経ずに回答を生成する「回答キャッシュ」、管理者がFAQデータを登録してそれをもとに回答を生成する「FAQ回答」などを備える。

　また、多機能RAGアプリに付随する「インデックス作成ツール」では、検索用データの作成にあたり、検索精度を向上させるためのさまざまなメタデータの付与や、マルチモーダルに対応したインデックス作成機能などが実装されている。これにより、ドキュメントを投入するだけで多機能RAGに対応したインデックスデータを作成する。

　操作画面上では、回答のもとになった引用箇所や、より詳細な質問を促すフォローアップ質問が表示され、各機能の選択もON/OFF設定の切り替えにより可能にしている。多機能RAGアプリは、デロイト トーマツのコンサルタントおよびエンジニアがクライアントのニーズに合わせた生成AIの実装において活用することで、RAGに関する開発期間の短縮および品質の向上を支援する。