デロイト トーマツ コンサルティング(以下、デロイト トーマツ)は、RAG(Retrieval Augmented Generation)の利便性や精度を向上する複数技術を搭載した「多機能RAGアプリケーション」を開発した。
同社は、企業が独自のデータを生成AIを通じて利活用するために、大規模言語モデル(以下、LLM)に企業のデータベースを接続するRAGの実装を推進しており、今回はそのサービス強化の一環だという。生成AIプロジェクトにてさまざまな課題に対峙し、その技術ノウハウの中から、特に利便性や精度の向上に寄与する技術を集約し、多機能RAGアプリを開発した。
多機能RAGアプリの主な機能
- 検索精度向上のための機能:複雑な質問をシンプルな質問に分解し複数回の検索を経て回答を生成する「サブクエリ検索」、最初に複数のドキュメントを検索し選別したのちに特定ドキュメントに絞ったチャンク(意味のまとまり)単位での検索を行う「2段階検索」
- LLMの回答分野拡張のための機能:テキストのみならずドキュメント中のグラフやチャートなどの視覚的情報を読み取り可能とする「マルチモーダル」、業界や自社特有の用語の定義を登録しその定義を踏まえた回答を生成するための「独自用語集」
- 回答精度向上のための機能:評価の高い回答を優先的に表示するために一次保存し検索を経ずに回答を生成する「回答キャッシュ」、管理者がFAQデータ登録しそれをもとに回答を生成する「FAQ回答」
また、多機能RAGアプリに付随する「インデックス作成ツール」では、検索用データの作成にあたり、検索精度を向上させるためのさまざまなメタデータの付与や、マルチモーダルに対応したインデックス作成機能などが実装されている。
操作画面上では、回答のもとになった引用箇所や、より詳細な質問を促すフォローアップ質問が表示され、各機能の選択もON/OFF設定の切り替えが可能。多機能RAGアプリは、デロイト トーマツのコンサルタントおよびエンジニアがクライアントのニーズに合わせた生成AIの実装において活用することで、RAGに関する開発期間の短縮および品質の向上を支援するとしている。
【関連記事】
・プレイド、デジタル領域の知識とスキルを証明する資格「Certificate of KARTE」を開始
・パナソニックHDとストックマーク、専用日本語LLMの開発で協業 1000億パラメータ規模の見込み
・ユーザベース、SPEEDA・INITIALなど、国内SaaSプロダクト名称を「スピーダ」に統一