NTTデータは、NTT版LLM「tsuzumi」と連携した生成AIを活用した文章検索・回答生成システム「LITRON Generative Assistant」(以下、LITRON GA)の新サービスを4月から提供開始する。
LITRON GAの新サービスでは、従来から提供している関連文章検索機能に業務データを学習したtsuzumiを組み合わせて利用することで、業務に特化した日本語の回答文章を生成。また、閉域環境で利用できるため会社の重要情報を扱うユースケースにも適用でき、生成AIの利用を拡大できるという。tsuzumiは追加学習する場合においても大規模なマシンリソースが不要となるため、従来に比べ20分の1以下にコストを低減できるとしている。
なお、同サービスの提供にあわせて、生成AIに関するコンサルティング、データサイエンティストによる支援、システム構築・運用、人材育成を提供するという。