NTTドコモグループ3社（NTTドコモ、NTTコミュニケーションズ、NTTコムウェア）は、大規模言語モデル（LLM）を活用した生成AIによる社内業務のDX推進や、生成AIの付加価値を高める新たなサービスの提供をめざし、2023年8月21日から生成AIの社内活用を行う実証実験を開始する。

　同実証実験では、生成AIを活用する際の安全性と利便性向上のために、NTTドコモが開発した「LLM付加価値基盤」をNTTドコモグループ3社で活用。まずは、NTTドコモグループ3社の全従業員の業務効率化に向けて、たとえば、業務における専門性の高い問い合わせに対し、社内ルールやマニュアルをベースにLLMが生成した文章で回答を行うなど、社内業務において同基盤を活用するという。

　また、利便性や回答の正確性を検証し、顧客応対業務などへの適用可否を検討。同基盤は、今回の実証実験で得られたノウハウをもとに最適化を行い、法人顧客との検証を経て、2023年度中のサービス提供開始をめざすとしている。

　加えて同基盤を、NTTドコモが保有するビッグデータや音声認識／画像認識などのAI技術と組み合わせることで、法人顧客とともに新たな付加価値サービスの検討を開始すると述べている。

　同基盤は、生成AIの活用普及に伴う情報漏洩や大規模データゆえの正確性の担保の難しさ、差別・暴力表現や社会規範に反する表現などの不適切回答の課題などに着目し開発されたもの。プロンプト入力時に、回答のもととなるマニュアルなどのファイルを追加で投入すると、ファイルの内容をもとに回答を生成し、回答にファイル内のリファレンスを表示する機能などを備えているという。

　また、機微情報の外部送出フィルタリング機能やLLMからの不適切回答のフィルタリング機能を追加するなどし、安全性を向上させる基盤の提供をめざすとしている。

　加えて、同基盤はAzure OpenAI Serviceと連携して利用可能だが、今後はNTT研究所が独自開発する分野特化型のLLMをはじめ、オープンソースソフトウェアや各ベンダが提供するLLMを活用し、ユースケースに合わせさまざまなLLMを選択して利用できる基盤として拡張していくという。

　実証実験の概要は以下のとおり。

目的・概要

　生成AIを活用する際の安全性や利便性を向上するために開発した同基盤を活用し、社内情報を安全にLLMに連携し、適切な回答文を生成できるか検証。同基盤を活用して、社内業務のDXを推進し、そこで得られたノウハウをもとに、顧客応対業務など、より多くの業務への適用をめざす。また、今後法人の顧客とともに、新たな付加価値サービスの創出に向けたユースケース検証を行う。

実証実験期間

2023年8月21日～12月31日

LLM付加価値基盤の特徴

• 投入したファイルのリファレンスを表示する機能：事前に用意された業務マニュアルなどの大量の文書を自然文で検索し、文書の該当箇所をリファレンスとして表示し、検索結果を返却する機能を提供
• 機微情報の外部送出フィルタリング機能：パーソナルデータなど企業としてのLLMへの入力が好ましくないデータをチェックし、流出を防止するフィルタリング機能を提供予定
• 差別・暴力等の不適切回答のフィルタリング機能：LLMからの出力内容をチェックし、差別・暴力表現や社会規範に反する表現など、企業として不適切な回答を低減するフィルタリング機能を提供予定