AI規制の新たなスタンダード、適法性の基準はガバナンス

　続いて、今回のガイドラインが採用した新しい規制アプローチについて、羽深氏が解説した。

　まず、医療のレントゲン読影や自動運転の分野において、既にAIが人間の平均を上回るパフォーマンスと安全性を発揮している現状を提示。これは、明治時代から続く「資格を持った人間のみが法的業務を担う」という前提に対する、テクノロジーからの強烈な問いかけともいえる。

　そうした背景がある中で、これまでの日本の法律は、特定の行為が合法か違法かをまず法律レベルで決定し、合法とされた場合にのみガバナンスを求める手順が一般的であった。これに対し、羽深氏は今回のガイドラインの画期的な点を次のように語る。

「きちんとガバナンスをやっているという条件であれば、どんどんリーガルテックサービスを提供してよいという仕組みになっています」（羽深氏）

　このようにガバナンスが重視される背景には、AIモデル特有の性質がある。AIはインプットに対するアウトプットを事前に完全に予測することが困難だ。だからこそ、サービスが価値中立的に設計されているか、あるいは安全性をモニタリングするためのログ取得が行われているかが厳しく問われるというわけだ。

　つまり、利用者に誤解を与えない表示となっているかを含め、「ガバナンスの設計」そのものが、適法性を判断する上での重要な要素として位置づけられたのである。

「ガバナンスがきちんとできているかどうかでそのサービスのリスクの性質が決まり、そしてそれによって合法的にハイリスクな行為を許容できるかどうかが決まってくるというのが、これからの規制のスタンダードになってくるのではないかと思います」（羽深氏）

　羽深氏はこのように述べ、今回の規制アプローチが法務領域にとどまらず、今後のAI規制全般における一般的な基準になり得ると言及した。

ユーザーに求められる「目利き力」とベンダーの透明性

　ガイドラインによってサービス提供の枠組みが示されたことにともない、ユーザー企業とベンダー側の双方に新たな対応が求められている。

　高野氏は、企業法務におけるサービス選定の基準について、ユーザー側の視点から次のように指摘した。

「ガバナンスがしっかりしているサービスプロバイダーというのは、リーガルテックの質にもこだわってサービス提供を行っていくことが期待できます」（高野氏）

　ベンダーがガイドラインの要件を形式的に満たすだけでは不十分だという認識だ。不正利用を防ぐための技術的なインターフェースの実装、利用者への適切な説明、問題発生時の能動的なアクションなどが運用されているかを確認することが求められる。

　これに対し、サービスを提供するベンダー側には一層の情報開示が必要となる。自社のガバナンス体制が裏側でどのように機能しているかを利用者へ説明する対応が求められるというのだ。

「ガバナンスの基準は今回かなり明確に提示されましたので、それに対する実質的な対応体制というのは、ユーザー側でも把握できるように、透明性高く示していただくことが重要だと思います」（高野氏）

　高野氏は、業界全体での取り組みとして、ガイドラインを踏まえたガバナンス体制が機能していることを客観的に確認できる仕組み作りを提案した。

　業界団体などが中心となり、適切なガバナンスを効かせている企業が可視化される仕組みを構築する。これが存在することで、市場の透明性が高まるという見解である。利用者が安心してテクノロジーを選択できる環境の構築が、業界全体の発展を促す要因として提示された。