AIで業務アプリは自作できた。その責任は誰が持つのか？

　今やAIエージェントの進化に伴い、プログラミングの知識がなくても、AIに指示を出すだけで独自の業務システムを作成できるようになった。「SaaS is dead」という論調もよく耳にする。

　この問いに対して、ラクス 楽楽クラウドバックオフィス事業統括本部 マルチプロダクト企画部 部長の李春幸氏は、AIで手軽に業務アプリが作れるようになった一方で、実際の業務で使い続けていくうえでの保守・運用管理の問題を指摘。単に業務アプリを「作る」ことと「実務で安定的に使い続ける」ことには、大きな壁があるという。

　「AIによって作成スピードは上がったと同時に、『誰が仕様を理解し、誰が保守するのか』という問題も発生します。作ることが民主化された裏側で、責任の所在という問題が表面化しているのです」

　AIは設計案やテストを提案できる。しかし、AIで自作したアプリの設計が税務・会計・運用上正しいかを判断し、継続的に保証する責任を、自社で担うことができるかが、同時に問われるのだ。「業務におけるシステム運用とは、過去のデータを守りながら変化することであり、AIの提案だけでは完結するのは難しい」と李氏は指摘する。