組織にAIを溶け込ませる「3つのLoop」と自己改善型アーキテクチャ
個人単位でのAI活用（ChatGPTやCopilotの利用）は個人の業務効率化に寄与したものの、「企業の売上増加や大幅なコスト削減といった組織全体のアウトカムに直接結びついていない」という悩みを抱える企業は多い。個別利用ではプロンプトが属人化し、権限管理やナレッジの蓄積が困難だからだ。
この課題に対し、福島氏はAIを「仕事を通じて育つ同僚」へと進化させる「3つのLoop（ループ）」構造を提示した。
- Inner Loop（実行・検証・補正）：ゴールに対し、計画・実行・検証を繰り返すループ。自社の会計ルールや法務レビュー基準など、企業固有の評価体系を用いて結果を検証する。
- Outer Loop（学習・記憶）：実行ログや人間のフィードバック（Human-in-the-Loop）を元に、知識や記憶を蓄積するループ。
- Harness Optimization Loop（ハーネス最適化・自己改善）：AIの思考プロセスやシステムプロンプト、アクセス権限、ツール設定といったハーネスそのものを修正・最適化するメタ的なループ。
「従来のAIはモデルの重みを更新しない限り学びませんでしたが、評価結果をもとにハーネスを最適化するループを回すことで、失敗から学ぶ社員のようなエージェントが構築できます。最近では、この改善計画の立案自体をフロンティアモデルに任せる『エージェントを作るエージェント』の精度が飛躍的に向上しています」（福島氏）
開発速度3倍、月間トークン費30万円──LayerXが直面した現実とLLMゲートウェイ
LayerXでは、この「組織AI」の実装に向けて凄まじい密度の試行錯誤を行ってきた。2025年12月より、全社に「Shepherd」というMCP（Model Context Protocol）ゲートウェイ機能を備えた独自デスクトップアプリを配布。エンジニアだけでなくビジネス職も含めた全従業員が使い倒した結果、月間のトークンコストが1人あたり平均30万円（人件費の3〜4割に相当）に達する事態が発生した。
同社はこの膨大なトークン消費から得た学びを元に、直ちに「LLMゲートウェイ」と「AI Token Cost Analyzer」を構築。全リクエストのプロンプトを解析し、「プロンプトキャッシュが効いていない」「セッションが長すぎる」などのフィードバックをユーザーへ提示すると同時に、タスクの難易度に応じたモデル自動ルーティングを実装した。
結果として、利用規模や生み出す価値を維持・拡大しながらコストを劇的にコントロールすることに成功した。開発面では、コミット数ベースで開発生産性が3倍以上に向上し、同社の主力事業である「バクラク」において、過去4年分に匹敵するプロダクト成果をわずか1年でリリースするという凄まじい成果を叩き出した。
