ソフトバンクが1万9000人規模のRAG基盤を作って分かったこと――「現場の自由」と「会社の安全」を両立させる設計思想

AIツールを「使わせてあげる」のか、それとも「使えるように整える」のか。この問いは一見シンプルに見えて、大企業のAI活用を巡る最大の摩擦点でもある。現場は便利なものをすぐ使いたいと動き、情報システム部門はガバナンスとセキュリティを守ろうとする。どちらかを犠牲にすれば組織は機能しなくなる。ソフトバンクが1万9000人規模の「全社RAG基盤」を構築した背景には、この二律背反を正面から引き受けた試行錯誤があった。

RAGの乱立という「良い問題」が引き起こした混乱

RAG（Retrieval-Augmented Generation）とは、社内文書や業務データベースなどの外部情報を参照しながら回答を生成するAI技術の枠組みを指す。単体のLLM（大規模言語モデル）が学習済みの知識しか持たないのに対して、RAGは「今ある資料」を都度参照できるため、企業内の業務利用に適しているとされる。

ソフトバンクでは、このRAGを活用したシステムが社内の各部署で独自に立ち上がり、乱立状態になっていた。各部門が個別にシステムを構築した結果、運用コストの分散、セキュリティ水準のばらつき、ナレッジの分断といった問題が生じ始めた。便利なツールが増えること自体は歓迎される動きだが、管理されない拡散は企業にとってリスクにもなる。

ソフトバンクが「全社RAG基盤」で解こうとした構造的課題

同社が選んだのは、バラバラに存在するRAGを統廃合し、全社共通のRAG基盤として再設計するというアプローチだった。1万9000人が利用する規模の基盤を設計するにあたって、単に機能を集約するだけでなく、「ガバナンスをシステムに組み込む」という設計方針が中心に置かれた。

ガバナンスをルールや運用マニュアルで担保しようとすれば、現場の利用ハードルが上がる。一方でシステム側に制御ロジックを埋め込めば、現場は意識せずともセキュリティや情報管理の要件を満たせるようになる。この発想の転換が、利便性と安全性を両立させる鍵になったとされる。

構築の過程は、参照記事が「泥臭い舞台裏」と表現するように、技術的な課題だけでなく、部署をまたいだ調整や既存システムとの統合など、地道な作業の積み重ねだったという。

1万9000人が使うシステムになるまでの「泥臭さ」とは何だったか

大規模な全社基盤を作る際に直面しやすいのが、「誰にとっても使えるシステム」にしようとすると「誰にとっても中途半端なシステム」になるという逆説だ。部署ごとに業務内容も使いたい情報も異なる中で、共通基盤が本当に現場のニーズを満たせるかは、設計段階では見えにくい。

ソフトバンクの事例が示すのは、こうした摩擦を「技術で解決する前に、現場と対話しながら要件を掘り起こす」プロセスの重要性だ。何をシステムに任せ、何を人間が判断するのかという線引きを、利用者の実態から積み上げていった点が、単なるツール導入との違いを生んでいる。

結果として、社内の試算では数万時間相当の業務削減効果が生まれたとされている。この数字の信頼性は社内試算という性質上、外部から検証できるものではないが、1万9000人が実際に使い続けているという事実が、基盤の実用性を裏付ける指標の一つと言える。

「全社RAG」という選択肢は、どの企業にとっても有効なのか

ソフトバンクの事例は、同様の課題を抱える大企業にとって参考になる一方で、そのまま横展開できるかは慎重に見る必要がある。1万9000人規模の組織を持ち、RAGを部門ごとに乱立させるほどAI活用が進んでいる状況は、現時点では大手に限られた条件でもある。

中規模以下の企業が「全社RAG基盤」を志向する場合、統合管理のコストが分散運用のコストを上回る可能性がある。全社基盤の構築は目的ではなく手段であり、前提として「現場でAIがどれだけ使われているか」「ガバナンス上の問題がすでに顕在化しているか」という現状診断が不可欠だ。

また、RAG基盤の品質は参照させるデータの整備状況に強く依存する。社内文書が体系的に管理されていない組織では、AIが参照する情報の質が低くなり、回答精度に直結する問題になる。この点は、どの企業規模でも共通して確認すべき前提条件と言える。

「現場の自由」と「会社の安全」は設計の問題だという示唆

冒頭に置いた問いに戻ると、ソフトバンクの事例が提示しているのは「どちらかを優先する」ではなく「設計によって両立できる」という視点だ。ガバナンスをルールではなくシステムに組み込んだことで、現場は制約を意識せずに使えるようになり、管理側は統制を維持できる。

この逆転の発想は、AI活用を進めようとしている企業の担当者にとって実践的な示唆を持つ。何かを我慢させるのではなく、我慢しなくてもよい仕組みを作ることが、結果として利用者数と業務改善効果の両方を引き上げる。「自由か安全か」を迫る二択は、多くの場合、設計が未成熟なことの裏返しでもある。AIガバナンスを論じる際に、この視点を持っているかどうかが、導入成果を大きく左右する分岐点になりうる。

本記事は公開情報をもとに、NEWGATA編集部で確認のうえ掲載しています。