「1人100エージェント」を実現するために、ソフトバンクが内製したAIゲートウェイ「Cloud Proxy」とは何か

全社展開の壁は、AIモデルの性能より「入り口の設計」にある

生成AIの全社導入を検討する企業が直面する最初の課題は、意外にもモデルの選定ではなく「社内全体への安全な接続経路をどう作るか」という問題だ。セキュリティポリシーをどう担保するか、利用状況をどう把握するか、複数のAIサービスをどう一元管理するか——これらを個別に解決しようとすると、現場ごとにバラバラな運用が生まれ、ガバナンスが崩れる。ソフトバンクが「全社で1人100エージェント」という大規模な構想を打ち出しながらも、まず手をつけたのがAIモデルそのものではなく共通基盤の整備だったのは、この問題の本質を正確に捉えているからだ。

Cloud Proxyが担う役割——単なるプロキシを超えた設計思想

ソフトバンクが内製したAIゲートウェイ「Cloud Proxy」は、社内のAI利用すべての入り口となる共通基盤として設計されている。生成AIやAIエージェントが社内の各部門から呼び出される際、リクエストは必ずCloud Proxyを経由する仕組みだ。

この構成により、セキュリティの一元管理、利用状況の可視化、そして複数のLLM（大規模言語モデル）への対応が可能になる。マルチLLM対応とは、特定のAIサービスに依存するのではなく、用途や状況に応じて複数のAIモデルを切り替えられる設計を指す。企業としてベンダーロックイン（特定サービスへの過度な依存）を避けながら、最適なモデルを選択できる柔軟性を確保している。

また、Cloud Proxyは性能強化の取り組みとして、自動化によるスケールアウト（需要増加に応じてシステムを素早く拡張する仕組み）を実装しており、「1人100エージェント」という大量のリクエストが同時並行で走る環境にも対応できる体制を整えている。

AIエージェントを大規模展開する企業と、IT部門担当者が直視すべき問題

Cloud Proxyが特に示唆するのは、AIエージェントを「数人のパイロット利用」から「全社員の日常業務」へと移行させようとしている企業が直面する構造的な問題だ。エージェントの数が増えるほど、個別管理では対応しきれないポイントが増える。誰がどのAIをどれだけ使っているのか、社外への情報漏えいリスクはないか、コストはコントロールできているか——これらはすべて、入り口となるゲートウェイレイヤーで解決するほうが現実的だ。

この観点では、AI活用の推進担当者だけでなく、情報システム部門・セキュリティ部門・コスト管理を担う部門にとっても、Cloud Proxyのような仕組みの存在意義は大きい。AIの恩恵を享受したい部門と、ガバナンスを維持したい管理部門の間に立つ共通基盤という位置づけだ。

日本企業が同様の基盤を構築する場合、内製という選択は現実的か

ソフトバンクはCloud Proxyを内製（自社開発）したという点が、もう一つの重要な論点だ。外部の既製品ではなく、自社の要件に合わせて設計・運用することで、ポリシーの細かな反映や迅速な改修が可能になる。一方で、内製には相応のエンジニアリング資源と継続的な運用コストが伴う。

同様の課題を抱える日本企業が「Cloud Proxyに相当する仕組みをどう用意するか」を検討する際、内製・外部調達・クラウドサービスの組み合わせといった選択肢のどれが現実的かは、組織の規模や技術的な内製能力によって大きく異なる。ソフトバンクの事例はベストプラクティスの一つとして参照できるが、そのまま横展開できるモデルではない点は留意が必要だ。

「1人100エージェント」構想の全容と、現時点で見えていないこと

「全社で1人100エージェント」という構想の具体的な実現状況や、Cloud Proxyの導入によって得られた定量的な効果については、現時点で公開されている情報には限りがある。性能強化や自動スケールアウトの取り組みが紹介されているものの、実際の稼働規模や障害対応の実績、コスト面での検証結果といった詳細は明らかになっていない。

また、マルチLLM対応の設計が実際にどのモデルをどう切り替えているのか、AIエージェントの種類や業務への適用範囲についても、引き続き情報が出てくることが期待される段階だ。企業がCloud Proxyの設計思想を参考にする場合、公開情報をそのまま要件に落とし込むのではなく、今後開示されるユースケースや運用実績を継続的に確認することが現実的な判断軸になる。

「入り口を制する者がAIガバナンスを制する」という実践の意味

ソフトバンクのCloud Proxyが示すのは、AI活用の成否がモデルの性能よりも「組織全体の使い方を設計できるか」にかかっているという現実だ。エージェントを大量に動かすことは技術的には難しくなくなってきているが、それを安全に・効率よく・管理可能な形で全社展開するには、入り口の設計が決定的に重要になる。

AIエージェントの導入を「まずパイロット、その後に全社展開」と考えている企業は、パイロット段階でゲートウェイ設計の議論を始めておくべきだ。後から共通基盤を整備しようとすると、すでに乱立した個別接続を統廃合するコストが発生する。Cloud Proxyは、その問いに一つの答えを出した実装例として、規模を問わずAIの全社展開を検討するすべての企業にとって参照価値がある。

本記事は公開情報をもとに、NEWGATA編集部で確認のうえ掲載しています。