生成AIをクローズド環境で使うには？3つの構成・必要なGPU・費用

「生成AIを業務に使いたいが、顧客情報や設計資料を社外のサービスに送ることは規程で禁止されている」 — 情報システム部門や経営者から、よく寄せられる相談のひとつです。その答えとして挙がるのが、生成AIをクローズド環境で動かすという選択肢です。

結論：クローズド環境とは、質問・検索対象の文書・回答のすべてが、自社が管理する境界の内側で処理される構成のことです。「学習に使わない」設定のクラウドサービスとは別物です。導入が必要かどうかは、自社の制約が「学習への利用」を禁じているのか、「社外への送信そのもの」を禁じているのかで決まります。本記事では、その見極め方から 3 つの構成、必要な GPU の目安、費用と導入手順までを順に整理します。

クローズド環境の生成AIとは

一般的なクラウドの生成AIサービスでは、入力した文章がインターネットを経由してサービス事業者のサーバーに送られ、そこで回答が作られます。クローズド環境の生成AIは、この推論（回答を作る処理）を自社のサーバー、または自社専用に区切られたネットワークの内側で行う構成です。「クローズド LLM」「オンプレミス LLM」「閉域の生成AI」「ローカル LLM」など呼び方はさまざまですが、いずれも「外部のサービスにデータを送らずに生成AIを動かす」という点で共通しています。

ポイントは、モデルそのものを自社側に置くことです。外部の API を呼び出さないので、「入力した文章がどこで処理され、どこに残るのか」を契約書の文言と実際の通信経路の両方で説明できます。その代わり、モデルの選定・更新、GPU などの計算資源の確保、障害対応を自分たち（または委託先）で持つことになります。

データがどこまで外に出るか — 4 つの段階

「クローズド」は、ある・なしの二択ではありません。データがどこまで外に出るかで、次の 4 段階に分けると判断しやすくなります。

一般に「クローズド環境」と言うときは段階 2 と 3 を指します。段階 1 でも「入力が学習に使われない」ことは担保されますが、処理そのものは社外で行われる点が決定的に違います。

本当にクローズド環境が必要か、3 つの判断基準

クローズド環境は安心感が大きい反面、機器と運用の負担も増えます。導入の前に、次の 3 点を確認してください。

基準 1: 規程や契約が禁じているのは「学習」か「送信」か

社内規程や取引先との秘密保持契約の文言を確認します。「第三者への提供・送信を禁止」とあれば、段階 1 では要件を満たせない可能性が高く、クローズド環境の検討対象です。「学習・二次利用の禁止」が主眼なら、段階 1 で足りることも少なくありません。

基準 2: 検索させたい文書の機密度

社内マニュアルや公開済みの製品情報が中心なら、クラウドでも問題になりにくいでしょう。設計図、顧客の個人情報、医療・法務の記録、未発表の経営情報を日常的に検索対象にするなら、クローズド環境が現実的です。

基準 3: 運用を担える体制があるか

クローズド環境では、モデルの更新、GPU の監視、バックアップ、利用者の権限管理が自社側の仕事になります。社内に担当者がいない場合は、保守まで含めて委託できる体制かどうかも判断材料です。

すべてを閉じることが目的ではありません。閉じる必要があるものと、閉じなくてもよいものを分けることが、費用と安全性のバランスを取るいちばんの近道です。

3 つの構成パターン

完全オンプレミス型

モデルも文書も回答も、自社の敷地内の機器で扱います。インターネットへ出ないことが契約上ほぼ必須な場合や、設計図や個人情報を日常的に検索対象にする場合に向きます。推論に十分な性能の GPU サーバーと、電源・バックアップ・権限管理を担える担当が必要です。モデルの入れ替えや障害対応の負担も、一部は自社側で担うことになります。

プライベートクラウド型

自社専用に区切ったクラウド上でモデルを動かします。機器を自社で持たずに済み、他社と入力や計算資源を共有しない中間的な構成です。拠点が複数ある、専用 GPU を社内に置きにくい場合に向きます。クラウド事業者の管理範囲と自社の責任範囲を、契約で明確にしておく必要があります。

機密度に応じた併用型（ハイブリッド）

機密に当たる文書と入力だけをクローズド環境で扱い、公開情報の処理や文章の下書きなど機密度の低い作業はクラウドの生成AIを使います。すべてをオンプレミスにするほどの機器は用意できないが、一部は絶対に外へ出せない、というケースに向きます。何を機密とみなすかの分類を先に決めておかないと、現場が迷って両方に送ってしまう点に注意が必要です。

ローカル LLM に必要な GPU とサーバーの目安

クローズド環境では、オープンウェイトモデル（モデルの重みが公開されている LLM）を自社の機器で動かすのが一般的です。必要な機器は、主にモデルの大きさ（パラメータ数）と同時に使う人数で決まります。

※ 4bit 前後に量子化した場合の概算です。同時利用者数、扱う文章の長さ、推論ソフトウェアによって必要量は大きく変わります。

まずは小さめのモデルで自社の文書を使って検証し、回答の質が足りなければモデルを大きくする、という順番が無駄のない進め方です。いきなり最大規模の機器を揃える必要はありません。

クローズド環境で RAG を組むときの注意点

社内文書を検索して答える仕組みには、RAG（検索拡張生成）を組み合わせるのが一般的です。仕組みそのものは RAG とは何か で解説していますが、クローズド環境では次の 3 点に特に注意が必要です。

• 埋め込みモデルも内側に置く：文書をベクトル化する埋め込みモデルを外部 API で動かすと、その時点で文書の中身が外に出てしまいます。LLM 本体だけでなく、埋め込みモデルも境界の内側で動かします。
• ベクトル DB も自社管理にする：SaaS 型のベクトル DB ではなく、pgvector や Qdrant など自社サーバーに置けるものを選びます。比較は ベクトル DB の選び方 を参照してください。
• 検索結果にも権限をかける：全員が全文書を検索できる状態では、本来その情報を見られない社員にまで内容が渡ってしまいます。部署や役職ごとに検索できる文書を分けておきます。

また、モデルがもっともらしい誤りを返す「ハルシネーション」はクローズド環境でも起きます。回答に出典を必ず示す、重要な判断は人が確認する、といったルールは AI ハルシネーション対策 で紹介しています。

個人の PC で試す方法と、業務利用との違い

「クローズドな AI を自分で作ってみたい」という段階なら、Ollama や LM Studio といったツールを使うと、GPU を積んだ PC 上でオープンモデルを比較的簡単に動かせます。インターネットに接続しなくても回答が返ってくることを確認するだけでも、クローズド環境の感触はつかめます。

ただし、個人の検証環境と業務利用の間には大きな差があります。

• 誰がどの文書を検索できるかの権限管理
• 誰がいつ何を質問したかのログと監査
• 文書とモデルのバックアップ、障害時の復旧手順
• モデルやソフトウェアの更新と脆弱性への対応

個人の PC で動いたものをそのまま共有フォルダにつないで全社に公開する、という進め方は避けてください。検証で手応えを得たら、上の 4 点を設計に含めて本番環境を組み直すのが安全です。

費用と導入ステップ

費用の目安

スグレルの オンプレミス・クローズド環境の AI 導入 では、構築費 150〜300 万円（税抜）、納期 6〜10 週間が目安です。扱う文書量、必要な精度、サーバーを新設するか既存の環境に載せるか、監査ログや権限管理の要件によって変動します。GPU サーバーなどの機器費用は、構成に応じて別途必要です。表示価格はすべて税抜きです。

導入の 5 ステップ

1. 制約の確認：禁止されている送信先、社内規程・契約の文言、文書の置き場所を整理し、段階 1〜3 のどれが必要かを決める
2. 対象業務の絞り込み：効果が確認しやすく、機密度の説明がしやすい業務から始める
3. 小規模な検証：自社の実際の文書で回答の質を確認し、通信が境界を出ていないことを確かめる
4. 本番構成の設計・構築：モデル規模、権限、ログ、バックアップ、障害時の扱いまで設計する
5. 運用と拡張：利用状況を見ながら、検索対象の文書や利用部署を段階的に広げる

生成AIの導入全体の進め方は 生成AIを中小企業に導入する、現実的な 5 ステップ もあわせてご覧ください。

よくあるご質問

法人向けプランの「学習に使わない」設定だけでは不十分ですか？

多くの業務ではそれで足ります。ただし、入力が学習に使われないことと、入力が社外で処理されないことは別の話です。社内規程や取引先との契約が『社外への送信そのもの』を禁じているなら、学習オフの設定では要件を満たせず、クローズド環境が必要になります。まず自社の制約がどちらなのかを確認してください。

ローカル LLM の精度はクラウドの最新モデルに劣りますか？

汎用的な難問では差が出やすい一方、社内文書を検索して要約する、定型の書類を下書きするといった範囲を絞った業務では、実用上問題ない水準になることが多いです。RAG で根拠となる文書を渡す設計にすると、モデル単体の知識への依存を減らせます。導入前に自社の文書で小さく検証することをおすすめします。

個人のPCでクローズドなAIを作ることはできますか？

試すことはできます。Ollama や LM Studio などのツールを使えば、GPU を積んだ PC 上で小さめのオープンモデルを動かせます。ただし業務で使う場合は、誰が何を検索できるかの権限管理、ログ、バックアップ、モデル更新の責任者が必要です。個人の検証環境をそのまま全社展開するのは避けてください。

クローズド環境の生成AI導入にかかる費用は？

スグレルの場合、構築費は 150〜300 万円、納期 6〜10 週間が目安です（税抜）。文書量、必要な精度、サーバーを新設するか既存環境に載せるか、監査ログや権限管理の要件で変動します。GPU サーバーなどの機器費用は構成によって別途必要です。

完全にインターネットから切り離す必要がありますか？

必ずしも必要ではありません。機密に当たる文書と入力だけをクローズド環境で扱い、公開情報の処理や文章の壁打ちはクラウドを使う『併用型』も現実的な選択肢です。その場合は、何を機密とみなすかの分類を先に決めておくことが前提になります。