ローカルLLM・閉域AI
社外に出せないデータで、
AIを動かす。
業務に合ったローカルLLMを選び、オンプレミスや閉域網に構築・提供します。チャット・AIエージェント・ワークフロー・人の承認まで、図面・書類・個人情報を社外に出さずに動かせます。
＼ 構成が決まっていなくてもOK ／
ジンベイのローカルLLM・閉域AIの構築とは
社外に出せないデータを扱う業務のために、ローカルLLM（社内で動かすAIモデル）とAIエージェントの実行環境を、オンプレミスや閉域網に構築する支援です。完全オンプレミス・国内リージョンのクラウドと閉域接続・その組み合わせから要件に合う構成を選び、AIエージェントの権限・承認・操作の記録まで設計します。PC1台から始める場合は、ローカルLLMを組み込んだAIエージェント型RPA「ジンベイ GenRPA」で、チャット・AIエージェントの実行・ワークフロー・人の承認を社内のPCだけで動かせます。ジンベイは、クラウドを使えない要件での生成AI環境の構築実績と、インターネットにつながずに動くAI-OCR・AI-RPAの自社製品を持っています。
ON YOUR PC
PC1台から、ローカルLLMで業務を動かす。
サーバーを用意しなくても、AIエージェント型RPA「ジンベイ GenRPA」に業務に合ったローカルLLMを組み込んで提供できます。インターネットにつながないPCでも、次のことが社内だけで動きます。
チャット
文章の下書き・要約・翻訳・相談を、PCの中のAIだけで行えます。会話はそのPCの中だけに保存されます。
AIエージェントの実行
書類を読み、条件に合わせて判断し、次の処理を選ぶAIエージェントを、ワークフローの中で動かせます。
ワークフローの構築
書類の読み取り・マスタとの照合・人の確認・基幹システムへの入力を、1本のワークフローにします。
AIによる判断
書類の分類・振り分け・要約を、PCの中のAIで行います。外部のAIの利用料はかかりません。
人の承認
チャットからワークフローを動かすときは、AIが内容を示し、人が「実行」を押すまで動きません。
送信先と記録の管理
AIの送信先を組織のルールで制限し、AIの利用と実行の記録を残します。
※ 画像のまま読む・画面の操作をAIに任せる・止まった手順の自動修復は、クラウドのAIを使う機能です。閉域で使う機能と分けて設計します。
MODEL
業務と機材に合わせて、ローカルLLMを選びます。
大きいモデルほど賢くなりますが、重くなります。業務で必要な精度を満たす中で、いちばん軽いものを選びます。
| PC1台で使う | 社内のサーバーで使う | 業務に合わせて学習させる | |
|---|---|---|---|
| 向いている使い方 | 1人〜部署で、書類の読み取り・分類・要約・チャット | 多くの社員で同時に使う、大きなモデルを使う | 汎用のモデルでは精度が足りない読み取り・判断 |
| 必要な機材 | 一般的な業務用PC | GPUサーバー | 学習の間だけGPUを使う |
| 提供の形 | ジンベイ GenRPAに組み込んで提供 | 社内に構築して納品 | 学習させたモデルを社内に配備 |
| 選び方 | PCのメモリと、求める速さで決める | 利用人数と、求める精度で決める | 学習前後と、クラウドの最新モデルと比べて決める |
※ どの形でも、まず貴社の書類・業務で精度と速さを測ってから決めます。
WHY NOW
知っておきたい、最近の動き
AIの利用そのものが、組織のセキュリティ上のリスクとして扱われるようになりました。
ランサムウェアが4年続けて1位、AIのリスクが初めて3位に
IPAの「情報セキュリティ10大脅威 2026」（組織編）は、1位がランサムウェア、2位がサプライチェーンの弱点を悪用した攻撃で、3位に「AIの利用をめぐるサイバーリスク」が初めて入りました。AIに渡したデータの漏えいや、生成結果の確かめ不足が挙げられています。
AIエージェントには、権限と人の判断の設計が求められる
総務省・経済産業省の「AI事業者ガイドライン」第1.2版（2026年3月）は、AIエージェントについての記述を加えました。自律的に動くAIには、誤った操作を防ぐ仕組みと、必要な場面での人の判断が求められています。
ARCHITECTURE
社内のネットワークの中で、完結させる。
AIモデル・検索・AIエージェントを社内に置き、社外との通信を断つ構成の一例です。
OPTIONS
3つの構成から、選べます。
すべてをオンプレミスにする必要はありません。データの区分と、求める精度・運用の手間で選びます。
| 完全オンプレミス | 国内リージョンのクラウド＋閉域接続 | 組み合わせ | |
|---|---|---|---|
| データの置き場所 | 社内のサーバー・PCだけ | 国内のデータセンター（専用の閉域接続） | 機密のデータは社内、それ以外はクラウド |
| 使えるAIモデル | 公開されているモデル（ローカルLLM） | クラウドの最新モデルも使える | 用途ごとに使い分け |
| 精度 | 業務を絞って学習させれば高い | 汎用の業務で高い | 両方のよいところを取れる |
| 初期の準備 | GPUサーバーなどの用意が要る | 比較的少ない | 中くらい |
| 運用の手間 | モデルの更新・機器の保守が要る | 少ない | 中くらい |
| 向いている例 | 外部と接続できない環境、個人情報・未公開の設計情報 | 社外秘だが、国内での保管が認められているデータ | 部署やデータの機密度が混在している |
※ 多くの場合は「国内リージョンのクラウド＋閉域接続」で要件を満たせます。完全オンプレミスが必要かどうかから、一緒に判断します。
AGENT SECURITY
AIエージェントならではの対策まで、設計します。
AIエージェントは自分でシステムを操作するため、AIモデルを社内に置くだけでは足りません。
権限を絞る
AIエージェントに渡す権限は、業務に要るシステム・フォルダ・操作だけにします。読むだけで済む業務には書き込み権限を渡しません。
使える道具を決めておく
AIが呼び出せるツールや接続先（MCPなど）は許可したものだけにし、それ以外への外部通信は遮断します。
大事な操作は人が承認する
登録・送信・削除など戻しにくい操作の前に、担当者の承認を挟みます。承認した人と内容は記録に残ります。
読んだ文書の指示に従わない
読み込んだメールや書類に紛れた指示（プロンプトインジェクション）でAIが動かないよう、指示と資料を分けて扱います。
すべての操作を記録する
誰が何を頼み、AIが何を読んで何をしたかを記録し、監査や原因の調査に使えるようにします。
モデルの更新も社内で
インターネットにつながない環境でも、検証したモデルを決まった手順で入れ替えられるようにします。
CASES
社外に出さずに動かした例
会社名は伏せています。進め方や構成の詳細は、ご相談の場で近い例を選んでご紹介します。
クラウドを使えない要件で、生成AIの環境を構築
- 前提
- 社内の規程でクラウドのAIサービスを使えず、データを社外に出せない。
- 構成
- ローカルLLMを社内の環境に置き、社内のデータだけで生成AIを使えるようにした。
- 結果
- データを社外に出さずに生成AIを使える環境を、構築して納品しました。
インターネットにつながないAIが、手書き帳票の読み取りで最先端のクラウドAIを上回る
- 前提
- 金融・自治体・医療など、帳票の画像を社外に送れない組織向けのAI-OCR。
- 構成
- 書かれたとおりに読むよう学習させたモデルを、社内のサーバーだけで動かす。PC1台で動くCPU版もある。
- 結果
- 手書き帳票130枚・7,660項目の完全一致の採点で、クラウドの最先端モデル4つをすべて上回りました（総合スコア75.55）。
ネットにつながないPCで、書類の読み取りから入力まで
- 前提
- 閉域網のPCで、書類を読み取って基幹システムに入力したい。
- 構成
- PCに同梱したローカルLLMで、書類の読み取り・分類・要約を行い、決まった手順で入力する。
- 結果
- 読み取り・分類・要約から実行まで、社内のPCだけで完結します。
ローカルLLMでどこまでできるか、貴社のデータで確かめてから進められます。
PROCESS
データの区分を決めるところから、始めます。
- STEP 1
無料相談
30分
扱うデータと環境の制約を伺い、合う構成と進め方をご案内します。
- STEP 2
事前検証
2〜3週間〜
貴社のデータで、ローカルLLMとクラウドのモデルの精度・速さを比べます。
- STEP 3
構築
2〜3ヶ月〜
社内の環境にモデル・検索・AIエージェントを置き、業務につなげます。
- STEP 4
運用
月額
モデルの更新・精度の確認・記録の点検を続けます。
SECURITY
セキュリティ審査を、
通る前提で設計する。
閉域網やローカルLLMでの構成から、セキュリティチェックシートへの回答まで対応します。
要件に合わせて選べる、3つのデプロイ形態
「まずスモールスタートしたい」
クラウド（SaaS）
最短で導入できる標準形態。お客様のデータをAIモデルの学習に利用しない方針を明示しています。
「自社のクラウド統制の範囲内で使いたい」
プライベートクラウド
貴社専用の環境にAI基盤を構築。既存のクラウドガバナンス・監査の枠組みの中で運用できます。
「機密データを社外に一切出せない」
オンプレミス・ローカルLLM
ローカルLLMを含む、データを社外に出さない構成で構築します。「クラウド利用不可」の要件下で生成AI環境を構築・納品した実績があります。
情報システム部門の審査に、実務で応える
セキュリティチェックシートへの回答
貴社所定の書式に項目別で回答します。大手企業・自治体の導入審査プロセスに数多く対応してきました。
NDA・個人情報保護覚書の締結
秘密保持契約に加え、個人情報保護に関する覚書の締結にも対応。貴社雛形での締結、法務部門間の調整も可能です。
技術仕様の開示
ログの保管方針、認証方式（OAuth 2.0 / OIDC等）、データの保存先・削除ポリシーまで、審査に必要な仕様を文書で回答します。
データを学習に利用しない
お預かりしたデータは厳重に管理し、AIモデルの学習には使用しません。取り扱い範囲は契約で明確に定めます。
ISO/IEC 27001（ISMS）認証取得
情報セキュリティマネジメントの国際規格に基づき、組織として情報を管理しています。
よくあるご質問
サーバーを用意せずに、ローカルLLMを使えますか？
はい。AIエージェント型RPA「ジンベイ GenRPA」にローカルLLMを組み込んで提供すれば、一般的な業務用PCだけで、チャット・AIエージェントの実行・ワークフロー・人の承認まで動かせます。多くの社員で同時に使う場合は、社内のサーバーに構築します。
ローカルLLMは、クラウドのAIより精度が落ちませんか？
汎用の質問では最新のクラウドのモデルに及ばないことがあります。一方で、帳票の読み取りのように業務を絞れば、学習させたローカルのモデルがクラウドの最先端モデルを上回ることもあります。まず貴社のデータで比べてから決めます。
どのモデルを使いますか？
公開されているモデルの中から、貴社の業務での精度・速さと、PCやサーバーの性能を比べて選びます。業務に合わせたファインチューニングもお受けします。
GPUサーバーは必須ですか？
用途によります。利用する人数が多い場合や大きなモデルを使う場合はGPUサーバーが必要ですが、書類の読み取りや分類など用途を絞れば、一般的なPCで動かせる場合もあります。
すでにクラウドで動いているRAGやAIエージェントを、閉域に移せますか？
はい。モデルと検索の仕組みを社内の環境に置き換えて移せます。移す前に、精度がどれだけ変わるかを貴社のデータで測ります。
完全オンプレミスと国内リージョンのクラウド、どちらがよいですか？
社外に出せないデータがあり、外部とつながない環境が求められる場合は完全オンプレミス、それ以外は国内リージョンのクラウドに閉域で接続する構成で足りることが多いです。データの区分ごとに使い分ける構成もできます。
セキュリティチェックシートに回答してもらえますか？
はい、貴社所定の書式に項目ごとに回答します。データの保存先・ログの保管・学習への利用の有無などを文書でお出しします。
費用はどのくらいですか？
構成・利用人数・モデルの大きさで大きく変わるため、ご相談の場で概算をお伝えします。
「社外に出せないデータでも、AIを使える？」にお答えします
扱うデータと環境の制約をお知らせいただければ、合う構成と近い例をご紹介します。
＼ 30分・売り込みなし ／