顧客情報や社内の機密を扱う分析業務に AI を使いたい、データ担当の方向けの記事です。外部の AI サービスがデータをどう扱うかと、自社で動かせるモデルの選択肢を整理し、「どの業務をどこで処理するか」を法務や情報システム部門に根拠付きで説明できるようになります。
この記事で分かること
- Gemini API と Claude API で、送ったデータが提供元に残るかどうかの違い
- 自社環境で動かせる LLM-jp-4.1 と Mistral Large 4 の現状、商用モデルとの性能差の読み方
- 「データ所在の要件」と「必要性能」の2軸で選択肢を置いたマップと、判断フロー
ざっくり言うと：選択肢は3層あります
LLM（大規模言語モデル。文章を読んで文章を作る AI の本体）を業務で使う方法は、データの行き先で3つに分けられます。1つ目は、提供元のサーバーで動く ホスト型 API（インターネット経由でモデルを呼び出す仕組み）です。2つ目は、同じ API でも処理後にデータを残さない契約を結ぶ ゼロデータ保持（Zero Data Retention、略して ZDR）です。
3つ目は、モデルの中身（重み）が公開された オープンウェイト のモデルを、自社のサーバーで動かす方法です。この場合、データは社外に出ません。図 1 は、3つの経路でデータがどこまで流れ、どこに残るかを並べたものです。
なぜ今確認が必要か：Gemini API の既定設定が変わりました
Google は 2026 年 10 月 26 日から、Gemini API の 有料枠の新規プロジェクト で、Generate Content API へのリクエストを既定で保存する（store=true）と発表しました（Gemini API changelog）。既定（何も設定しないときの状態）が「保存する」に変わったため、新しくプロジェクトを作っただけで、送った内容が Google 側に残ることになります。一方で、既存のプロジェクトは今の設定を維持すると書かれています。
保存を止める方法は2つ示されています。リクエストごとに store=false を指定する方法と、管理画面の Logs and Datasets の Settings パネルで Generate Content API のロギングを止める方法です（同 changelog）。ただし、保存されたデータの保持期間や、無料枠・Vertex AI 側の扱いは、今回の調査では確認できませんでした。
Claude はゼロデータ保持を選べますが、契約が必要です
Anthropic は、Claude Sonnet 5.5 が Opus 5.5・Sonnet 5 と同じくゼロデータ保持で利用できると説明しています（Claude Sonnet 5.5）。ただし対象は適格な API に限られ、Anthropic の承認と契約が必要です。個人向けプランは対象外とされています（Anthropic のプライバシーセンター）。
さらに、法令遵守や不正利用対策に必要な場合は例外とされ、User Safety 分類器（危険な利用を見分ける仕組み）の結果は保持されます（同ページ）。
| 経路 | 提供元に残るか | 主な条件 | 根拠 |
|---|---|---|---|
| Gemini API 有料枠の新規プロジェクト（既定） | 残る | 2026-10-26 以降に作成 | Gemini API changelog |
| Gemini API で store=false またはロギング停止 | 既定の保存を止められる | 設定・実装が必要。保持期間は確認できず | Gemini API changelog |
| Gemini API 既存プロジェクト | 今の設定を維持 | 設定内容を各社で確認 | Gemini API changelog |
| Claude API（ゼロデータ保持） | 原則残らない | 承認と契約が必要。法令・不正対策の例外あり | Anthropic |
| 自社環境のオープンウェイト | 社外に出ない | 自社でサーバーを用意・管理 | 各モデルの公開情報 |
自社運用の候補：LLM-jp-4.1 と Mistral Large 4
LLM-jp-4.1 は3サイズ、Apache 2.0 で公開
国立情報学研究所を中心とする LLM-jp は、2026 年 9 月 28 日に LLM-jp-4.1 を公開しました（LLM-jp-4.1 公開ページ）。8B・32B-A3B・33B の3モデルで、いずれも推論の過程を経て答えるよう作られた Thinking モデル です。ライセンスは Apache License 2.0（商用利用や改変を認めるオープンソースのライセンス）です。
3モデルの大きさは、パラメータ数（モデルが学習で調整した数値の個数）で比べられます。図 2 のとおり、33B は 8B の約3.9倍の規模です（筆者が 332 億 ÷ 86 億 から計算）。32B-A3B は MoE（専門家混合。入力ごとにモデルの一部だけを使う構造）で、8B と 33B は全体を使う Dense 構造です。
| モデル | 構造 | 総パラメータ | 8B との比（筆者計算） |
|---|---|---|---|
| llm-jp-4.1-8b | Dense | 約86億 | 1.0 倍 |
| llm-jp-4.1-32b-a3b | MoE | 約320億 | 約3.7 倍 |
| llm-jp-4.1-33b | Dense | 約332億 | 約3.9 倍 |
| Mistral Large 4 | MoE | 公表なし | 計算できず |
8B のモデルカードでは、総パラメータは 8,590,200,832 個、扱える文章の長さ（コンテキスト長）は 65,536 トークンと記載されています（Hugging Face のモデルカード）。従来の LLM-jp-4 を数学・科学などで上回ったとされますが、数値は公開されていません。
Mistral Large 4 は「重み近日公開」の段階
Mistral AI は 2026 年 10 月 6 日に Mistral Large 4 を Public Preview（一般向けの試験提供）にしました（Mistral changelog）。100万トークンを扱える MoE 構造のマルチモーダル（文章以外に画像なども扱える）モデルで、オープンウェイトとして公開予定です。ただし重みは「近日公開」とされ、今は自社環境で動かせません。
通常価格とパラメータ数も changelog には記載がありません。社内資料では「重みの公開を確認してから評価する」と注記しておくのが安全です。
政府の「源内」は参考になる先行例
デジタル庁のガバメント AI「源内」は、政府職員が安全に生成 AI を使うための基盤で、機密性2情報を含む入力に対応し、2026 年度中に全府省庁の約18万人が使える予定です（デジタル庁 生成AI）。公募の実施要領では、国内開発 LLM の試験導入を 2026 年夏頃に始め、評価検証は 2026 年度中とされています（デジタル庁の公募）。
試用される国内 LLM は、検索結果の要約では、NTTデータ・ソフトバンク・NEC・富士通・Preferred Networks の5社のモデルとされています。ただしこの社名は検索結果の要約による 二次情報（元の発表ではなく、他の人がまとめた情報）で、デジタル庁のページ本文では確認できませんでした。社内資料に使う場合は、この点を明記してください。
性能差はどれくらいか：Epoch の「6〜7か月遅れ」の読み方
研究機関の Epoch AI は、サイバー能力の総合指標 Cyber ECI で、オープンウェイトの最上位は商用最上位の約6〜7か月前の水準にあると報告しました（Epoch AI）。図 3 のとおり、オープンの GLM-5.3 は 160.10、商用の Claude Opus 5.5 は 171.14、GPT-6 Astra は 171.03 です。
| モデル | 種別 | Cyber ECI | 90%信頼区間 | 評価件数 |
|---|---|---|---|---|
| GLM-5.3 | オープンウェイト | 160.10 | 155.83〜166.97 | 3 件 |
| Claude Opus 5.5 | 商用 | 171.14 | 166.66〜177.32 | 4 件 |
| GPT-6 Astra | 商用 | 171.03 | 166.93〜177.96 | 7 件 |
なお、GLM-5.3 は Epoch の表で「Open weights (restricted use)」（利用に制限が付いたオープンウェイト）とされています。自社運用の候補にする場合は、ライセンス条件の確認が必要です。
筆者がこの数値から計算すると、差は約11ポイントで、商用の値に対して約6.4% 低い水準です。信頼区間（真の値がこの範囲にあると考えられる幅）を見ると、商用2モデル同士は Opus の区間幅の約97.5% が重なり、スコアの上ではほぼ同じ水準です。ただし Epoch によると、この2モデルは共通のベンチマークを1つも持たないため、同じ問題で直接比べた結果ではありません。一方、GLM-5.3 と Opus の区間の重なりは 0.31 ポイントだけで、端がわずかに触れている程度です。
ここから読み取れるのは、「差はある。ただし測り方の誤差も大きい」という点です。GLM-5.3 の評価件数は3件で、指標全体の単純平均（結果が1件だけのモデルも含め、筆者が 324 件 ÷ 76 モデルから計算して約4.3件）より少なくなっています。また、Epoch 自身がこの指標はサイバー能力を測るものだとしているため、分類や要約といった一般業務の差としてそのまま使わないでください。
2軸マップ：データ所在の要件 × 必要性能で置いてみる
ここまでの情報を、縦軸にデータ所在の要件、横軸に必要性能を取って並べたのが図 4 です。縦軸は「外部に出してよい」「外部に出してよいが提供元に残してはいけない」「社外に出せない」の3段階です。横軸は「定型分類」「レポート作成」「高度推論」の3段階にしました。
| データ所在の要件 | 定型分類 | レポート作成 | 高度推論 |
|---|---|---|---|
| 外部に出してよい | ホスト型 API | ホスト型 API | ホスト型 API（商用最上位） |
| 外部可だが残してはいけない | ゼロデータ保持 API（Gemini は既定保存を止める設定。他のログの有無は確認できず） | ゼロデータ保持 API（Sonnet 5.5） | ゼロデータ保持 API（Opus 5.5） |
| 社外に出せない | LLM-jp-4.1 8B | LLM-jp-4.1 32B-A3B／33B と社内知識 | 自社運用の大型モデル、または業務を分ける |
この配置は筆者の判断です。定型分類は小さめのモデルでも足りる場合があると考えられますが、自社データでの確認が必要です。注目したいのは右下で、「社外に出せない」かつ「高度推論」が必要な領域は、Mistral Large 4 の重みが出ていない今は選択肢が少なくなっています。
この領域では、個人を特定できる部分を取り除いて上の行に移すなど、「業務を分ける」工夫が現実的と考えられます。
費用感の目安（ゼロデータ保持 API の場合）
Claude Sonnet 5.5 の API 価格は、入力100万トークンあたり2ドル、出力10ドルです（Claude Sonnet 5.5）。トークンは、AI が文章を数える単位です。筆者の仮定で、入力5,000トークン・出力1,000トークンのレポートを月1,000件作ると、入力10ドル＋出力10ドルで月20ドル（1件あたり0.02ドル）になります。
自社運用の費用は、LLM-jp-4.1 の公開ページと 8B のモデルカードに推奨 GPU やメモリの記載がなく、今回は見積もれませんでした。
事例：LLM-jp をもとにした医療エージェント
自社運用モデルの使い方として参考になるのが、医療分野の事例です。LLM-jp を基盤とする医療向けモデル SIP-jmed-llm-4 は、医師国家試験のベンチマークで正答率90％超とされています（LLM-jp のお知らせ）。このモデルに、約3万例の症例に基づく 知識グラフ（症状・病名などの関係を線で結んで整理したデータ）を組み合わせ、鑑別診断を支援するエージェントが作られました。
[モデル単体]
質問 → SIP-jmed-llm-4（LLM-jp 基盤） → 回答
[モデル＋外部の知識]
質問 → SIP-jmed-llm-4 ⇄ 症例の知識グラフ（約3万例） → 鑑別診断の支援
[一般企業での読み替え]
質問 → 自社運用モデル ⇄ 社内規程・FAQ・過去の報告書 → 回答モデル単体と知識グラフ付きの精度を比べた数値は公開されていません。それでも、専門分野でモデルに外部の知識をつなぐ構成が選ばれた点は参考になります。なお、このエージェントは 2026 年度内に医師向けの試験的な限定公開を目指す段階で、一般公開はされていません。
判断フロー：このデータはどの層に出せるか
業務ごとに判断するときは、図 5 の順で質問に答えます。
- 渡したいデータに、個人情報や機密情報が含まれるかを確認します。含まれなければ、社内規程の範囲でホスト型 API を使えます。
- 含まれる場合は、顧客との契約や社内規程で、社外での処理が許されているかを確認します。許されていなければ自社運用を選びます。
- 許されている場合は、Gemini なら既定保存を止める設定（store=false やロギング停止）、Claude ならゼロデータ保持契約にできるかを確認します。Gemini の store=false は既定の保存を止める設定で、保持期間やほかのログが残るかは確認できていません。そのため、利用規約とデータ処理の条件を法務と確認してください。
- 既定保存を止める設定かゼロデータ保持契約にでき、法務の確認も済めば、必要性能で選びます。できなければ自社運用を選びます。
つまずきやすい点
新規プロジェクトだけ設定が変わる
Gemini API の既定保存は、有料枠の 新規 プロジェクトが対象です。そのため、既存プロジェクトで確認した設定が、新しく作ったプロジェクトにも当てはまるとは限りません。プロジェクトごとに保存設定を確認してください。
「ゼロデータ保持＝何も残らない」ではない
ゼロデータ保持にも、法令対応や不正利用対策の例外があり、安全分類器の結果は保持されます。また、承認と契約が前提なので、API キーを発行しただけでは適用されません。法務への説明では、適用条件と例外をセットで伝えるのが安全です。
二次情報と「近日公開」をそのまま表に載せない
源内で試用される5社の社名は二次情報で、Mistral Large 4 の重みはまだ公開されていません。注記せずに比較表へ載せると、決裁後に前提が崩れる可能性があります。
自社運用の費用が見えにくい
ライセンスが無償でも、サーバー代や運用の手間はかかります。推奨 GPU は公開されていないため、まず 8B で試して必要な計算資源を確かめる手順が必要です。
まとめ
- Gemini API は 2026 年 10 月 26 日から、有料枠の新規プロジェクトで既定保存になりました。store=false やロギング停止で止められるので、プロジェクトごとの確認が欠かせません。
- 「残してはいけない」データにはゼロデータ保持 API、「社外に出せない」データには LLM-jp-4.1 などの自社運用が当てはまります。社外に出せず高度な推論も必要な領域は、今は選択肢が少ない状態です。
- オープンウェイトと商用の差は、サイバー指標で約11ポイント（約6.4%）です。誤差が大きく業務での差は別なので、自社データでの試験と、社内知識をつなぐ構成で補う発想が大切です。