「個人情報はAIに一切入力禁止」は正しい？ ChatGPT・Copilot・Codexを止めずに守る7つの境界線

「お客様の名前が一文字でも入っていたら、AIは一切禁止です。ただし、Windowsに最初から入っているCopilotなら使って構いません」

ある地域企業の会議で、こんなルールが決まったとします。問い合わせ50件の傾向をまとめたい若手職員は、氏名を消して会社契約のAIへ渡すことも止められ、数時間かけて手作業を選びました。別の職員は締切に間に合わず、管理されていない個人アカウントを自宅で使いました。

その一方で、開発担当者は「会社公認のAIだから大丈夫」と、本番データベースの接続情報と書き込み権限をAIエージェントへ渡していました。

この記事の結論は、個人情報をAIへ入力しただけで、直ちにインターネットへ一般公開されたり、必ず「情報漏えい」になったりするわけではない、です。しかし、だから何を入れてもよい、という意味でもありません。入力は外部サービスへの送信になり得ます。利用目的、契約、学習利用、保存、接続先、操作権限によっては、法令・契約・社内規程違反や実際の漏えいにつながります。

「個人情報はAIに一切入力禁止」には正しい部分と過剰な部分がある

一律禁止には、正しい出発点があります。無料の個人アカウントへ顧客名簿を貼り付けたり、認証情報をチャットへ書いたりしてよいはずがありません。医療・福祉・教育相談の記録、マイナンバー、決済情報、大量の顧客DB、未公開の契約や技術情報は、失敗したときの影響が大きいデータです。利用サービスと管理方法が決まっていない段階で止めるのは妥当です。

問題は、「個人情報」という一語で、危険度の違う行為を全部同じにすることです。

• 公開済みのイベント案内を読みやすくする
• 氏名と連絡先を除いた20件の問い合わせから傾向を出す
• 会社契約の環境で、権限を限定して社内文書を検索する
• 無料の個人アカウントへ顧客名簿を丸ごと貼る
• AIエージェントへ本番DBの管理者権限を渡す

これらは同じ「AIへの入力」ではありません。全て禁止にすると、最初の三つまで失います。一方で「会社公認のAIなら全部よい」とすると、最後の二つを見逃します。

日本の個人情報保護委員会も、生成AIへの個人データ入力を一律に「即漏えい」とは説明していません。事業者が本人同意なく個人データを入力する場合、提供者がそのデータを機械学習に利用しないことなどを十分確認するよう注意を促しています。つまり問われるのは、利用目的と提供先での取扱いです。個人情報保護委員会の注意喚起を、単なる「AI禁止のお知らせ」と読むのは正確ではありません。

また、禁止だけで業務上の必要が消えるわけではありません。2024年のMicrosoftの世界調査では、職場でAIを使う人の78%が自分で用意したAIツールを持ち込んでいると回答しました。2026年のGartner Japanも、単純な禁止・遮断より、利用の可視化、評価、承認、統制を勧めています。これらはベンダー調査であり、全面禁止が必ず事故を増やすという因果関係の証明ではありません。ただ、見えない利用を管理するには「禁止」の一語では足りないことを示しています。Microsoft Work Trend Index、Gartner Japan

AIへの入力は直ちに一般公開や漏えいではなく、送信先と利用条件で評価が変わる

まず、似ている言葉を分けます。

• 一般公開: 不特定多数が見られる状態にすること
• 外部送信: 組織の端末や管理領域から外の事業者へデータを送ること
• 第三者提供・委託: 個人情報保護法上の要件に沿って個別に判断する概念
• 漏えい等: 本来アクセスできない相手に個人データが渡る、失われる、壊されるなどの事象

クラウドAIへの入力は通常、一般公開ボタンを押すことではありません。しかし外部送信になり得ます。契約や目的によっては、第三者提供か委託か、外国での取扱いはどうかという確認も必要です。そして設定ミス、誤共有、攻撃、障害があれば実際の漏えいへ進む可能性があります。

安全性は、次の7つの境界で見ます。

1. 目的と権限
   本人への説明や社内の利用目的の範囲か。入力する担当者に権限があるか。
2. データの質と量
   氏名だけか、病歴・相談内容・決済情報か。1件か、全顧客か。特定できない形に減らせるか。
3. アカウントと契約
   個人向け無料版か、会社が審査・契約・管理する環境か。委託条件やデータ処理契約はあるか。
4. 学習と再利用
   入力がモデル訓練やサービス改善に使われるか。既定値とオプトアウトは何か。
5. 保存と人のアクセス
   履歴、監視ログ、監査ログ、削除までの期間はどうか。管理者や委託先がアクセスし得るか。
6. 接続先
   検索、プラグイン、MCP、クラウドストレージなど、別事業者へデータが渡る機能を使うか。
7. 実行できる操作
   回答するだけか。メール送信、ファイル公開、DB更新、削除まで自動実行できるか。

たとえばOpenAIは、ChatGPT Business、Enterprise、Edu、APIの業務データを既定でモデル訓練に使わないと説明しています。しかし、これは「何も保存されない」「接続した外部サービスも同じ条件」「誤設定が起きない」という意味ではありません。APIには通常、不正利用監視のためのログ保持があり、適格な利用者向けにZero Data Retention等の別条件があります。コネクター先には、そのサービス独自の保持・権限・監査があります。OpenAIの企業向けプライバシー説明、OpenAI APIのデータ管理、アプリとコネクターのデータフロー

Microsoftも同じです。WindowsのCopilotアプリには個人向け利用があります。一方、組織のEntra IDで利用するMicrosoft 365 Copilot Chatには、企業向けデータ保護があります。後者は基盤モデルの訓練にプロンプトや回答を使わない一方、監査やeDiscoveryのために記録が保持される場合があります。さらにSharePointやOneDriveの既存権限を尊重するため、もともとの過剰共有はAIにも見える範囲を広げます。「Windowsに入っているから安全」ではなく、サインイン中のアカウント、契約、管理設定、既存権限を見るのが正解です。WindowsでのCopilot管理、Microsoft 365 Copilotのプライバシー、Microsoft 365 Copilotのセキュリティ

なお、一般公開でなくても事故は起こります。OpenAIは2023年、障害により一部ユーザーのチャットタイトルなどが別ユーザーに表示された事例を公表しています。サービス提供者の対策は重要ですが、ゼロリスクではありません。入力を最小化する理由はここにもあります。OpenAIの障害報告

コード生成・自社DB保存・本番DB接続・顧客DB送信は別のリスクである

ここは、AIチャット以上に誤解されやすい部分です。

AIにコードを書かせたことと、完成したプログラムが顧客情報を処理することは別です。AIがダミーデータを使って予約システムのコードを書き、そのシステムが実行時に会社の承認済みDBへ顧客情報を保存するだけなら、顧客情報が自動的にAI提供者へ送られるわけではありません。問題は、生成コードに脆弱性がないか、不要なログを残していないか、外部APIや解析サービスへ送信していないか、DBのアクセス制御が正しいかです。これはAI固有の問題というより、通常のシステム開発でも必要な確認です。

一方、Codexのようなエージェントへ本番DBの接続情報を渡し、ネットワーク接続と読書き・削除権限まで与えると、危険度は急に上がります。誤った指示、悪意あるWebページやREADMEに仕込まれたプロンプトインジェクション、生成したコマンドの誤りによって、データの持ち出し・変更・削除が起こり得るからです。

OWASPは、AIエージェントの「過剰な代理権限」を主要リスクとして挙げ、必要な機能・権限・自律性を最小化し、影響の大きい操作は人が承認するよう勧めています。英国NCSCの安全なAI開発指針も、外部API、機密データ、最小権限、プロンプトインジェクションを設計段階から扱うよう求めています。OWASP Excessive Agency、NCSC Secure design

Codexなどでは、作業フォルダだけ書き込み可、ネットワークは既定で遮断、範囲外操作は承認を求める、といったサンドボックスが防波堤になります。ただし、利用形態や設定で条件は変わります。「ローカルで動かしたから安全」でも「クラウドだから危険」でもなく、モデルへ渡る文脈、ファイル範囲、ネットワーク、秘密情報、実行権限を確認してください。

過去にはSamsungの従業員が機密ソースコード等をChatGPTへ入力したと報じられました。これは「別ユーザーがそのコードを検索できた」と確認された事件ではなく、許可されていない外部サービスへ機密を送ったこと自体が問題になった事例です。ここでも、一般公開と無断外部送信を混同しないことが重要です。Bloomberg Lawの報道

企業は全面禁止ではなく、データ分類と利用条件でAI活用を管理できる

100ページの規程を最初に作る必要はありません。まずは次の4色をA4一枚にしてください。

「匿名化すれば大丈夫」と安易に考えるのも危険です。氏名を消しても、勤務先、希少な病気、日時、自由記述を組み合わせれば本人を推測できることがあります。仮名加工情報と匿名加工情報は法律上も同じではありません。まず、AIが答えるために不要な列・行・文章を削るデータ最小化を行い、それでも必要な場合だけ承認済み環境を使います。個人情報保護委員会のFAQ

入力前90秒チェック

会社が最初に整える6項目

1. 承認済みアカウント一覧：製品名だけでなく、プラン、組織ID、管理者を記載
2. 四色データ分類：具体例を自社業務の言葉で書く
3. 最小権限：本番DB、メール、共有フォルダは読取専用から開始
4. 人の承認：公開、送信、更新、削除、支払いは自動確定させない
5. ログと削除：誰が何を使ったか確認でき、不要データを消せる状態にする
6. 相談・事故窓口：隠さず早く報告できる一つの連絡先を決める

セキュリティは、仕事を止めるための壁ではありません。守るべきものを見分け、安心して前へ進むためのガードレールです。

「個人情報があるからAI禁止」から、「このデータを、この契約と権限なら、ここまで使える」へ。地域企業、学校、福祉施設のように人手と時間が限られる現場ほど、この切り替えでAIの価値と安全を両立できます。

よくある質問

Q. 顧客の名前を1件入力しただけで、違法ですか？

入力だけで一律に違法とは決まりません。利用目的、本人同意の要否、委託・第三者提供の関係、提供者側の利用、契約、外国での取扱いなどで判断します。社内規程や顧客との契約違反になる場合もあります。迷う場合は入力せず、個人情報保護担当や専門家へ確認してください。

Q. ChatGPTの「学習に使わない」を選べば顧客情報を入れてよいですか？

それだけでは足りません。学習利用と保存、監視ログ、共有、コネクター、会社の承認は別です。まずデータを減らし、会社が契約・管理する環境を使います。

Q. Microsoft 365 Copilotなら顧客情報を扱えますか？

組織アカウントと企業向け保護は重要な条件ですが、何でも無条件に扱えるわけではありません。既存のSharePoint権限、保持、DLP、監査、接続機能、社内の利用目的を確認します。

Q. 顧客DBをAI分析したい場合は全面的に諦めるべきですか？

いいえ。まず集計・匿名化・仮名化・列削除で目的を達成できるか試します。実データが必要なら、専用API、保持制御、アクセス制御、処理契約、閉じたネットワークなどを設計し、法務・セキュリティ審査を通します。一般チャットへDB全体を貼る方法は選びません。

参考にした主な資料

• 個人情報保護委員会: 生成AIサービスの利用に関する注意喚起等
• 経済産業省: AI事業者ガイドライン第1.2版
• OpenAI: Enterprise privacy and data commitments
• OpenAI API: Your data
• Microsoft: Privacy and protections in Microsoft 365 Copilot
• Microsoft: Data, Privacy, and Security for Microsoft 365 Copilot
• OWASP: Excessive Agency
• NCSC: Guidelines for secure AI system development
• NIST: Generative AI Profile

この記事は2026年8月1日時点の公開情報を基にした一般的な解説で、個別案件の法的助言ではありません。法令上の用語と日常語は範囲が異なります。製品仕様、保持期間、管理機能、法令・ガイドラインは変わるため、導入時点の契約と公式文書を確認してください。