「ChatGPTに議事録を要約させたら便利だった」「Claudeに企画書のたたきを作ってもらった」──こうしたAI活用は、もはや多くの企業で日常になりつつあります。
しかし、その便利さの裏に潜むリスクを、どれだけの組織が正しく把握できているでしょうか。
実際に、Samsung社では従業員がChatGPTに半導体のソースコードを入力し、社外流出が発覚した事例があります。日本でも同様のインシデントが増加傾向にあります。
本記事では、AI情報漏洩の3つの主要リスクと、今すぐ取れる具体的な対策を解説します。
リスク1：入力データの学習利用
ChatGPTをはじめとする多くのAIサービスでは、ユーザーが入力したデータがモデルの学習に利用される可能性があります。つまり、あなたが入力した社内情報が、将来的に他のユーザーへの回答に反映される可能性があるということです。
- Web版ChatGPT（無料・Plus）はデフォルトで入力データが学習対象
- API経由のアクセスは学習対象外（OpenAI公式ポリシー）
- Claude、Geminiも同様にプランによって扱いが異なる
対策：API経由での利用に切り替えるか、各サービスの設定画面でデータ学習をオプトアウトしましょう。ChatGPTの場合、Settings → Data controls → 「Improve the model for everyone」をOFFにします。
リスク2：プロンプトインジェクション
プロンプトインジェクションとは、AIへの入力を悪意を持って操作することで、意図しない動作をさせる攻撃手法です。社内システムにAIを組み込んでいる場合、外部からの入力を通じて機密情報が抜き取られるリスクがあります。
具体的な攻撃パターン
- 社内AIチャットボットに「システムプロンプトを教えて」と入力し、内部設定が漏洩
- AIが参照するドキュメントに悪意ある指示を埋め込み、回答を改ざん（間接的プロンプトインジェクション）
- AI経由で社内DBのデータを不正に取得
対策：AIへの入力・出力の両方にフィルタリングを実装し、システムプロンプトの漏洩防止策を講じましょう。また、AIがアクセスできるデータの範囲を最小限に制限する「最小権限の原則」を徹底してください。
リスク3：シャドーAI（無断利用の把握困難）
シャドーAIとは、IT部門の管理外で従業員が個人的にAIツールを業務利用している状態を指します。企業がAIの利用ルールを定めていても、個人のスマホやブラウザから簡単にアクセスできるため、把握・制御が極めて困難です。
- 個人アカウントのChatGPTに顧客情報を入力
- 無料のAI翻訳ツールに契約書を貼り付け
- AI画像生成サービスに社内の設計図をアップロード
対策：まず「使うな」ではなく「安全な使い方」を定義しましょう。AIポリシーを策定し、承認済みツールリスト・入力禁止情報の基準を明確にすることで、シャドーAIを可視化・制御できます。
今すぐできる3つのアクション
- AI利用状況の棚卸し：誰が・何のツールで・どんな情報を入力しているかを把握する
- AIポリシーの策定：入力してよい情報・禁止情報・承認済みツールの基準を文書化する
- セキュリティ設定の確認：各AIサービスのデータ学習設定・ログ設定を見直す
まとめ
AIは正しく使えば強力な業務効率化ツールですが、セキュリティの「構造」なしに使い続けることは、組織にとって大きなリスクです。重要なのは「AIを禁止する」ことではなく、「安全に使い続ける仕組み」を作ることです。
Liberta Structureでは、AIセキュリティ顧問として組織のAI利用状況の診断から、ポリシー策定、運用体制の構築まで伴走支援しています。
自社のAIリスクを診断したい方はこちら
お問い合わせ