田村憲孝 「業務
で生成AIを使いたいが、情報漏洩が心配で踏み切れない」。研修のご相談をいただく企業さまからもセキュリティへの不安は必ずと言ってよいほど話題になります。実際に大手企業で機密情報が生成AIに入力されてしまった事例も報道されています。
ただ、生成AIの情報漏洩は「AIが勝手に秘密をばらまく」ような現象ではありません。漏れるときの経路はおおむね決まっており、経路ごとに対策すればリスクは大きく下げられます。この記事では、情報が漏れる4つの経路を仕組みから解説し、実際に起きた事例、従業員が今日からできる対策、会社として整備すべき対策の順に紹介します。
生成AIから情報が漏れる4つの経路
生成AIに関わる情報漏洩は、ほとんどが次の4つのどれかで起きています。
経路①:入力した内容が「AIの学習」に使われる設定のまま使っている
多くの生成AIツールの個人向け無料版は、初期設定のままだと入力した内容がAIの学習に使われることがあります。学習に使われた内容がそのまま他人への回答に出てくる確率は不明ですが、機密情報を社外のサーバーに渡していること自体が会社の情報管理としては問題になります。無料版を初期設定のまま業務に使う行為が最も発生しやすい情報漏洩の原因です。
経路②:アカウントの乗っ取り
生成AIのアカウントには過去のチャット履歴が保存されています。パスワードの使い回しやウイルス感染でアカウントが乗っ取られると、履歴に残っている過去の入力内容ごと盗まれます。これは生成AI特有の話ではなく、昔からあるさまざまなツールのアカウント管理の問題が、生成AIの履歴に直結するようになったという形です。
経路③:チャット共有リンクの公開設定ミス
多くの生成AIツールには、チャットのやり取りをURLで共有する機能があります。便利な機能ですが共有リンクの設定を誤ると、社外の誰でも閲覧できる状態になり検索エンジンに掲載されてしまうこともあります。「社内の同僚にだけ見せるつもりが全世界に公開されていた」という形の漏洩です。
経路④:会社が把握していない個人アカウントでの業務利用
会社が生成AIを禁止・制限している場合でも、従業員が個人のスマホや個人契約のアカウントで業務情報を入力してしまうケースがあります(いわゆる「シャドーAI」と呼ばれる状態です)。会社の管理が及ばないところで経路①〜③が起きるため、発覚も遅れることになります。禁止するほどかえって発見が難しくなるという難しさがあります。
実際に起きた事例
事例1:機密のソースコードや議事録を入力してしまった(2023年・大手電機メーカー)
韓国の大手電機メーカーで、社内でのChatGPT利用を認めた直後の約20日間に機密情報の入力が3件確認されたと報道されました。エンジニアがプログラムの不具合を直すためにソースコードを入力したケースや、会議の録音をテキスト化して議事録作成のために入力したケースです。同社はその後、社内での利用を禁止する対応を取りました。経路①と④の典型例で「悪意のない、仕事熱心な使い方」から起きているのがポイントです。
事例2:サービス側の不具合で他人の情報が見えた(2023年・ChatGPT)
2023年3月には、ChatGPT自体の不具合(システム内部のバグ)により、一部の有料ユーザーの氏名・メールアドレス・クレジットカード情報の一部が、他のユーザーから見える状態になったとOpenAIが公表しました。利用者側に落ち度がなくても、サービス側の障害で漏洩が起きることもある、という事例です。
事例3:盗まれた生成AIアカウントが闇市場で売買されていた(2023年・調査報告)
海外のセキュリティ企業の調査では、ウイルスに感染した10万台以上の端末からChatGPTのアカウント情報が盗まれ、ダークウェブ(通常の方法ではアクセスできない闇サイト群)で売買されていたことが報告されています。経路②のアカウントごと履歴が盗まれる形式の漏洩が、実際に大規模に起きていたことを示す調査です。
従業員が今日からできる4つの対策
対策①:「入れてはいけない情報」の線引きを持つ
顧客名・取引条件・個人情報・未公開の数字は入力しない、と決めておきます。固有名詞を「A社」「Bさん」に置き換えるだけでも、漏洩したときの被害を小さくできます。会議の録音や議事録を生成AIで扱う場合の注意点は、Gemini Notebook(旧NotebookLM)で会議の録音から議事録を作る手順でも紹介しています。
対策②:学習に使われない設定に変更する
主要な生成AIには、入力内容を学習に使わせない設定があります。たとえばChatGPTは設定の「データコントロール」から「すべての人のためにモデルを改善する」をオフに、Geminiは「Gemini アプリ アクティビティ」をオフにすると、以後の入力が学習に使われなくなります。業務利用するなら、最初にこの設定状態を確認してください(設定項目の名称は変わることがあります)。
対策③:パスワードの使い回しをやめ、2段階認証を設定する
生成AIのアカウントにログインすると過去の入力・出力履歴がすべて閲覧できます。他のサービスと同じパスワードを使い回さない、2段階認証を有効にする、など基本の対策がそのまま生成AIの漏洩対策になります。
対策④:会社に無断の個人アカウント利用をしない
業務情報を扱うのであれば、会社が認めた環境・アカウントで使うのが原則です。会社側のルールがまだ無い場合は勝手に判断せず確認してください。ルールを整備する側の方は、生成AIの社内ルールの作り方を参考にしてください。
会社として整備すべき3つの対策
- 利用ルールの整備:入力してよい情報の基準、使ってよいツール・アカウントの指定、共有リンクの扱いを明文化します。作り方の手順は社内ルールの記事で解説しています
- 法人プランの検討:主要な生成AIの法人向けプランは、入力データが学習に使われない契約になっています。無料版の利用を我慢させるより安全な環境を会社が用意するほうが、結果的にシャドーAI(経路④)の抑止になります。主要4サービスの料金・契約条件は企業向けプラン一覧の記事で比較しています
- 従業員研修:ルールは「なぜダメなのか」を明確にし、使う人の理解がないと守られません。漏洩の仕組みごと理解してもらう研修を導入時に行っておくのがおすすめです。生成AI研修のカリキュラム例も公開しています。短時間の動画で学べる教材としては、LinkedInラーニングの講座「生成AIを職場で倫理的に利用する」もあります
参考:主要ツールは入力データをどう扱うか
2026年8月5日時点の各社公表情報にもとづく整理です(最新の仕様は各社の公式情報をご確認ください)。
| ツール | 個人向けプラン | 法人向けプラン |
|---|---|---|
| ChatGPT | 初期設定では学習に使われる。設定でオフにできる | Team/Enterpriseは学習に使われない |
| Gemini | 「アクティビティ」オンだと学習に利用される。オフにできる | Google Workspace経由は学習に使われない |
| Microsoft Copilot | 個人向けアカウントは設定の確認を推奨 | Microsoft 365 Copilotは学習に使われない(エンタープライズデータ保護) |
| Claude | 初期設定では学習に使われない。設定で利用を許可した場合のみ使われる | Team/Enterprise/APIは学習に使われない |
共通するのは、法人向けプランは「入力を学習に使わない」ことが契約上明確になっているという点です。業務での本格利用を検討する段階になったら、法人プランの導入を検討してください。
生成AIの情報漏洩は得体の知れない恐ろしい現象ではありません。「学習設定」「アカウント管理」「共有設定」「無断利用」という4つの経路で起きる対策可能なリスクです。禁止するより、経路を理解して安全に使うほうが、業務の効率化とリスク管理を両立できます。まずはお使いのツールの学習設定の確認から始めてみてください。
株式会社ウェブタイガーでは、情報漏洩対策を含む生成AIの業務活用を、実際の操作を交えて学べる企業研修を行っています。自社のルール作りとセットで検討したい方は研修のご案内をご覧ください。