生成AIのセキュリティ対策ガイド｜情報漏洩リスクの正体と、中小企業がやるべき対策チェックリスト

「社員が勝手にChatGPTを使って、顧客情報を貼り付けていないか不安だ」「情報漏洩が怖くて、会社として生成AIを解禁できずにいる」「取引先からAIの利用ルールを聞かれたが、何も決めていない」——生成AIの業務利用が当たり前になるにつれ、こうした相談が増えています。

結論から言えば、生成AIのセキュリティリスクは正体を分解すれば、それぞれに定番の対策がある種類のリスクです。そして実務上もっとも危険なのは、リスクを恐れて「全面禁止」にした結果、社員が個人のスマホやアカウントで会社の情報を扱う「シャドーAI」が野放しになることです。本記事では、中小企業の目線で、何がどう漏れうるのかをリスク別に整理し、ルール・ツール選定・技術対策・教育の4層でやるべきことをチェックリストとしてまとめます。社内ルールの具体的な作り方は生成AIの社内ガイドライン策定ガイドもあわせてご覧ください。

生成AIで実際に何が漏れうるのか【リスクの分解】

「生成AIは危ない」という漠然とした不安は、分解すると次の4種類にほぼ集約されます。それぞれ性質も対策も異なるため、まず切り分けることが出発点です。

ポイントは、4つのうち3つ（②③④）はAI固有の問題ではなく、クラウドサービス利用の基本動作の問題だということです。生成AIだけを特別視するのではなく、いつものセキュリティ対策の延長に「①学習利用への対処」を足す、と捉えると全体像がすっきりします。

なお、社内データを読み込ませたチャットボットを社外に公開する場合は、悪意ある質問で意図しない情報や発言を引き出そうとする攻撃（プロンプトインジェクションと呼ばれます）への考慮も必要になります。これは「社外公開ボットを作る段階」で設計に織り込む論点であり、社内利用が中心のうちは、上の4分類を押さえることが先決です。

「入力が学習に使われる」の実際

もっとも誤解が多いのがこのリスクです。実際の状況を正確に押さえましょう。

無料・個人向けプランと法人向けプランでは前提が違う

多くの生成AIサービスでは、無料や個人向けのプランは入力内容がサービス改善（モデルの学習）に使われる場合がある一方、法人向けプランやAPI利用では「入力を学習に使わない」ことが標準の契約条件になっているのが一般的です。また個人向けでも、設定で学習利用をオフにできるサービスが多くあります。つまり「生成AIに入れたら何でも学習される」は正確ではなく、どの契約・どの設定で使うかで、リスクの大きさがまったく変わります。

それでも「入れない」を基本にすべき情報がある

学習に使われない契約であっても、入力した内容は事業者のサーバーを経由し、履歴として保存されます。顧客の個人情報、取引先との秘密保持契約の対象情報、未公表の財務・人事情報などは、「学習されないから安全」ではなく、そもそも社外のサービスに出してよい情報かどうかという一段手前の基準で判断すべきです。この線引きを社内で明文化することが、次章以降の対策の土台になります。

「AIからの漏洩」より「使い方からの漏洩」が実際の主戦場

報道などで「AIで情報漏洩」と聞くと、AIが誰かの入力を別の人に話してしまう場面を想像しがちですが、実際に企業で起きる事故の多くは、学習利用される設定のまま機密を入力した、共有リンクを公開設定にしてしまった、個人アカウントが乗っ取られた、といった使い方・設定側の問題です。つまり対策の主戦場は、モデルの内部ではなく自社の運用にあります。これは裏を返せば、自社の手の届く範囲の対策でリスクの大半を下げられるということです。

「全面禁止」が最も危険な選択になりがちな理由

リスクを並べると「当面は禁止」としたくなりますが、実務ではこれが裏目に出がちです。理由は単純で、生成AIは仕事が速くなる道具なので、禁止しても社員は使うからです。会社が公式な手段を用意しなければ、社員は個人のスマホ・個人アカウントで、会社の目が届かない場所で使います。これが「シャドーAI」で、学習オフ設定もされず、履歴も管理されず、事故が起きても会社が気づけない、最悪の利用形態です。

取るべき方向は逆で、会社が安全な公式ルートを用意し、そこに利用を寄せることです。「禁止」ではなく「この範囲で・このツールで使ってよい」を示すことが、結果的にもっとも漏洩リスクを下げます。公式ルートには副次的な効果もあります。誰がどんな用途で使っているかが見えるようになるため、うまい使い方を社内に横展開でき、セキュリティ管理がそのまま活用推進の基盤になります。AI活用を業務改善につなげる進め方全体は中小企業のAI導入の進め方5ステップを参照してください。

対策の全体像｜4つの層で考える

やるべきことは「ルール」「ツール選定」「技術」「教育」の4層に整理できます。順番も重要で、ルールだけ作ってツールを渡さない、ツールだけ渡して教育しない、という片落ちが失敗の典型です。

• ①ルール：何を入れてよいか・いけないかの線引きと、出力の確認義務を明文化する
• ②ツール選定：学習に使われない法人向けツールを会社が契約して渡す
• ③技術：アカウント管理・権限・設定で「うっかり」を仕組みで防ぐ
• ④教育：ルールの背景を理解させ、判断に迷う場面をつぶす

対策①：ルール——何を入れてよいかを線引きする

情報を3区分して入力可否を決める

複雑な規程は守られません。実務では「公開情報（入力可）」「社内情報（会社契約のツールのみ可）」「機密・個人情報（原則入力不可、必要なら匿名化と承認）」の3区分程度の粗い線引きが、もっとも守られやすい形です。自社の業務でよく出る情報（見積書・顧客リスト・設計図など）がどの区分に入るかを具体例で示すと、現場の迷いが消えます。判断に迷ったら聞ける窓口を1つ決めておくことも、ルールの一部として重要です。

出力は「下書き」と位置づけ、確認を義務にする

誤情報や権利侵害のリスクは、出力を無確認で社外に出したときに現実化します。「AIの出力は下書きであり、事実確認と表現の確認をした人が責任を持つ」を明文化してください。項目立てのひな形は生成AI社内ガイドライン策定ガイドにまとめています。

対策②：ツール選定——法人向けの安全なツールを会社が渡す

選定時に確認すべきセキュリティ項目

生成AIツール・AI搭載サービスを選ぶときは、機能の前に次を確認します。

• 学習利用の扱い：入力データをモデルの学習に使わないことが契約・規約に明記されているか
• データの保存：保存場所（国内か海外か）、保存期間、削除の可否
• アクセス管理：管理者がメンバーと権限を一元管理できるか、退職時にアカウントを止められるか
• 認証：多要素認証やシングルサインオンに対応しているか
• 監査：誰がどう使ったかのログを会社側で確認できるか
• 第三者認証：セキュリティに関する第三者認証・監査への対応状況

この観点は生成AIに限らず、AIサービス全般の選定で共通です。選び方の全体像は失敗しないAIサービスの選び方を参照してください。

社内データを扱うなら「権限ごと」設計する

社内文書をAIに答えさせる仕組み（RAG）を作る場合は、「元の文書を見られない人には、AI経由でも見せない」という権限設計が必須です。全文書を1つの箱に入れて全社員に開放すると、これまで部署の壁で守られていた情報がAI経由で漏れます。仕組みの基本はRAG（社内データ検索AI）入門で解説しています。

対策③：技術——設定と権限で事故を仕組みで防ぐ

アカウントは会社管理に寄せる

業務利用は会社契約のアカウントに限定し、個人アカウントでの業務情報の入力を禁止します。会社管理にすることで、学習オフなどの設定を全員に強制でき、退職時の停止やログの確認も可能になります。多要素認証の有効化は、乗っ取り対策としてもっとも費用対効果の高い一手です。パスワードの使い回し禁止とあわせて、生成AIに限らない基本として徹底してください。

「うっかり」を防ぐ設定を先回りで入れる

チャット履歴の共有リンクの既定を「組織内のみ」にする、機密情報の入力を検知して警告する仕組み（対応製品の場合）を有効にする、連携アプリの追加を管理者承認制にする——といった設定は、教育に頼らず事故を減らします。人は必ずミスをする前提で、設定側で受け止めるのが原則です。

退職・異動をアカウント管理の起点に組み込む

見落とされがちなのが、退職者・異動者のアカウント処理です。生成AIツールの履歴には業務のやり取りがそのまま残るため、退職時にアカウントを停止し、共有リンクを棚卸しする手順を、入退社の事務フローに最初から組み込んでおきます。ツールが増えるほど手作業では漏れるので、管理台帳を1つに集約しておくことが実務のコツです。

対策④：教育——ルールを「守れる」状態にする

ルールとツールを整えても、「何がダメで、なぜダメか」が腹落ちしていなければ、悪意のない事故は起き続けます。教育で押さえるべきは、①入力してはいけない情報の具体例（自社の業務に即したもの）、②迷ったときの相談先、③出力の確認の仕方、の3点です。座学よりも、実際の業務での良い使い方・危ない使い方を例示する形式の方が定着します。研修の組み立て方は社員向けAI研修の設計ガイドを参照してください。

あわせて、教育は一度きりにしないことです。新しいツールの導入時、ルール改定時、そして事故やヒヤリハットが起きたときに、具体例で更新し続けることで、ルールが「生きた運用」になります。中途入社者・アルバイトを含む全員に同じ説明が届く仕組み（入社時の必修化・動画化など）まで作れると、体制として安定します。

それでも事故が起きたときの初動

対策をしても、誤入力や誤共有は起こり得ます。重要なのは、起きたときに素早く正しく動ける準備です。

• 報告をためらわせない：「入力してしまった」を罰する空気があると、事故は隠れて深刻化します。速やかな自己申告を評価する方針を明示します
• 事実確認：何を・どのツールに・どの契約状態で入力したかを確認します。学習に使われない法人契約なら、リスクの範囲は大きく変わります
• 拡散の停止：共有リンクの無効化、履歴の削除、必要に応じたサービス事業者への削除依頼を行います
• 影響の評価と連絡：個人情報が含まれる場合は、個人情報保護法にもとづく報告・本人通知の要否を確認します。判断に迷う場合は専門家に相談してください
• 再発防止：原因をルール・設定のどちらで受け止めるかを決め、教育の具体例に反映します

この初動フローは、事故が起きてから考えるのでは間に合いません。「誰に報告するか」「共有停止の操作は誰ができるか」だけでも先に決めて1枚にしておくと、いざというときの対応速度がまったく変わります。よくある導入時のつまずき全般はAI導入でよくある7つの失敗と対策もあわせて確認してください。

よくある質問

Q. 結局、無料版のChatGPTを業務で使うのはダメなのですか？

「会社として推奨できない」が答えです。無料・個人プランは入力が学習に使われる場合があり、会社側で設定や履歴を管理できません。業務で使うなら、学習に使われない法人向けプランを会社が契約して渡すのが原則です。公開情報の調べ物など限定的な用途を暫定許可する場合も、入力してよい情報の線引きは必須です。

Q. 「学習に使われない」なら何を入れても安全ですか？

いいえ。学習に使われなくても、社外のサーバーに送信・保存されることは変わりません。顧客の個人情報や秘密保持契約の対象情報は、契約・法令上そもそも社外に出せるかという基準で判断が必要です。「学習利用の有無」と「社外に出してよいか」は別の問題として扱ってください。

Q. 取引先から「AIの利用状況」を聞かれました。何を答えればよいですか？

①業務で使うツールと契約形態（法人契約・学習オフ）、②入力してよい情報の社内ルール、③教育の実施状況、の3点を答えられれば、多くの場合は十分です。逆に言えば、この3点が答えられない状態は取引上のリスクになりつつあります。本記事の4層の対策を整えることが、そのまま回答の準備になります。

Q. セキュリティ対策にどれくらい費用がかかりますか？

中小企業の場合、中心になるのは法人向けプランの利用料と、ルール整備・教育の手間です。専用のセキュリティ製品が必須になるのは、規模が大きい場合や規制業種の場合が中心です。ツール費用の考え方はAI導入の費用相場と予算の立て方を参照してください。

Q. 何から手を付けるべきですか？

①入力してよい情報の線引きを1枚で決める、②法人向けツールを契約して公式ルートを作る、③全員に30分の説明会でルールと理由を伝える——この3つが最初の一歩です。自社の状況に合わせた進め方を相談したい場合は、コンシェルジュへの無料相談をご利用ください。

まとめ｜「禁止」ではなく「安全な公式ルート」を作る

生成AIの情報漏洩リスクは、①学習利用②誤共有③乗っ取り④出力の4つに分解でき、それぞれに定番の対策があります。もっとも避けるべきは、漠然とした不安による全面禁止と、その裏で広がるシャドーAIです。ルール・ツール選定・技術・教育の4層を「会社が安全な使い方を渡す」方向で整えれば、セキュリティとAI活用は両立できます。守りを固めることは、攻めのAI活用を安心して進めるための土台づくりでもあります。

セキュリティに配慮したAIサービス・支援会社はこちらの検索から比較できます。