生成AIのセキュリティ対策｜アカウント管理と検証体制の作り方

「このAIツール、無料版のままでいいですよね」。導入したときそう決めた人は、もう社内にいません。使う人数は3人から10人に増えた。入力する資料は見積書や議事録にまで広がった。止める仕組みは、まだ動いていません。

「セキュリティ対策」で検索すると、入力してはいけない情報の一覧ばかりが出てきます。それを社内に配って、対応は済んだことにしています。それでも事故が起きる会社は、入力のルールとは別の場所が空いています。このテーマでつまずくのは、たいてい次の3点です。

• 個人の判断で契約したアカウントのまま使う人数が増え、誰が何に使ったか会社に記録が残らない
• 「情報を入力しない」というルールさえ守れば対策は十分だと思い込んでいる
• 対策を1度決めたきり、退職者のアカウントも権限もそのまま放置している

この記事では、公開されている情報だけを整理し、次のことに答えます。

• アカウントと権限をどう分けて配るか
• 会社が把握していないAIツール（シャドーAI）をどう見つけるか
• AIの出力を外へ出す前に、誰が何を確認するか
• 事故が起きたときの窓口と訓練をどう決めるか

Saix自身、社内マニュアルの1本として「情報セキュリティと機密の扱い」を用意し、部署ごとにアクセス範囲を分けたポータルで運用しています。作り手であり運用者でもある立場から、机上論ではなく手を動かす前提で書きます。

社内マニュアルの1本として持っているからこそ、いつでも同じ答えに戻れる状態を保っています。

「セキュリティ対策」は3層｜情報漏洩を防ぐだけでは半分しか守れない

「生成AIのセキュリティ対策」は、1つの対策ではありません。層が3つあります。

1層目は入力の対策です。渡してよい情報を絞り、履歴が残る場所を管理します。この領域は生成AIで情報漏洩を起こさない設計と生成AIの情報漏洩リスクに、材料の分け方と経路の全体像をまとめています。本記事ではこの1層目には踏み込みません。

2層目は使う人とアカウントの管理です。誰にどのアカウントを渡し、退職や異動でどう止めるか。3層目は使ったあとの検証と体制です。出力を確認する担当と、事故が起きたときの窓口です。対策が1層目の入力管理だけに集中し、2層目と3層目が手つかずの会社を、Saixは何度も見てきました。

経済産業省と総務省が策定したAI事業者ガイドラインでも、セキュリティ確保は事業者が講じるべき対応の1つとして挙げられています。入力の対策だけでガイドラインを満たした気になるのは早計です。

アカウントの管理が9割｜個人契約と共有ログインを許すと対策は全部素通りする

対策の一覧を配るより先に効くのは、アカウントの整理です。渡し方を誤ると、あとに続くどの対策も素通りします。まず現状を疑うところから始めます。次の3つの原因のうち、いくつ当てはまるか数えてみてください。

原因1：個人契約のまま使う人数が増え、誰が使ったか会社に残らない

無料版や個人のクレジットカードで契約したAIは、契約者本人の記録にしかログが残りません。会社が退職者の利用を止めることも、いつ何を入力したかを確認することもできません。「そのうち法人契約に切り替える」という先送りが、最も多い失敗です。

個人情報保護委員会も、事業者が生成AIに個人情報を入力する際は利用目的の範囲を確認するよう注意喚起しています。個人契約のままでは、この確認そのものを会社が行えません。

原因2：共有ログインで使い、誰の操作か会社に残らない

1つのアカウントを部署で共有すると、ログには「誰が」ではなく「そのアカウント」しか残りません。退職者が使っていたIDのまま、翌年も別の担当者が使い続けている例があります。共有は費用を抑える一方、記録を丸ごと捨てる判断でもあります。

共有ログインの問題は、士業事務所やクリニックのように少人数で回している組織ほど起きやすくなります。繁忙期に手が空いた人のIDを借りて使い続け、誰の操作かが分からないまま半年が過ぎていた、という状況も珍しくありません。

原因3：権限を全員「管理者」にして、設定を誰でも変えられる

管理者権限は、学習利用の設定や共有範囲を変えられる強い権限です。全員に管理者権限を渡すと、1人が緩めた設定変更が全社に及びます。権限は「使う人」と「設定を変える人」を分けるのが最初の一歩です。

区分	できること	向いている人
一般利用者	チャットでの質問・文章や資料の生成	大多数の社員
管理者	学習利用や共有範囲の設定変更・利用者の追加と削除	情報システム部門の担当者1〜2名

権限を分けたら、次に人数を絞ります。管理者を情報システム部門の担当者1〜2名にとどめ、異動や退職のたびに、管理者の一覧そのものも見直します。管理者が誰かを誰も把握していない状態は、権限を分けていないのと同じです。この一覧は、規程の別紙よりも実際に効く道具になります。

Saixでは、社員と業務委託パートナーの全員に会社ドメインのアカウントを発行し、Googleログインへ一本化しています。管理者が先に登録した人しか入れない招待制で、登録されていない人はそもそも入れません。

社内資料は部署ごとに5区分でアクセス範囲を分け、AIへの質問に対する回答にもこの権限が及びます。他部署だけに公開した資料の中身は、AIの回答経由でも出てきません。退職時はアカウントを削除する設計にしており、削除と同時に利用の記録も引き継がれずに閉じます。

「誰が見えるかを機械的に決める」設計は、担当者の注意力に依存しない点で、規程や注意喚起よりも壊れにくい対策です。対策が効いているかどうかは、規程の枚数ではなく、退職者のアカウントを止めるまでの日数で測れます。

導入済みのAIサービスがある場合は、まず契約プランの内容を確認します。次の質問文をそのまま使えます。

貴社のプランについて、次を教えてください。
①入力内容は初期設定でAIの学習に使われますか
②操作ログは何日残り、誰が確認できますか
③管理者権限を持てる人数に制限はありますか
④退職者のアカウントは即日で無効化できますか

回答が曖昧な項目は、そのまま社内に残るリスクです。もらった回答は記録し、契約更新のたびに見直す運用にしておくと、プランが変わったときの見落としを防げます。ベンダー側の回答を待つ間にも、社内で決められる部分から先に進めます。

ガイドラインの条文として何を書くべきかは、ガイドラインに書く必須7項目にまとめています。権限の分け方は、条文よりも先に運用として決めておく事項です。

見えないところが一番危ない｜シャドーAIの見つけ方と対処3ステップ

会社が把握していないAIツールを、シャドーAI（会社の許可を得ずに現場だけで使われているAIサービスのこと）と呼びます。禁止するほど、現場は隠れて使う場所を変えるだけです。

金属加工の現場を持つ製造業の経営者から聞いた話です。現場の若手が個人のスマホでチャット型AIに図面の寸法を読み込ませ、発注書の下書きを作らせていました。会社としては誰も把握していませんでした。

シャドーAIが増える理由は、社員の意識の低さではありません。会社が使ってよい選択肢を用意していないことが大半の原因です。選択肢が無ければ、現場は各自の判断でツールを選び、契約も個人名義になります。

シャドーAIは、生成AIの情報漏洩リスクが挙げる経路の1つでもありますが、対処の中心は「見つけて公式のアカウントへ乗せる」という運用であり、入力してよい情報の線引きとは別の作業です。

ステップ1：使っているサービスを業務の言葉で聞き出す

何を「使っているAIはありますか」と聞くと、多くは「特にありません」と答えます。「見積書や議事録を早く作るために使っている道具はありますか」と業務の言葉で聞くと出てきます。

ステップ2：費用の流れから探す

どうやって個人の立替精算や、少額のクレジットカード明細に、AIサービス名が並んでいることがあります。経理の明細を月1回、サービス名でざっと見る習慣が、シャドーAIを見つける近道です。

手がかり	見る場所
費用	個人の立替精算・法人カードの少額利用明細
端末	会社の管理端末に入っているブラウザの拡張機能一覧
会話	「あのAIで作った」「チャットに聞いた」という発言

ステップ3：使ってよい場所を先に用意して切り替える

どうやって見つけた直後に禁止だけを伝えると、また別の場所に隠れます。会社として使ってよいアカウントを先に用意し、乗り換え先を渡してから止めるほうが定着します。禁止する前に、代わりを用意できているかを先に確認してください。

見つけたサービスは放置せず、前の項で触れたアカウントの一覧に加え、権限を決め直します。シャドーAIの対処は、見つけた瞬間ではなく、公式のアカウントに乗せ替えた瞬間に完了します。見つけて終わりにすると、半年後には同じ名前が別の部署から挙がってきます。

ゴール：社内で名前が挙がったAIサービスのうち、会社が把握していないものが0件になっていればOKです。

出力を信じすぎない仕組み｜検証する担当を先に決めておく

セキュリティ対策は入力側だけではありません。AIが作った文章をそのまま外へ出す運用にも、別のリスクがあります。ここまでの2層を固めた会社でも、この3層目は手つかずのまま残っていることが多くあります。

AIは自信満々に、事実と異なる内容を作ることがあります。これはハルシネーション（もっともらしい誤情報の生成）と呼ばれる現象で、生成AIの仕組み上なくすことができません。

介護・福祉の現場を持つ事業者から聞いた話です。利用者への説明文をAIに下書きさせたところ、実在しない制度名がもっともらしく差し込まれていました。読み手が制度に詳しくなければ、そのまま配られていた可能性があります。

見積書・契約書・顧客への返信のように社外へ出る文章は、出す前に人が1度読む担当を決めておきます。「AIが作ったから正しいはず」という前提を、社内から外す作業でもあります。

• 確認すること1：固有名詞社名・製品名・制度名・金額は、AIが自信満々に間違えやすい箇所です。
• 確認すること2：根拠のある主張「〜という調査結果があります」のような言い切りは、出典が実在するかを別に確かめます。

検証は一方通行でなくてよいものです。会社の納品物を一度AIに読ませて抜けを探す運用も広がっています。人が読み慣れた資料ほど、抜けは人より先にAIの方が見つけることがあります。

確認担当を決める作業は、性格や慎重さの問題にしないことが長続きの条件です。誰が読んでも同じ2点（固有名詞・根拠の実在）だけを見る、という範囲に絞れば、担当が変わっても引き継げます。

この検証は、入力のルールを守っていても必要になります。渡す情報を絞ることと、出てきた答えを確かめることは、別の対策として両方を置く必要があります。

対応する体制を先に決める｜窓口・報告ルート・年1回の訓練

入力してしまった直後にどう動くかは、生成AIで情報漏洩を起こさない設計にまとめています。ここで決めるのは、その動きを誰が受け止めるかという体制です。動き方が決まっていても、受け止める人が決まっていなければ、初動は空回りします。

窓口が決まっていない会社は、事故が起きた瞬間に「誰に言えばいいか分からない」で数十分を失います。窓口は情報システムの担当者1人でかまいません。大事なのは、社内の誰もがその名前を即答できることです。

窓口の役割は、自分で解決することではありません。経営者への報告と、必要であれば外部の専門家への連絡までを、決められた順番で回すことです。窓口が判断に迷った時点で止めず、次に回す先まで決めておきます。

IPA（情報処理推進機構）も、企画から運用・廃棄までの各段階でのセキュリティ対応の手引きを公開しています。窓口と訓練は、この「運用」段階で決めておく事項です。

年に1回、実際にあった漏洩事例を1つ選び、報告から初動までを机上でなぞる訓練を入れます。実際の事故ではなく想定で行う訓練でも、報告までの時間は、訓練を積んだ回数と比例します。訓練の記録を残しておけば、次の年に同じ人が同じ手順を思い出せます。

担当者が1人しかいない会社ほど、この体制は軽視されがちです。担当が1人だからこそ、その人が休んでいる間の代理先まで決めておく必要があります。代理先は社内の別の役職者でも、契約している外部の窓口でもかまいません。名前が決まっていれば、誰でも同じ手順で動けます。

失敗しやすい5つ｜対策が増えるほど、現場は守らなくなる

セキュリティ対策で失敗する会社に共通するのは、対策の数ではありません。決めた対策を、設定と運用に落とし込めているかどうかです。規程を厚くしても、下の5つのどれかが残っていれば、対策は効きません。

• 失敗1：規程だけ作って、設定を変えていない文書は整っているのに、無料版と個人契約がそのまま野放しになっている状態です。
• 失敗2：退職者のアカウントを、次の棚卸しまで放置する数か月分の空いた権限が残り、誰も気づきません。
• 失敗3：禁止事項を増やすほど、現場は隠れて使う選択肢を用意せずに禁止だけを重ねると、シャドーAIが増えます。
• 失敗4：管理者権限を、最初に決めた担当者のまま見直さない異動しても権限だけが残り続け、誰が設定を変えられるか分からなくなります。
• 失敗5：対策を作った日で満足し、誰も見直さない半年後には、対策を決めた本人も中身を覚えていません。

5つのうち複数が同時に当てはまる会社ほど、対策の見直しは後回しにされがちです。人事異動や契約更新のタイミングに合わせて、年に1回だけでも棚卸しの日を決めておくと、見直し自体を忘れずに済みます。棚卸しの担当も、前の章で決めた窓口と同じ人にしておくと、記録が一箇所に集まります。

失敗の多くは、規程を書いた直後ではなく、書いてから半年〜1年が過ぎたあたりで表面化します。最初の完成度より、忘れずに見直し続けられる仕組みのほうが、最終的な安全度を左右します。見直しの日をカレンダーに入れる作業に、専門知識は要りません。

よくある質問

Q. 無料版のAIを使い続けても対策になりますか

法人向けプランへの切り替えが先です。無料版は契約者本人の記録にしかログが残らず、会社としてアカウントを管理できません。まずは契約を法人向けに揃え、そのうえで権限を「使う人」と「設定を変える人」に分けます。無料版のまま人数だけが増えていく状態が、最も見直しにくい形です。

Q. 何人規模の会社から対策が必要ですか

使う人数に関係なく、アカウントを会社が把握した時点で始めます。3人でも個人契約のまま広がれば同じ問題が起きます。人数の多さでなく、契約の形と記録の残し方で線を引いてください。従業員が1人でも、会社の名前で使う以上は同じ対象です。

Q. 対策は情報システムの担当者がいなくてもできますか

できます。最初にやることは、使っているAIサービスと契約者を一覧にすることです。専門知識よりも、誰が何を使っているかを会社が把握している状態そのものが、対策の出発点になります。一覧の表を1枚作ると、次にやることが自然に見えてきます。

まとめ

生成AIのセキュリティ対策は、入力する情報を絞ることだけでは終わりません。誰がどのアカウントで使い、その記録が残る状態を作ることが土台になります。個人契約や共有ログインを許したままでは、そのあとに続くどの対策も素通りしてしまいます。

会社が把握していないAIサービスや、確認されないままの出力も、同じ土台の上で扱う対象です。層を分けて考えると、どこから手をつけるかが見えてきます。

シャドーAIを見つけ、出力を確認する担当を決め、事故のときの窓口を1つに決めておく。これらは規程を書くより先に、設定と運用として今日から動かせます。対策が効いているかどうかは、規程の分厚さでなく、退職者のアカウントを止めるまでの日数で測れます。どれも専門知識より、決めて動かす順番の問題です。

文書全体の決め方は生成AI利用ガイドラインの作り方に整理しています。

社内での合意の付け方は生成AIの社内利用ガイドラインの作り方にまとめています。どこから着手するかは会社の規模や使い方で変わるため、一律の順番はありません。自社の状況に当てはめて何から手をつけるかは、無料のAI活用セッションでその場に合わせて相談できます。