生成AI社内チャットボットの導入ガイド｜社内で先に決める4点とデータの扱い

「その回答、どこに書いてあるやつですか」。会議で出た一言に、担当者が固まります。社内チャットに聞いたら、それらしい答えが返ってきた。でも、根拠になった資料が分からない。生成AIを社内チャットボットに使い始めた会社で、最初に起きる場面です。

生成AIを社内チャットボットに使うとき、つまずくのは、たいてい次の3点です。

• 回答が正しいかを誰も確かめられないまま、現場で使われ始める
• 機密の入った社内資料を読ませてよいのか、決めた人がいない
• 間違った回答で損害が出たとき、責任の持ち主が決まっていない

Saix自身、社内マニュアルを70本前後まで増やしながら生成AIで作り、社員が質問するAIヘルプデスクとして毎日動かしています。作り手であり運用者でもある立場から、手を動かす前提で書きます。

作る側の部品や手順を先に知りたい場合は、社内FAQチャットボットの作り方に構成と費用をまとめています。ここでは、作る前に社内で合意しておくことに絞ります。

生成AI型で起きるのは「答えられない」ではなく「答えを作ってしまう」

社内チャットボットには、あらかじめ用意した質問と回答を返す作りと、生成AIに文章を組み立てさせる作りがあります。この2つは、うまくいかないときの壊れ方が正反対です。

前者は、想定していない質問が来ると答えられません。画面には「該当する回答が見つかりません」と出ます。使う側はすぐ気づいて、人に聞き直します。失敗が目に見えるので、事故になりません。

生成AI型は止まりません。社内資料に書かれていないことを聞かれても、文章として成立する答えを組み立てて返します。これは「ハルシネーション」（事実でない内容を、もっともらしい文章で答えてしまう現象）と呼ばれます。

危ないのは、答えが返ってくるほうです。読み手に知識があれば「それは違う」と止まります。入社3か月の社員が読めば、そのまま顧客への返信に貼り付けられます。

回答の作り方の分類は、AI FAQの仕組みと作り方の全体像で整理しています。

社内で先に決める4点｜精度を試す前に決めないと後戻りする

生成AI型を使うと決めたら、製品を触る前に決めることが4つあります。この4点が空欄のまま試用を始めると、多くの会社が「精度が足りないので見送り」という結論にたどり着きます。

精度の問題に見えて、実際は誰も判断基準を決めていないだけ、というケースがほとんどです。7割の正しさが合格なのか不合格なのかは、回答をどう扱うかを先に決めないと判定できません。

決めること	中身	決めないと起きること	決める人
回答の位置づけ	参考情報か、そのまま使ってよい正式な回答か	誤答の責任が、使った個人に落ちる	経営・部門長
責任者	回答が違ったときの連絡先と、資料を直す担当	間違いが放置され、翌月には誰も使わなくなる	資料を持つ部署
載せない情報	AIに渡す資料の側で引く線	禁止事項を配っても、現場が判断できない	情報システム・管理部門
ログの扱い	誰が見られるか、何に使うか	社員が本音の質問をしなくなる	人事・管理部門

4点とも、製品の性能とは関係ありません。会社の中でしか決められないことばかりです。だから外注もできず、後回しにされます。

決め方1：回答は参考情報として扱い、正式な回答は人が出す

最初の導入では、回答を参考情報として位置づけるのが現実的です。社内の誰かに聞く前の下調べ、という置き方になります。

この位置づけにすると、7割の正しさでも十分に役に立ちます。残りの3割は、人に聞き直す手間が元に戻るだけで、マイナスにはなりません。

逆に、顧客への回答や金額の確定にそのまま使ってよい、と最初から決めてしまうと、検証の負荷が跳ね上がります。全部の回答を人が確認することになり、導入前より工数が増えます。

画面には「AIの回答は間違うことがあります。出典で確かめ、最後はご自身で判断してください」と常時表示しておきます。位置づけを文章で配るより、毎回目に入る場所に置くほうが守られます。

決め方2：責任者は情報システム部門でなく、資料を持つ部署に置く

回答が間違っていたとき、直すのは資料です。システムではありません。ここを取り違えると、運用が止まります。

情報システム部門を責任者にすると、「経費精算の締め日が違う」という指摘を受けても、その部門は正解を持っていません。経理に確認し、資料を直してもらい、反映する。この往復で、指摘から修正まで数週間かかります。

資料を持っている部署が、その資料に関する回答の責任も持つ。この形にすると、指摘から修正までが同じ部署の中で完結します。情報システム部門が持つのは、権限の設定とログの管理に限定します。

更新する人は1名に決めます。複数人で分担すると、誰も直さない領域が必ず出ます。

決め方3：入力を禁じる前に、渡す資料の側で線を引く

「個人情報は入力しないこと」と書いた紙を配っても、現場は判断できません。取引先の担当者名が個人情報にあたるのか、その場で判断を求めるのは無理があります。

渡す資料の側を先に絞るほうが、確実に効きます。AIが知識として読む資料の一覧を作り、そこに載せないものを決める。載っていない情報は、AIが答えに使えません。

Saixでは、案件の情報を扱うときに、金額と顧客の実名をそもそもデータとして持たない設計にしています。伏せ字にするのではなく、最初から入れません。存在しないものは、漏れようがありません。

ログの扱いも、ここで一緒に決めます。質問の履歴を上司が個人単位で見られる状態にすると、社員は当たり障りのない質問しかしなくなります。集計だけを見る、個人名は出さない、人事評価には使わない。この3つを最初に社内へ伝えます。

「社内文書を学習させる」は起きていない｜質問のたびに探して読ませている

社内説明で「社内文書をAIに学習させます」と言うと、審査でほぼ必ず止まります。この言い方が、事実と違うからです。

実際に起きているのは別のことです。質問が来るたびに、社内資料の中から関係しそうな部分を探し、その文章を質問と一緒にAIへ渡す。答え終われば、AIの側には何も残りません。この方式は「RAG」（必要な資料をその都度探してから答えさせるやり方）と呼ばれます。

覚えさせているのではなく、毎回カンニングペーパーを渡して答えさせている、と説明するほうが実態に近くなります。渡す資料の分け方と付ける情報で答えの精度が変わります。

社外に出るのは、入力した質問文と、渡した資料の該当部分だけです。

逆に言えば、AIに渡していない資料は、社内に置いてあっても社外へは出ません。審査で説明すべきなのは資料の総量ではなく、AIに渡す分だけを切り出した一覧です。

提供元が入力内容を学習に使うかは、契約するプランで決まります。実際に公式ページを1件ずつ開いて確認したところ、法人向けの利用では既定で学習に使わないと明記されていました。

Claudeを提供するAnthropicは、商用の製品から受け取った入力と出力を既定では学習に使わない、と記載しています。対象は法人向けのClaudeと、開発者がシステムに組み込む形の利用です。

Google Workspaceも、顧客の事前の許可か指示がない限り、顧客データをモデルの学習に使わないと明記しています。

ただし、どちらも法人向け契約についての記載です。個人向けの無料プランは条件が異なります。社内で使うなら、契約するプランの条項を必ず自分で開いて確認してください。

社内説明では、「学習させる」を「その都度読ませる」に言い換えるだけで、審査の論点が漏えいの不安から契約条項の確認に移ります。

手元のChatGPTに資料を読ませる方法と、その限界についてはChatGPTにマニュアルを学習させる方法で扱っています。

部署ごとに見せる資料を変える｜分けないと見えないはずの資料が答えに出る

社内チャットボットで最も多い事故は、外部への漏えいではありません。社内での越境です。

人事の評価シート、役員会の資料、他部署の見積り条件。画面上は見えないはずの資料が、AIの答えの中で要約されて出てきます。本人は普通に質問しただけです。

原因ははっきりしています。画面を見る権限と、AIに渡す資料の権限が、別々に作られているからです。画面側だけを丁寧に作り込み、AIに渡す資料は全件まとめて投入している。この組み合わせで越境が起きます。

防ぎ方は2つです。1つは、資料1件ごとに公開する部署を持たせること。もう1つは、見える見えないの判定を1か所にまとめ、画面にもAIの回答にも同じ判定を通すことです。

Saixでは、部署を5区分に分け、この判定を1つの処理に集約しています。画面の表示にも、AIが読む資料の抽出にも同じ処理を通すので、片方だけ直し忘れる余地がありません。

建設業の会社で、下請け各社への発注条件をまとめた資料を社内共有に置いていたケースがあります。現場監督が「この工種の標準単価は」と聞いたところ、他社との条件差が要約されて返ってきた、という相談を受けました。資料の置き場所は正しく、AIに渡す範囲だけが広すぎた状態です。

異動と退職の扱いも先に決めます。異動した人の質問履歴を、新しい部署の上長が見られる状態にしない。この1点だけは先に決めておきます。

分ける対象は多くありません。人事評価、採用の選考記録、取引条件、役員会の資料。この4種類を部署限定にすれば、残りは全社公開で回ります。就業規則や経費精算の手順は、迷わず全社に置きます。全部を細かく分けようとすると、設定が終わらないまま導入が止まります。

Saixが社内で回している形｜機密は隠さず、最初からデータに持たない

Saixでは、社内マニュアルを社内ポータルに集約し、そこに置いたAIヘルプデスクに社員が質問します。マニュアルを探すのではなく、AIに聞くのが日常の動線です。

入口は招待制で、会社のドメインで発行したアカウントを持つ人しか入れません。業務を委託しているパートナーも同じ入口を通ります。

部署はコンサルティング・営業・マーケティング・人事経理・全社の5区分で、資料ごとに公開する部署を指定できます。質問した本人の部署で見える資料だけが、AIの知識になります。

案件の情報は、ゴール・次のタスク・完了条件だけを持たせ、金額と顧客の実名は入れていません。伏せ字ではなく、データの構造ごと持たない選択です。

回答のルールも決めています。社内資料に書かれていないことは憶測せず「担当者にご相談ください」と答えさせ、回答には参照した資料を最大3件まで付けます。社員はワンクリックで原典を開けます。

費用は月3,000円の上限を設け、到達すると自動で止まります。使いすぎによる想定外の請求が構造的に起きない形です。

質問の履歴は、社員を監視するためではなく、マニュアルを直すために見ています。質問は自動で8つのカテゴリに分類され、件数が集中している領域が分かります。

質問が集まっている場所は、マニュアルが弱い場所です。次に作る資料、直す資料の優先順位を、ここで決めています。答える装置だけでなく、社内のつまずきを集める装置としても効きます。

効果は数字で測っていません。測れているのは、特定の担当者に飛んでいた質問が、AIへの質問に置き換わり始めたという事実だけです。削減時間を出す前に、質問の宛先が変わったかどうかを見るほうが、実態に合っています。

失敗・落とし穴｜審査で止まる4つと、止まったあとに効かせる順番

情報システム部門や管理部門の審査で聞かれることは、会社が変わってもほぼ同じです。答えを用意していないと、そこで数か月止まります。

1つ目は保存先です。データがどこに保存され、どの国のサーバーを通るか。提供元の公式ページに書いてあるので、該当箇所をそのまま添えます。

2つ目は保持期間です。いつまで残り、消したいときに消せるのか。ここが曖昧なままだと、退職者が出るたびに問い合わせが発生します。

3つ目は退職者の扱いです。アカウントを削除したとき、その人の質問履歴がどうなるかを、契約前に確認します。

4つ目が、学習に使われないかという質問です。前の章のとおり、法人向けの契約であれば公式ページに明記されています。口頭で「大丈夫です」と答えず、公式の記載を印刷して渡すほうが早く通ります。

4つとも、答えの中身より、答えを用意しているかどうかが見られています。その場で調べますと答えた時点で、次の審査は1か月後になります。

それでも止まったときは、対象を削って通す順番があります。まず、AIに渡す資料の範囲を狭めます。次に、使う部署を1つに絞ります。最後に、試す期間を3か月で区切ります。

金属加工の現場を持つ製造業の会社では、まず品質保証の部署だけで始めた例があります。対象は検査手順と不適合の処理に関する資料に限定し、図面と原価の資料は最初から外しました。

全社で本格導入する案は通りませんが、1部署・3か月・資料20本の案はほぼ通ります。審査は規模に比例して厳しくなるので、最初から小さく出すほうが結果的に早く進みます。通ったあとは社内AIチャットボットの定着へ進みます。

よくある質問

Q. 社内の機密文書を生成AIの社内チャットボットに読ませても情報漏えいの心配はないか

法人向けの契約であれば、入力内容を学習に使わないと公式に明記している提供元があります。ただし、より確実なのは渡す資料の側を絞ることです。読ませる資料の一覧を作り、金額や個人情報を含むものを最初から外せば、AIはその情報を答えに使えません。

Q. 社内文書が何件くらいあれば生成AI型を選ぶ意味があるか

目安は、同じ質問が月に10件以上飛んでいるかどうかです。文書の数より、繰り返し聞かれている質問の数で判断します。20本程度の資料でも、問い合わせが集中していれば効果が出ます。逆に100本あっても、誰も聞かない資料なら変わりません。

Q. 無料のプランでどこまで試せるか

個人向けの無料プランでも、資料を読ませて答えさせる動きは試せます。ただし、無料プランは入力内容の扱いが法人向けと異なるため、機密を含む資料では使えません。社外に出しても問題のない資料で動きを確かめ、本番は法人契約に切り替えるのが現実的です。無料の範囲で判断できるのは使い勝手までです。

Q. 導入にはどれくらいの期間がかかるか

製品を動かすだけなら数日で終わります。時間がかかるのは、読ませる資料を選ぶ工程と、社内の合意を取る工程です。ここに1か月前後を見ておくと現実的です。先に製品を選ぶと、この前工程が後ろにずれ込み、契約したのに使い始められない期間が生まれます。

Q. PDFや紙のマニュアルしかない場合でも使えるか

PDFはそのまま読ませられる製品がほとんどです。紙しかない場合は、先に文字データにする作業が必要になります。ただし、全部を電子化してから始める必要はありません。問い合わせが集中している数本だけを先に文字にして、そこから広げるほうが早く動き出せます。

Q. 情報システム部門がない会社でも導入できるか

できます。ただし、権限の設定とログの管理を誰が持つかだけは、社内で1人決めてください。兼任でかまいません。この役割が空いていると、退職者のアカウント削除や公開範囲の変更が誰の仕事でもなくなり、設定が古いまま放置されます。

Q. 回答が間違っていたとき、社員はどこへ報告すればよいか

報告先は、その資料を持っている部署に固定します。経費の回答なら経理、就業規則なら人事です。報告の手段は、専用のフォームを作るより、すでに使っている社内チャットに一言送る形のほうが続きます。手間が増えるほど、間違いを見つけても放置されます。

Q. シナリオ型と生成AI型は併用できるか

できます。問い合わせが多く答えが1つに決まる質問だけをシナリオ型で固定し、それ以外を生成AI型に回す形が一般的です。固定した質問は誤答が起きません。ただし、どちらが答えたのかを画面で分かるようにしないと、社員は精度の印象を混同します。

まとめ

生成AI型の社内チャットボットは、精度で導入可否を決めようとすると前に進みません。決めるべきは、回答の位置づけ、責任者、載せない情報、ログの扱いの4点です。この4つが埋まれば、7割の精度でも運用は回ります。

「社内文書を学習させる」という説明は、審査を止める言い方です。実際は質問のたびに資料を探して渡しているだけで、AIの中に残るものはありません。権限は画面とAIの回答の両方に同じ判定を通し、最初は1部署・3か月・資料20本の範囲で試します。

まず、いま担当者に飛んでいる質問を1週間ぶん書き出してください。書き出した時点で、読ませるべき資料が決まります。回答の原稿づくりは生成AIでFAQを作る方法、資料の整備はAI社内マニュアル構築支援で受け付けています。