社内文書をAI検索する前にやること｜RAGで失敗しない文書棚卸しの始め方

「社内のPDFや議事録をAIで検索できるようにしたい」
「Google DriveやNotionの資料をRAGで社内チャット化したい」
「ローカルLLMで安全にナレッジ検索を作れないか」

こうした相談は増えています。社内文書をAIで検索できるようになると、過去の提案書、問い合わせ対応履歴、業務マニュアル、議事録、仕様書を探す時間を減らせます。新人への説明、営業資料の再利用、問い合わせ対応、社内FAQの整備にもつながります。

ただし、いきなりRAGやAIチャットを作り始めると、思ったほど便利にならないことがあります。理由はモデルの性能だけではありません。AIに渡す前の文書が散らかっていると、検索結果も回答も散らかります。

この記事では、社内文書をAI検索する前にやるべき文書棚卸し、権限整理、更新ルール、最初のPoC範囲の決め方を解説します。

社内文書AI検索でよくある失敗

社内文書AI検索の失敗は、技術選定より前の段階で起きていることが多いです。

よくあるのは、次のような状態です。

• 古い資料と最新資料が同じ場所にある
• 同じ意味のファイルが複数存在する
• ファイル名だけでは中身が分からない
• 閲覧権限が部署や案件ごとに整理されていない
• 議事録、チャット、PDF、スプレッドシートが別々に散らばっている
• 正式なルールと個人メモが混ざっている
• どの文書をAIに読ませてよいか判断できない

この状態でRAGを組むと、AIは「社内文書を読んでいる」ように見えても、古い情報や関係ない情報を根拠に回答してしまいます。結果として、検索はできるが信用できない、便利そうだが業務では使いにくい、という状態になります。

RAG導入前に最初に決めるべきこと

最初に決めるべきなのは、どのAIを使うかではなく「何を探せるようにしたいか」です。

例えば、社内文書検索といっても目的はさまざまです。

• 営業が過去の提案書を探したい
• CSが問い合わせ回答例を探したい
• 経理や総務が社内手順を確認したい
• 開発チームが仕様や議事録を横断検索したい
• 経営者が過去の意思決定の背景を確認したい

目的が違えば、集める文書も、必要な権限も、回答の粒度も変わります。

最初から全社の情報を対象にする必要はありません。むしろ、最初は「問い合わせ対応のFAQだけ」「営業提案書の一部だけ」「社内マニュアルだけ」のように、範囲を狭くした方が成功しやすくなります。

文書棚卸しで見るべき5つのポイント

社内AI検索の準備では、文書をきれいに分類するだけでは不十分です。AIが検索しやすく、利用者が信頼しやすい状態にする必要があります。

1. 最新版がどれか分かるか

AI検索で最も危ないのは、古い資料をもっともらしく引用することです。

まずは、同じテーマの文書が複数ある場合に、最新版がどれか分かる状態にします。ファイル名に日付や版数を入れる、古い資料をアーカイブに移す、正式版と作業中を分けるだけでも効果があります。

「AIに聞けば分かる」状態を作る前に、「人間が見ても最新版が分かる」状態を作ることが重要です。

2. AIに読ませてよい文書か

社内文書には、AI検索に向いているものと向いていないものがあります。

例えば、社内マニュアル、公開済み提案書、FAQ、業務手順書は比較的扱いやすい文書です。一方で、個人情報、未公開の契約条件、人事情報、顧客ごとの機密情報が含まれる文書は、慎重に扱う必要があります。

クラウド型AIを使うのか、ローカルLLMや閉じた環境で処理するのかによっても設計は変わります。機密性の高い文書を扱う場合は、最初からローカル環境やアクセス制御を前提に検討した方がよい場合があります。

3. 誰が見てよい情報か

RAGやAIチャットでは、文書を検索できるだけでなく「その人が見てよい文書だけを検索する」設計が重要です。

営業資料は全員が見てよいが、案件別の見積書は担当者だけ。社内マニュアルは全員が見てよいが、採用候補者の評価メモは一部だけ。こうした違いを整理しないままAI検索を作ると、情報漏えいのリスクが出ます。

最初のPoCでは、権限が複雑な文書を避け、全員が見ても問題ない文書群から始めるのも現実的です。

4. 文書の単位が細かすぎないか、大きすぎないか

AI検索では、文書をどの単位で取り込むかも重要です。

1つのPDFにすべての業務手順が詰まっていると、AIが必要な箇所を見つけにくくなります。逆に、細切れのメモが大量にあると、文脈が足りずに回答が不安定になります。

マニュアルであれば章ごと、FAQであれば質問ごと、議事録であれば決定事項や論点ごとに整理されていると、RAGで扱いやすくなります。

5. 更新ルールがあるか

AI検索は、作って終わりではありません。元の文書が更新されなければ、AIの回答も古くなります。

文書棚卸しの段階で、誰が更新するのか、どのタイミングでAI検索側に反映するのか、古い資料をどう扱うのかを決めておきます。

小さな運用でも構いません。例えば「月1回、社内FAQだけ更新する」「問い合わせテンプレートだけ担当者が確認する」といった形でも、放置されるAI検索よりずっと実用的です。

最初のPoCは小さく作る

社内AI検索は、最初から大きく作るほど難しくなります。

おすすめは、次のような小さな範囲から始めることです。

• よく聞かれる社内FAQを30から50件だけAI検索化する
• 特定部署の業務マニュアルだけを対象にする
• 過去の提案書のうち、公開してよいテンプレートだけを取り込む
• 問い合わせ回答例のうち、個人情報を含まないものだけを対象にする
• 議事録から決定事項だけを抽出して検索対象にする

この段階では、完璧なAIチャットを目指すよりも「本当に探す時間が減るか」「間違った回答が出たときに原因を追えるか」を確認します。

もし小さな範囲で便利にならないなら、全社展開しても便利にはなりません。逆に、小さな範囲で効果が出れば、対象文書や機能を増やす判断がしやすくなります。

ローカルLLMや社内環境が向いているケース

社内文書検索では、クラウドAIだけでなく、ローカルLLMや閉じた環境でのRAG構築が候補になります。

特に次のような場合は、ローカル環境や社内限定の構成を検討する価値があります。

• 顧客情報や案件情報を含む文書を扱う
• 外部サービスに文書を送れない
• 社内ネットワーク内で完結させたい
• 回答ログや参照元を自社で管理したい
• 小規模でも専用の検索UIや管理画面が必要

ただし、ローカルLLMにすれば自動的に安全になるわけではありません。文書の権限、ログの扱い、更新フロー、バックアップ、利用者ごとのアクセス制御は別途設計が必要です。

重要なのは、AIモデル単体ではなく、文書、検索、権限、UI、運用をひとつの業務ツールとして考えることです。

社内AI検索を業務に乗せるための画面設計

社内AI検索は、チャット画面だけ作ればよいとは限りません。

実務では、次のような画面や機能があると使いやすくなります。

• 参照元文書を必ず表示する
• 回答に自信がない場合は断る
• 文書の更新日を表示する
• よく使う質問をテンプレート化する
• 回答結果を保存、共有できる
• 間違った回答をフィードバックできる
• 管理者が取り込み文書を確認できる

特に重要なのは、参照元の表示です。AIの回答だけを見せると、利用者は正しいかどうか判断しにくくなります。どの文書のどの部分を根拠にしたのか分かるだけで、業務利用の安心感は大きく変わります。

まず作るなら「文書棚卸しリスト」から

AI検索の前に、まずは簡単な棚卸しリストを作るのがおすすめです。

項目は複雑でなくて構いません。

• 文書名
• 保管場所
• 内容の種類
• 最新版かどうか
• 閲覧してよい人
• AI検索に入れてよいか
• 更新担当者
• 更新頻度
• 注意点

このリストを作るだけで、AI検索に向いている文書と、まだ整理が必要な文書が見えてきます。

RAGやローカルLLMの構築は、この棚卸しがあるとかなり進めやすくなります。取り込む文書の優先順位、権限設計、PoC範囲、画面設計を具体的に決められるからです。

YOSHIO.devで相談できること

YOSHIO.devでは、社内文書をAI検索するための小さなRAG環境、ローカルLLM検証、社内AIチャット、文書整理を前提にした小型業務ツール開発を相談できます。

例えば、次のような相談に対応できます。

• 社内文書AI検索のPoC範囲を決めたい
• RAGに入れる文書の整理方法を相談したい
• ローカルLLMで社内資料を検索できるか試したい
• Google Drive、Notion、PDFなどを横断検索する小型ツールを作りたい
• 参照元付きの社内AIチャットを作りたい
• AI検索に入れてよい文書、入れない文書を整理したい

いきなり大規模なAI導入をするのではなく、まずは小さな文書群で「業務で使えるか」を確認する進め方が現実的です。

関連サービス:

• ローカルLLM・RAG環境構築
• 業務自動化・小型ツール開発
• YOSHIO.devへの相談

FAQ