社内文書を読むAI(RAG)は自社に必要か?費用相場と「使われないAI」にしない導入の進め方

投稿日:

「社内の規程やマニュアルをAIに読ませて、社員の質問に答えさせたい」。ここ1年ほど、経営者やDX担当者から最も多く受ける相談の一つです。

開発会社に聞くと「RAGで作りましょう」と提案され、数百万円の見積もりが届く。でも、それが妥当なのか、そもそも自社に必要なのかがわからない。この記事では、技術がわからなくても判断できるように、社内データを使ったAIの仕組み、費用の目安、失敗しやすいポイントを整理します。

なぜ今、社内データを使ったAIが求められているのか

総務省の令和8年版 情報通信白書によると、自社の何らかの業務で生成AIを利用している企業は86.4%に達しました。用途別では「議事録・メール作成補助」が約7割、「社内ヘルプデスク」が約5割です。

つまり「AIを使うかどうか」の段階は過ぎ、「自社の情報を使って、どこまで実務に役立てるか」が次のテーマになっています。

一般的なAIチャットは、インターネット上の公開情報で学習しています。自社の就業規則、製品仕様、過去の提案書の中身は知りません。そこで登場するのがRAGです。

RAGとは何か:一文で言うと「調べてから答えるAI」

RAG(検索拡張生成)とは、AIが質問に答える前に社内文書を検索し、見つけた内容をもとに回答する仕組みです。

社員に例えると、「記憶だけで答える新人」ではなく「必ずマニュアルを開いて確認してから答える新人」です。回答に参照元の文書を添えられるため、正しいかどうかを人が確かめやすいのも特長です。

ただし、マニュアル自体が古かったり矛盾していたりすれば、AIも間違えます。RAGの品質は、AIの性能よりも社内文書の状態で決まる。これがこの記事で最も伝えたいポイントです。

費用の目安:PoC・本番・運用の3段階で考える

開発会社が公開している相場をまとめた記事(AI Revolution、2026年10月更新)では、次のような目安が紹介されています。開発会社8社の公開価格をもとにした数字で、第三者の統計ではない点に注意してください。

段階 費用の目安(税別) 期間の目安
PoC(小さく試す) 50万〜300万円 2週間〜3ヶ月
本番の構築 300万〜1,000万円(全社展開・社内システム連携込みなら1,500万〜5,000万円) 2〜4ヶ月
運用 月10万〜50万円 継続

PoC(概念実証)とは、本格的に作る前に、小さな範囲で「本当に役立つか」を確かめる試作のことです。

同じ記事では、社員300名規模でもAIとクラウドの利用料は月3万〜7万円程度とされています。運用費の大半は、AIの利用料ではなく人の作業です。文書の更新、閲覧権限の管理、回答が正しいかの確認などがこれにあたります。

見積もりを受け取ったら、運用費の中に「誰が、どの作業を、月何時間行うのか」が書かれているかを確認しましょう。

そもそも作らなくてよいケースもある

RAGを一から開発することが、いつも最適とは限りません。

選択肢 向いているケース 弱み
法人向けAIサービスのファイル検索機能を使う 対象文書が少なく、部署内で使う 権限の細かい制御や社内システム連携に限界がある
RAGのSaaS製品を導入する 標準的な社内FAQ・ヘルプデスク 自社独自の業務フローには合わせにくい
個別に開発する 基幹システムとの連携、厳しい権限管理、独自の画面が必要 初期費用と運用の手間が大きい

一般的な目安として、対象文書が数十〜数百ファイルで、閲覧制限がほぼないなら、まず既存サービスで試すのが合理的です。そこで「権限ごとに見せる内容を変えたい」「業務システムの画面から使いたい」といった具体的な不満が出てから、開発を検討しても遅くありません。

「使われないAI」になる5つの原因

PoCまでは盛り上がったのに、半年後には誰も使っていない。よく見かけるパターンには共通点があります。

  1. 目的が「AIを入れること」になっている:「問い合わせ対応時間を月何時間減らす」といった目標がないと、成果を判断できません。
  2. 文書が整理されていない:古い版と新しい版が混在していると、AIは古い情報で答えます。
  3. 閲覧権限を考えていない:人事評価や給与の資料を誰でも検索できる状態は、情報漏えいそのものです。
  4. 回答の正しさを誰も確かめていない:「それっぽいが間違っている」回答が数回続くと、社員は使わなくなります。
  5. 運用担当が決まっていない:規程が改定されても文書が更新されず、AIの回答が古くなっていきます。

技術の問題に見えて、実は5つとも業務とルールの問題です。

導入前に確認したい7つのチェックリスト

開発会社やサービスを選ぶ前に、社内で次の7点に答えを用意しておくと、見積もりの精度も比較のしやすさも大きく変わります。

  1. 誰の、どの質問に答えさせるか(例:営業部員からの製品仕様の質問)
  2. 今その質問に、月何件・何時間かかっているか(効果を測る基準になります)
  3. 対象文書はどこに、何件、どの形式であるか(PDF、Word、紙のスキャンなど)
  4. 最新版を管理している担当者は誰か
  5. 部署や役職によって見せてはいけない文書はあるか
  6. 回答の合格ラインは何か(例:よくある質問50問のうち45問に正しく答える)
  7. AIサービスに送るデータの扱い(入力内容が学習に使われない契約・設定か、データの保存場所はどこか)

6番の「よくある質問と正解のセット」は、評価用データとも呼ばれます。これを発注前に作っておけば、複数の開発会社やサービスを同じ物差しで比べられます。

開発会社に聞くべき質問

提案を受けたら、次の質問をそのまま使ってください。具体的に答えられるかどうかが判断材料になります。

  • 「PoCの成功・失敗はどの数字で判断しますか?」
  • 「回答の正確さはどうやって測り、改善しますか?」
  • 「閲覧権限は、既存のファイルサーバーやグループウェアの設定と連動しますか?」
  • 「文書を追加・更新したとき、反映までの手順と時間は?」
  • 「使うAIモデルを将来変更する場合、作り直しは必要ですか?」
  • 「運用費の内訳は、利用料と人の作業でそれぞれいくらですか?」

AIの分野は変化が速く、特定のAIモデルに強く依存した作りにすると、数年後に作り直しが必要になることがあります。モデルを差し替えられる設計かどうかは、長く使ううえで重要な確認点です。

外部の専門家に相談すべきタイミング

ここまでの内容は、自社だけでも進められます。ただし、次のような状況では自力での判断に限界があります。

  • 複数の提案で、費用が2倍以上違い、理由がわからない
  • 既存サービスで十分か、開発が必要かを判断できない
  • 個人情報や機密情報を扱い、権限設計やセキュリティの妥当性を確かめたい
  • PoCは終わったが、本番に進むべきか判断がつかない
  • 基幹システムや古い社内システムとの連携が必要になる

反対に、対象文書が少なく、部署内での試行にとどまるなら、外部の専門家は不要なことが多いです。法人向けAIサービスを1〜2ヶ月試し、上のチェックリストで効果を測るだけで十分な判断材料になります。

まとめ

  • RAGは「社内文書を調べてから答えるAI」。品質は文書の状態で決まる
  • 費用の目安はPoC 50万〜300万円、本番300万〜1,000万円、運用月10万〜50万円
  • 運用費の大半は人の作業。内訳を必ず確認する
  • 小規模なら、まず既存サービスで試してから開発を検討する
  • 発注前に「質問と正解のセット」を作ると、比較と評価がしやすくなる

AI導入の計画を第三者の目で確かめたい方へ

相談先には、知り合いのエンジニア、AIに詳しいフリーランス、技術顧問サービスなどの選択肢があります。TechMO合同会社もその一つとして、AI導入の進め方の相談や、開発会社の提案書のセカンドオピニオンを受けています。

当社は受託開発も行っていますが、技術顧問としての相談は開発の売り込みを目的としません。「既存サービスで十分です」とお伝えすることもありますし、他社ベンダーの提案も発注する側の立場から公平に評価します。

「社内データを使ったAIを検討しているが、何から始めればよいかわからない」という方は、無料相談を予約することから始めてみてください。

参考資料

← ブログ一覧に戻る