RAG導入の前に決める3つ｜中小企業の費用・期間と向かない業務

中小企業が入れる前に決めるのは、入力してよい情報・使うツール・答えの確認者の3つです。CONFLUX PARTNERSが2025年から2026年9月までに支援した生成AIの社内ルールづくり10件でも、この3つを決めました。

RAG導入とは？社内の資料を探して答えるAIの仕組み

RAG導入とは、AIが答える前に社内の資料を探し、その内容をもとに答えさせる仕組みを入れることです。

ChatGPTのような生成AIは、そのままでは自社の規程や価格表を知りません。RAGを入れると、社内の手順書・過去の返信・商品資料を探してから答えます。「どの資料のどこを見たか」を答えと一緒に示せるのが、普通のチャットとの違いです。

私は、RAGを「AIに覚えさせる」仕組みではなく「AIに探させる」仕組みとして説明しています。資料を直せば、次の答えから直した内容が使われます。そのため、資料が古いままなら答えも古いという点を最初にお伝えしています。

RAG導入で楽になる業務と向かない業務

RAG導入で楽になるのは、電子データの資料があり、同じ種類の質問が何度も来る業務です。

任せやすい業務は、大きく3種類です。社内の規程や手順書への質問、お客様への返信の下書き、過去の提案書を探す営業の準備です。どれも「答えの元になる資料がすでにある」点が共通しています。

当社が2025年から2026年9月までにAIエージェントで業務を自動化した8件では、問い合わせメールの一次分類と返信の下書きが1日2時間から30分になりました。AIで問い合わせの一次返信を自動化した案件では、1件約10分の返信が確認だけの約2分になりました（2025年8月〜10月に測定）。

同じ8件からは、効果が出にくい条件も見えています。手書きの書類が多く読み取りの精度が上がらなかった1件と、例外の処理が多く人の確認が減らなかった1件です。そこで当社は、向く・向かないを次のように判断しています。

仮に、社員3人がそれぞれ1日20分ずつ社内の資料を探しているなら、合計で1日1時間です。月20営業日なら約20時間になります。この時間が半分になれば十分かを先に考えると、入れるかどうかを決めやすくなります。

仮に半分になれば、月約10時間の削減です。試作と保守にかかる費用を、この削減時間で何か月で取り戻せるかを見積りと並べてください。当社の判断では、月10時間を下回るなら、既製サービスか見送りが妥当です。外注の費用に見合う削減が見込みにくいためです。

月10時間は、PoCの相場50万〜200万円の案件を、1年以上かけて取り戻す水準と考えています。月10時間以上なら外注の見積りを取り、下回るなら無料で試せる既製サービスから始めてください。

RAG導入の前に決める3つのこと

RAG導入の前に決めるのは、AIに入力してよい情報の範囲、使うツール、AIの答えを確かめる人の3つです。

当社が支援した生成AIの社内ルールづくり10件（2025年〜2026年9月）でも、この3つを最初に決めました。RAGは社内の資料をAIに渡す仕組みなので、ルールが無いまま始めると、渡してよい資料の線引きが後から問題になります。

1つ目の「入力してよい情報」は、資料を3段階に分けると決めやすくなります。社外に出してよい資料、社内だけの資料、個人情報を含む資料です。個人情報保護委員会も、生成AIサービスの利用に関する注意喚起を公表しています。

2つ目の「使うツール」は、社員が個人で契約したAIを使わせないために決めます。会社が契約したツールに絞ると、どの資料がどこに渡ったかを追えます。

3つ目の「答えの確認者」が、いちばん後回しにされやすい項目です。AIの答えをお客様へ出す前に、誰が確かめるかを業務ごとに1人決めてください。確認者が決まらない業務は、まだRAGに任せる段階ではありません。

社内ルールの条文の例は、生成AIの社内ルールのサンプルと決める順番で紹介しています。

RAG導入の費用と期間の目安

RAG導入の費用は、当社のAI導入の試行（PoC）で50万〜200万円、開発期間は小規模なもので1.5〜3か月が目安です。

AI導入の試行（PoC）の相場は、当社の2022年から2026年9月までの代表的な12件で50万〜200万円でした。業務システムまで作り込む場合は80万〜800万円です。

なお、当社の数字は、RAGそのものではなく、AI導入の試行や業務システムの案件のものです。RAGだけの導入実績の数字は、当社にはまだありません。RAGの費用は、この幅を目安に、見積りで確かめてください。

費用を集計した当社の12件は、業種がばらけるように選びました（製造業・人材・飲食・卸売・サービス・医療）。同じお客様の案件は1件にまとめています。費用の中央値は約220万円です。この中央値は、PoCに限らず業務システムなども含む12件全体の値です。PoCだけの相場ではありません。

RAGについて、2026年10月に当社が3つのAI（ChatGPT・Claude・Gemini）に「RAG 導入について教えてください」と聞きました。3件の答えのうち、費用の金額（◯円）に触れた答えは無く、専門家への相談に触れた答えは無く、期間（◯か月・◯日など）に触れた答えは3件中1件でした。

同じ調べでは、3件の答えの出典に挙がったページは9件で、公的機関・学会・業界団体が0件、ニュース・メディア・まとめが1件でした。

費用を左右するのは、資料の量よりも資料の状態です。PDFやWordにそろっていれば試作は早く進みます。紙の資料や、人によって書き方が違うExcelが多いと、資料を整える作業が増えます。

最初の見積りだけで比べないことも大切です。資料の更新や保守を誰がするかで、使い続ける費用が変わります。見積りを比べるときは、作ったあとの保守の範囲まで並べてください。費用の内訳と月額の考え方は、AIエージェントの費用の内訳と月額の試算で説明しています。

顧問パッケージの内容と料金を見る →ここまでの内容が自社に当てはまるか、確認しませんか。要件の確認だけでもご利用いただけます

RAG導入の進め方4ステップ

RAG導入は、業務を1つに絞り、資料をそろえ、小さく試し、人の確認つきで広げる4つの順に進めます。

当社は、自動化を「進める仕組み」と「止める仕組み」を一組で作り、人が確認する工程から段階的に広げています。私が開発したAIO（SEO）対策エージェントも、品質の基準に届かない記事を自動で止める作りです。RAGも同じ考え方で進めます。

1. 業務を1つに絞る

最初は、質問の数が多く、答えの元になる資料がそろっている業務を1つだけ選びます。社内の総務への質問や、お客様からのよくある問い合わせが候補です。

2. 資料をそろえる

選んだ業務で使う資料を1か所に集めます。古い版の資料は外してください。古い資料が混ざると、AIは古い内容のまま答えます。

資料の整理を後回しにすると、調査の手間が増えます。2023年から2025年に引き継いだ6件のうち、資料が無かった4件では、調査に合計約25人日（1件あたり4〜9人日）が追加でかかりました。私が引き継いだシステムでは、給与計算の締め日の処理がどこに書かれているか資料から分からず、本番のデータで動かしながら確かめるしかありませんでした。

3. 小さく試す

社内の数人だけで使い、答えが合っているかを確かめます。答えを出すまでの時間と、直した回数を記録すると、広げるかどうかを数字で決められます。

4. 人の確認つきで広げる

お客様へ出す答えは、確認者が見てから送る形で広げます。確認しても直す所がほとんど無くなった業務から、確認を軽くしていきます。

自社で使えるか、相談する →自社の業務でRAGが使えるかを、資料の状態から一緒に確かめます。ご契約を前提としたご案内ではありません。何を頼むか決まっていなくても大丈夫です。

既製サービス・外注・社内で作るの選び方

RAGの入れ方は、資料が少なければ既製サービス、業務に合わせたいなら外注、社内にエンジニアがいれば社内で作る、の3つから選びます。

当社は、要件が一般的なら既製のサービスを勧めています。2021年から2026年9月までに、要件が一般的な勤怠・会計だったため既製のSaaSを勧めた案件が4件あります。社内にエンジニアがいて改修が多いため、内製化を支援した案件も2件あります。

始めるまでの早さは、既製サービスがいちばん早い入れ方です。外注で作る場合、当社の小規模な開発の期間は1.5〜3か月でした。社内で作る入れ方は、社内の負担がいちばん大きくなります。

既製サービスで足りるなら、外注で作る必要はありません。資料が少なく、社内の質問に答えるだけなら、既製サービスから始めてください。

既製サービスを選ぶときは、次の3項目を比べてください。手元の資料の形式（PDF・Word・Excel）に対応しているか、答えと一緒に見た資料を示せるか、無料で試せるかです。例えば、書き出した質問3つのうち2つ以上で、根拠つきの正しい答えが出れば、そのまま使ってよい目安です。1つ以下なら、外注を検討してください。

当社の判断では、次の3つのうち2つ以上に当てはまるなら外注を検討してください。社内システムとつなぎたい、業務の手順に合わせて答えさせたい、資料の更新を任せたい、の3つです。1つも当てはまらないなら、外注は見送ってください。既製サービスで足りるのに外注すると、費用だけが増えます。お客様の問い合わせ管理や受発注の画面とつなぎたい場合は、外注で作るほうが向いています。

外注するときは、作ったものの権利と保守の範囲を契約に書いてください。

2025年4月、私は飲食店（5店舗）の予約システムを他社から引き継ぎました。ソースコードの権利が前の開発会社に残っていて、改修できませんでした。権利の譲渡を交渉するより早いと判断し、3か月で作り直しました。契約に書いていないことは、作った側に残ります。

2024年2月には、人材サービスの会社（従業員約30名）の勤怠システムで、仕様変更が口頭のやり取りだけで進みました。納品の直前に「言った・言わない」になり、変更点を一覧にして双方で確かめ直し、納期を1か月延ばして納品しました。以後、変更はすべて書面で残しています。

契約の形は、情報処理推進機構（IPA）が2020年12月22日に公開した情報システム・モデル取引・契約書（第二版）が参考になります。個別の契約の判断は弁護士に確認してください。

外注先に確かめる3つの質問

外注先を選ぶ決め手は、資料更新の担当、答えの根拠の表示、権利と保守の範囲の3つの答えです。見積りの金額より先に、次の3つの答えを並べてください。

1. 資料を直したとき、AIの答えに反映させる作業は誰がしますか
2. AIがどの資料を見て答えたかを、画面で確かめられますか
3. 作ったものの権利と、保守の範囲と月の費用は契約に書けますか

1つ目の答えが「毎回こちらで作業します」なら、資料を直すたびに費用がかかる前提で比べてください。2つ目ができない仕組みは、答えの誤りを確認者が追えません。3つ目は、外注の注意点としてシステム開発を外注するデメリットと対策でも取り上げています。

RAG導入でつまずきやすい点と先に決めておくこと

RAG導入でつまずきやすいのは、資料の更新が止まること、答えの確認者がいないこと、紙の資料をそのまま使うことの3つです。

1つ目は、資料の更新が止まることです。起きやすいのは、価格や手順を変えたのに、AIが古い資料のまま答える場面です。原因は、資料を直す担当が決まっていないことです。資料を直す担当と、直す時期を先に決めておくとうまくいきます。

2つ目は、答えの確認者がいないことです。AIの答えがそのままお客様に届くと、誤りに気づけません。原因は、確認を「誰かがやる」にしていることです。業務ごとに確認者を1人決めておけば防げます。

3つ目は、紙の資料をそのまま使うことです。当社がAIエージェントで自動化した8件（2025年〜2026年9月）でも、手書きの書類が多い1件は読み取りの精度が上がりませんでした。紙が多い業務は、先にデータ化から始めると進めやすくなります。