RAGシステム開発の進め方/やり方/流れや方法/手法/工程/手順

RAGシステムの進め方は、社内文書を読み込ませてチャット画面を作るだけではなく、要件整理、データと製品の選定、設計・開発、テスト、稼働、定着の6フェーズを順番に管理することが成功の条件です。

「RAGを導入したいが何から始めればよいのか分からない」「PoCと本番開発の違いが分からない」「見積もりのどこを比較すればよいのか知りたい」という企業に向けて、本記事ではRAGシステムの全体像、具体的な進め方、費用相場、発注時のチェックリスト、稼働後の定着方法までを実務に落とし込んで解説します。

▼全体ガイドの記事
・RAGシステム開発の完全ガイド

RAGシステム開発の全体像

RAG（Retrieval-Augmented Generation）は、LLMに社内情報を追加学習させるのではなく、質問に関連する文書やデータを検索し、その結果を文脈として回答を生成する仕組みです。したがって、回答品質はモデルの性能だけでなく、検索対象のデータ、チャンク分割、権限設定、引用方法、評価データの品質によって決まります。

RAGシステムとは、文書を収集・OCR処理し、メタデータを付け、チャンクに分割して検索インデックスへ登録し、質問に応じて関連箇所を取り出してLLMへ渡す業務システムです。一般的には、文書ストレージ、埋め込みモデル、ベクトル検索、キーワード検索、ハイブリッド検索、リランキング、プロンプト組み立て、LLM、根拠表示、ログ・評価・監視が連携します。

用途は、社内規程の検索、製品マニュアルの照会、営業担当者の提案支援、保守履歴の検索、問い合わせ回答案の作成などです。回答と一緒に文書名・ページ・改訂日などの根拠を表示し、根拠が見つからない場合は「分かりません」と回答する条件を設けることで、LLM単体よりも検証しやすくなります。

RAGは、頻繁に更新される自社情報を回答に使いたい場合に向いています。例えば、製品仕様や社内規程の改訂が多い企業では、モデルを再学習するよりも検索インデックスを更新する方が運用しやすい場合があります。一方、単純な公開情報の要約だけなら通常の検索やLLMで足りることもあり、RAGを作ること自体を目的にしてはいけません。

最初に「問い合わせの一次回答時間を半分にする」「マニュアル検索を10分から2分に短縮する」など、対象業務と効果指標を1つか2つに絞ります。利用者数、文書量、更新頻度、機密度、既存システム連携、正答率、回答時間、削減工数を整理すれば、パッケージ・クラウド・OSS・スクラッチの比較もしやすくなります。

RAGシステムの進め方とは？6フェーズで解説します

RAGシステムは、要件整理、選定、設計・開発、テスト、稼働、定着の6フェーズで進めます。小規模PoCは2〜6週間程度、本番導入は要件と連携範囲によって2〜4か月程度から始まり、複数部門・基幹連携・閉域環境では4〜9か月以上かかることもあります。期間を短く見せるために評価や教育を削ると、本番後の精度改善費用が膨らみやすいため、各フェーズの完了条件を決めて進めます。

要件整理では、情報システム部門だけでなく、実際に質問する現場の担当者を参加させます。「誰が」「どの文書を」「どの頻度で」「何の判断に使うのか」を聞き取り、現在の問い合わせ件数、回答にかかる時間、誤回答の影響を確認します。対象業務は社内ITヘルプデスク、営業FAQ、保守マニュアルなど、正解を定義しやすく効果を測りやすいものから始めると検証が進みます。

同時に、文書の所有者、改訂日、機密区分、アクセス権、ファイル形式、重複、廃止文書、更新責任者を棚卸しします。成果物は業務フロー、機能要件、非機能要件、データ一覧、権限表、更新ルール、評価質問集です。必須要件と希望要件を分け、根拠表示、回答拒否、利用者認証、監査ログ、削除反映を必須にするかをこの段階で決めます。

選定では、既製RAGパッケージ、AWS BedrockやAzure AI Searchなどのマネージド基盤、OSSと自社クラウドで構築する方式、閉域・オンプレミス方式を比較します。短期間で始めたい場合はパッケージが候補になりますが、複雑な権限や基幹連携には制約があるかもしれません。マネージド基盤は運用負担を抑えやすい一方、サービス料金とデータ所在、将来の乗り換え条件を確認します。

候補会社には同じ質問集とサンプル文書を渡し、検索結果、根拠表示、回答拒否、権限外情報の遮断、文書削除の反映をデモしてもらいます。単に回答が自然かを見るのではなく、型番や規程番号に強いキーワード検索、表記揺れに強いベクトル検索、両者を組み合わせるハイブリッド検索を比較します。最低でも、標準機能、設定対応、追加開発、対応不可を分けて提案書に記載してもらいます。

設計では、文書の取り込みから回答までのデータフローを図にします。文書収集、OCR、メタデータ付与、チャンク分割、埋め込み生成、インデックス登録、検索、リランキング、プロンプト生成、LLM、根拠表示、ログ保存の各処理で、入力と出力を定義します。PDFの見出しや表が崩れる場合は、チャンクサイズやページ情報の持たせ方を先に検証し、文章だけの評価で済ませないことが重要です。

最重要の設計項目は、利用者の権限と検索結果を連動させる仕組みです。部門、役職、顧客、案件、拠点などの属性を検索条件へ反映し、閲覧できない文書をLLMへ渡さない構成にします。SSO、文書単位のACL、暗号化、監査ログ、プロンプトと外部文書の分離、出力フィルタリング、モデル切替、バックアップ、インデックス更新を非機能要件として記載します。

テストでは、実際の問い合わせをもとに評価セットを作ります。質問、期待する根拠文書、期待回答、回答拒否が必要な条件、許容できる回答時間を数十問から数百問程度用意し、回答の正しさだけでなく、引用の妥当性、根拠の新しさ、検索漏れ、過剰な断定を採点します。PoCの合格条件を「自然な会話ができる」だけにすると、見栄えのよいデモから本番へ移したときに失敗しやすくなります。

セキュリティテストでは、権限のない文書を質問で引き出せないか、悪意ある文書に埋め込まれた指示で検索や回答の制御を回避できないか、入力・検索・出力ログに機密情報が残りすぎないかを確認します。デジタル庁の生成AI調達ガイドラインでも、RAGの検索先にある機密情報のアクセス権限、プロンプトインジェクション、バックエンドへの意図しない操作が確認項目になっています。問題を修正した後に再テストする計画まで見積もりに含めます。

稼働前には、対象文書の最終取り込み、削除・改訂の反映、利用者アカウント、問い合わせ窓口、障害時の連絡先を確認します。小規模な社内FAQなら一括切替も選べますが、複数拠点や基幹システムを含む場合は部門ごとの段階移行が安全です。旧検索をいつ停止するのか、停止できない場合の二重管理をどう防ぐのかも、稼働計画に書き込みます。

切替当日は、利用者向けの簡易マニュアル、回答を鵜呑みにしないルール、誤回答の報告方法、重大障害のエスカレーション基準を用意します。文書の版数や引用ページが表示されない、権限外の情報が検索される、回答不能時に断定する、といった事象は業務を止める可能性があるため、機能不具合とは別に安全上の停止条件を設定します。

RAGシステムは稼働すれば完成するものではありません。文書が更新されてもインデックスへ反映されなければ古い回答が出るため、文書の所有者、更新検知の頻度、削除反映の時間、再インデックスの失敗通知を決めます。問い合わせは「操作方法」「データ不備」「検索漏れ」「誤回答」「追加要望」に分類し、毎月または毎週の改善会議で優先順位を見直します。

定着の指標は、利用回数だけでは不十分です。一次回答までの時間、有人対応への引き継ぎ率、正しい根拠を引用できた割合、回答不能を適切に返した割合、権限エラー件数、文書更新から反映までの時間、問い合わせ削減工数を導入前後で比較します。デジタル庁が2026年に公開する「源内」でも行政資料RAGアプリの展開が進んでおり、RAGを単発のデモではなく、データ整備と業務改善を伴う利用環境として運用する考え方が参考になります。

RAGシステムの費用相場とコストの内訳

RAGシステムの費用は、文書量、利用者数、データの機密度、OCRや表の解析、既存システム連携、権限管理、評価・監視、導入後の改善範囲で変わります。以下は2026年公開の開発会社資料とリサーチノートを突き合わせた企画段階のレンジであり、全国一律の定価ではありません。特に閉域・オンプレミスや大規模な基幹連携は、個別見積もりが必要です。

既製のRAGサービスを顧客環境へ導入するだけなら、初期20万円前後から、期間は約3週間から1か月程度が公開例の目安です。小規模PoCは50万〜300万円程度、1業務・1〜2種類の文書・数十〜数百問の評価・簡易UIを想定します。データ整備、OCR、部門別のアクセス権、既存ストレージ連携まで含めるPoCは300万〜800万円程度になることがあります。

標準的な本番導入は300万〜1,500万円程度が一つの目安です。1〜2部署、SSO、管理画面、監査ログ、根拠表示、更新処理、運用設計を含めると、単なるチャット画面より高くなります。複数部門・基幹連携・厳格な権限管理・評価自動化まで含める場合は1,500万〜3,000万円以上、閉域・オンプレミスや大規模独自開発では3,000万円から1億円規模もあり得ます。これらの本番レンジは、2026年公開のルートチーム資料、ソフィエイト資料、従来の業務システム開発工数をもとにした目安です。

運用・保守費は、文書更新、精度改善、障害対応を含めて月10万〜80万円程度を仮置きする公開目安があります。ルートチーム資料では月20万〜80万円程度とされており、利用量、問い合わせ窓口の時間、改善会議、SLAによって変わります。開発会社の保守費だけでなく、社内のデータ管理者、業務責任者、評価担当者の工数も予算に含めます。

クラウド利用料は、LLMの入力・出力トークン、埋め込み生成、検索インデックス、ベクトルDB、ストレージ、ログ、ネットワーク、ガードレールなどに分かれます。AWSのAmazon Bedrock料金表でも、モデルごとの入出力、埋め込み、ガードレールなどの料金例が分けて示されています（出典: AWS「Amazon Bedrock Pricing」、2026年確認）。利用者数と1人あたりの質問回数、平均入力・出力長を使って月次の上限を試算し、モデル変更や利用増加に備えた予算枠を設定します。

RAGシステムの見積もりを取る際のポイント

RAGの見積もりは、チャット画面の開発費だけを比べると判断を誤ります。文書を使える状態にするデータ整備、権限と認証、検索精度の評価、既存システム連携、テスト、教育、運用・保守を分け、初期費用・月額費用・クラウド従量課金・5年間の総保有コストを別々に確認します。

依頼書には、対象業務、利用者数、部門・拠点、文書の種類と件数、1ファイルの容量、更新頻度、保存場所、機密区分、既存の認証方式、連携先、利用端末、希望時期を記載します。PDF、スキャン、Excel、表、画像、SharePoint、ファイルサーバー、基幹システムなど、形式ごとに取り込み方法と更新方法を確認します。

機能要件は「質問を受け付ける」だけでなく、根拠文書とページを表示する、根拠がないときに回答を拒否する、利用者の権限を検索へ反映する、文書の改訂・削除を指定時間内に反映する、回答と検索ログを監査できる、管理者が評価質問を追加できる、という粒度で書きます。納品物も、ソースコード、インフラ構成図、プロンプト、評価データ、運用手順、データ返却形式まで明記します。

候補会社は、価格が異なる3社程度に同じ資料と質問集を渡して比較します。評価軸は、業務適合性、データ取り込み、検索精度、権限・セキュリティ、既存連携、操作性、拡張性、導入体制、保守、データ可搬性、5年TCOに分けます。価格だけでなく、どの範囲を標準機能で対応し、どこから追加開発になるかを確認します。

デモでは、簡単な質問だけでなく、表記揺れ、型番、旧版と新版の規程、答えが存在しない質問、権限外の質問、悪意ある指示を含む文書を試します。候補会社に「自社データでの評価結果を出せるか」「文書削除は何分以内に反映するか」「LLMや検索基盤を変更できるか」「契約終了時にデータと設定を返却できるか」を質問し、口頭回答は提案書や契約書へ反映します。

追加費用が発生しやすいのは、想定外の文書形式、OCR品質の改善、表や画像の解析、権限連携、SSO、既存システムAPI、データ移行、評価質問の追加、レッドチーミング、再テスト、利用量の増加です。見積書に「データ連携一式」「精度改善一式」とだけ書かれている場合は、対象データ、件数、回数、完了条件、除外条件を確認します。

個人情報や営業秘密を扱う場合は、利用目的、第三者提供・再委託、保存場所、モデル学習への利用有無、ログの保管期間、削除方法、インシデント時の連絡を確認します。経済産業省・総務省のAI事業者ガイドライン第1.2版は、RAGで検索・参照するデータの最新性と信頼性に留意するよう示しています（出典: 経済産業省「AI事業者ガイドライン第1.2版」、2026年）。データ更新の責任者と、誤回答が業務へ影響した場合のエスカレーションも契約前に決めます。

RAGシステムの進め方でよくある質問

RAGの導入では、技術方式だけでなく、データの扱い方、評価方法、費用の分け方、稼働後の運用が疑問になりやすいです。ここでは、発注前に特に質問されるポイントへ直接回答します。

小規模PoCは2〜6週間、費用は50万〜300万円程度が企画段階の目安です。1業務・限定した文書・簡易UI・評価質問を対象にし、回答精度、根拠表示、回答拒否、回答時間、権限の基本動作を確認します。データ整備や複数システム連携まで含める場合は、300万〜800万円程度になることがあるため、PoCの範囲を見積書で分けて確認します。

実際の質問を評価セットにし、期待する根拠文書と回答を用意して、回答の正しさ、根拠の妥当性、引用の漏れ、回答拒否の適切さ、回答時間を測ります。正答率だけでなく、権限外文書を出さないこと、古い版を引用しないこと、答えがない場合に断定しないことを合格条件へ入れます。業務ごとに許容リスクが違うため、最終的には現場責任者が受入判定を行います。

安全性はRAGという名称だけでは決まらず、保存場所、契約、認証、アクセス権、暗号化、ログ、モデルの学習利用、入力・出力の制御で判断します。権限外の検索結果をLLMへ渡さないACL、SSO、多要素認証、監査ログ、プロンプトインジェクション対策、回答拒否、人手承認を要件に含めます。個人情報保護委員会の注意喚起や自社の業界規制も確認し、機密区分ごとにクラウド、閉域、オンプレミスの選択肢を比較します。

PoCは、限定したデータと利用者で技術的・業務的な効果を検証する費用です。本番では、SSO、文書単位の権限、監査ログ、障害対応、バックアップ、更新・削除、性能、教育、SLA、運用改善、データ返却などが必要になります。PoCの成果を本番へ引き継ぐ条件と、作り直しになる範囲をあらかじめ提案書へ記載してもらうと、安いPoCの後に大きな追加請求が発生するリスクを抑えられます。

まとめ

RAGシステムの進め方は、要件整理、選定、設計・開発、テスト、稼働、定着の6フェーズで整理すると、技術選定と業務判断を分けて管理できます。最初から全社の文書を取り込むのではなく、正解データと評価質問を用意しやすい1業務からPoCを始め、根拠表示、回答拒否、権限連動、更新反映、回答時間を検証することが重要です。

費用は、小規模PoCで50万〜300万円程度、標準的な本番導入で300万〜1,500万円程度、複数部門や厳格な連携を含むと1,500万〜3,000万円以上というレンジが目安です。これはデータ量や機密度、連携数で変わるため、初期費用だけでなく、クラウド従量課金、月額保守、文書更新、精度改善、5年間の総保有コストまで確認します。

RAGシステムを発注する際は、チャットの見栄えやモデル名だけで決めず、自社データでの評価、権限外情報の遮断、プロンプトインジェクションへの耐性、文書の最新性、保守体制、データと仕様書の引き渡し条件を比較します。PoCの合格条件と本番移行条件を明確にし、現場のデータ管理者と業務責任者を決めておけば、導入後も回答品質を継続的に改善できます。

▼全体ガイドの記事
・RAGシステム開発の完全ガイド

会社紹介

株式会社riplaでは、お客様の事業・ユーザー・業務に最適化したオーダーメイド型システムを、構想策定・要件定義から開発・改善まで一気通貫で支援。事業会社でIT・DXを経験したプロフェッショナルによる高い要件定義力・システム設計力を活かし、事業成果の最大化に伴走します。

また、当社独自の開発テンプレート「Boxシリーズ」による標準機能の高速開発と、AI駆動開発の独自フレームワーク「GoDD」による独自機能のAI実装を組み合わせることで、低コスト・短期間で開発を実現いたします。

もし、システム開発やプロダクト開発に関するご要望がございましたら、お気軽にお問い合わせください。

株式会社riplaの会社HPはこちら

・サービス概要資料のURLはこちら >>>
・お問合せページのURLはこちら >>>
・お役立ち資料のURLはこちら >>>

執筆者プロフィール

張田谷凌央

株式会社ripla 代表取締役CEOとして、システムパッケージ活用、システム開発、データ分析、生成AI活用、SaaS開発、アプリ開発、EC構築など、幅広い領域で企業のDX推進と事業成長を支援している。事業会社でIT・DXを経験したプロフェッショナルが集う株式会社riplaにおいて、お客様の事業・ユーザー・業務に最適化したオーダーメイド型システムを構想策定・要件定義から開発・改善まで一気通貫で支援し、単なるシステム納品にとどまらず、クライアントと同じ目線で事業成果の最大化に向けた伴走支援を行う。早稲田大学卒業後、ラクスル株式会社、LINEヤフー株式会社にて事業開発やDX推進などに従事した後、株式会社riplaを創業。