# 生成AIのRAGとは？仕組み・メリット・活用例を解説

- URL: https://www.waltsu.co.jp/magazine/ai/ai-rag/
- カテゴリ: AI活用 > 生成AIの基本
- 執筆: 藤井 俊輔（代表取締役）
- 公開日: 2026-09-03 / 最終更新日: 2026-10-29
- 発行: waltsu株式会社（waltsu MAGAZINE）

## こんな人におすすめ

- RAGの意味を知りたい
- 社内データをAIに使わせたい
- AIの誤回答を減らしたい

生成AIを業務に取り入れる企業が増える一方、「当社の出張規程を教えて」と聞いても正しい答えは返ってきません。AIは自社の規程を学習しておらず、一般的な内容を推測して答えるためです。この問題を解決する仕組みが「RAG（検索拡張生成）」です。 RAGとは、生成AIが回答を作る前に外部のデータから関連情報を検索し、その情報を根拠として回答を生成する仕組みを指します。ただし、RAGはAIに社内情報を学習させる技術ではありません。RAGの役割は、質問を受けるたびに必要な資料を探し、「AIに正しい資料を渡すこと」。覚えさせるのではなく、その都度調べさせる仕組みだと理解すると、導入の判断を誤りません。本記事では、RAGの意味と仕組み、ベクトル検索、生成AI単体やファインチューニングとの違い、メリット・課題、活用例、導入の進め方まで解説します。

**この記事のゴール（読了目安 約10分）**：RAGを「必要な情報を検索してLLMに渡す仕組み」として理解し、自社にRAGが必要かどうか、導入するなら何から手をつけるべきかを判断できるようになる。

## この記事の結論

- RAGは「AIに学習させる技術」ではなく、質問ごとに資料を検索して渡す仕組み
- 生成AI単体の弱点（社内情報を知らない・最新情報に弱い・誤回答）を補う
- 回答品質はデータ×検索×生成の掛け算。LLMを変えても検索が悪ければ改善しない
- 作る前に想定質問と正解のセットを用意すると、改善の試行を回せるようになる

## RAGとは

RAG（検索拡張生成）は、質問を受けると資料を検索してAIに渡し、その資料をもとに回答させる構成です。回答を作るのはLLMで、RAGはどの情報を渡すかを担います。

### 検索拡張生成の意味

RAGは「Retrieval-Augmented Generation」の略で、検索拡張生成と訳されます。検索によって生成を補強する構成で、2020年の論文において、学習済み言語モデルによる生成と、外部データベース（当時はWikipedia）からの検索を組み合わせる枠組みとして提唱されました（[Lewis ほか「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」（arXiv:2005.11401）](https://arxiv.org/abs/2005.11401)）。流れは、質問を受ける→資料を検索する→資料をAIに渡す→資料をもとに回答する、の4段階。人が「資料を見ないと答えられません」と言って調べてから答えるのと同じ動きです。

### 生成AIとの関係

RAGは生成AIを置き換えるものではなく、生成AIと組み合わせて使います。回答を作るのは従来どおりLLM（大規模言語モデル）で、RAGが担うのは**「どの情報をLLMに渡すか」**です。この役割分担が理解の出発点になります。

![RAGとは](https://www.waltsu.co.jp/wp-content/uploads/2026/09/ai-ddd-skills-1.png)

## なぜRAGが必要か

生成AI単体には、業務利用のうえで3つの弱点があります。

- **社内情報を知らない**: 自社の規程・マニュアル・顧客情報・過去案件には答えられない
- **最新情報に弱い**: 学習データには時点があり、それ以降の制度変更や新商品は反映されない
- **誤回答が起こる**: 知らないことでも、もっともらしい文章として出力してしまう（ハルシネーション）

とくに厄介なのが3点目です。自然な文章で誤った内容が返るため、確認しないと見逃します。RAGはこの3つに対し、**「答える前に正しい資料を渡しておく」**形で対処します。

## RAGの仕組み

RAGの処理の流れは、次の5つのステップです。

![RAGの5つのステップ](https://www.waltsu.co.jp/wp-content/uploads/2026/09/ai-ddd-skills-2-e1788399070635.png)

- **データを登録する**: 社内文書を分割（チャンク化）して保存する
- **質問を受け取る**: 質問をデータと同じ形式へ変換する
- **関連情報を検索する**: 登録済みデータから、関連度の高い箇所を上位数件取り出す
- **情報をLLMへ渡す**: 「以下の資料をもとに回答してください」という指示とともに渡す
- **回答を生成する**: LLMが資料を読んで回答を作る。参照箇所の併記もできる

「出張の宿泊費の上限は」という質問なら、規程を検索し、該当ページをAIへ渡して回答させる流れです。**モデルは一切変わらず、渡す資料だけが変わります。**

## ベクトル検索とは

RAGの検索を支えているのがベクトル検索です。文章の意味を数値の並び（ベクトル）に変換し、意味が近い文章ほど近い位置に配置することで、単語が一致しなくても検索できるようにする技術です。変換したベクトルは専用のデータベースに保存します。

「ホテル代はいくらまで」で「宿泊費の上限」という文書を見つけられるのが、キーワード検索との違いです。一方、型番や固有名詞のように**完全一致してほしい検索は苦手**な場合があり、実務ではキーワード検索と組み合わせる構成もよく使われます。

## 生成AI単体との違い

生成AI単体は学習済みの知識だけで答えるため、そこに含まれない情報についての回答は推測です。RAGは質問のたびに外部の情報を参照するため、参照先を差し替えれば答える内容も変わります。

**RAGを使ってもモデル自体は変わりません**。AIが賢くなるのではなく、渡す資料が変わるだけ。この理解があると、次のファインチューニングとの違いも整理できます。

## ファインチューニングとの違い

「社内データをAIに使わせる」方法として、RAGとよく比較されるのがファインチューニングです。以下の表にまとめます。

| 比較項目 | RAG | ファインチューニング |
|---|---|---|
| 目的 | 知識を参照させる | 受け答えの傾向を調整する |
| 情報の追加方法 | 検索して都度渡す | モデルを追加学習させる |
| 更新のしやすさ | データを差し替えるだけ | 再学習が必要 |
| コスト | 検索環境の構築・運用 | 学習の実施と再学習 |
| 向いている用途 | 頻繁に更新される社内知識 | 文体・形式・専門的な受け答え |
| 社内データ活用 | 参照元を示しやすい | どこから来た回答か分かりにくい |

**RAGは資料を渡す仕組み、ファインチューニングは受け答えの型を教える仕組み**です。組み合わせることもできます。なお近年はモデルが一度に扱える文章量が広がっており、参照したい資料が少量なら、検索の仕組みを作らず毎回渡すだけで足りるケースもあります。文書量と更新頻度から判断してください。

## メリット・課題

メリットは、社内情報を使える、最新情報を使える、誤回答を減らせる、根拠を示しやすい、情報を更新しやすい、の5つです。とくに大きいのは4つ目で、回答から根拠にすぐ飛べることが社内定着の条件になります。

一方、課題もあります。主な課題は以下の表のとおりです。

| 課題 | 内容 |
|---|---|
| 検索精度に左右される | 関係のない資料を取ってくれば、回答も的外れになる |
| 誤回答は残る | AIが誤読したり、情報が不足すれば誤りは起こる |
| データ整備が必要 | 文書が散在し古い版が混在していると精度が出ない |
| 処理が遅くなる | 検索の工程が挟まるため応答に時間がかかる |
| 運用コストがかかる | 検索環境の維持、データ更新、品質確認が必要 |

2つ目は誤解されやすい部分です。**RAGを入れればハルシネーションがなくなるわけではありません。**検索結果が誤っている、必要な資料を取得できていない、文書が古い、といった場合には誤回答が発生します。RAGは誤回答をゼロにする技術ではなく、回答を根拠のある情報へ近づける仕組みです。

## 業務別の活用例

RAGは、参照させたい文書がある業務であれば幅広く使えます。

社内問い合わせでは規程を参照して総務・人事への定型質問に答え、顧客対応ではFAQや問い合わせ履歴から一次対応を行います。営業支援なら提案書や商談記録から類似案件を探し、法務ではひな形や審査基準と契約書を突き合わせる。技術・製造では設計書やトラブル対応記録から不具合事例を探し、議事録や社内wikiの横断検索にも使えます。

共通するのは、**「どこかに答えは書いてあるが、探すのに時間がかかる」業務**である点です。答えがどこにも書かれていない業務に入れても効果は出ません。まず社内向けから始めると、誤回答のフィードバックを集めやすくなります。

## RAG導入の流れ

ツール選定から入らないことが重要です。

- **STEP1 目的を決める**: 解決したい課題を1つに絞る
- **STEP2 データを選ぶ**: 全社の文書ではなく、その業務で実際に参照される文書に絞る
- **STEP3 データを整える**: 古い版の削除、重複の整理、構造の統一。精度を最も左右する
- **STEP4 検索環境を作る**: 文書を分割してベクトル化する。主要クラウドが機能を提供しており、自前で組む範囲は小さい
- **STEP5 LLMとつなぐ**: どんな指示とともに渡すか（プロンプト）で回答の質が変わる
- **STEP6 回答を評価する**: 想定質問と正解をリスト化し、実際の回答と突き合わせる
- **STEP7 継続的に改善する**: 誤回答の原因を切り分け、検索方法や分割を調整する

自社環境でモデルを動かす選択肢は、ローカルLLMの記事で解説しています。

## 精度を高めるポイント

期待した精度が出ないときの打ち手は5つです。

- **データを整理する**: 正本を1つに絞る。新旧が混在するとAIは判断できない
- **文書を分割する**: 細かすぎると文脈が切れ、大きすぎると無関係な情報が混ざる
- **検索精度を高める**: キーワード検索との併用、検索結果の並べ替え（リランキング）
- **参照元を表示する**: 精度より、利用者が誤りに気づける状態を作る
- **回答を評価する**: 変更前後を比較し、感覚でなく数字で判断する

うまくいかない原因は、データが古い、検索結果が悪い、情報量が多すぎて重要な箇所が埋もれる、評価基準がなく改善点を特定できない、作って終わりで運用されない、の5つです。最も多いのが4つ目で、評価の仕組みがないと改善したかどうかも判断できません。この点は後述します。

社内で扱ってよいデータの範囲や権限設計は、生成AIガイドラインの記事で解説しています。

## RAGの進化

RAGは「1回検索して答える」形から、より高度な方式へ広がってきました。Advanced RAGは、質問文を書き換える、検索結果を並べ替えるなど、検索の前後に工夫を加える方式です。

GraphRAGは、文書から要素とその関係性を抽出し、知識グラフとして保持する方式で、Microsoftが公開したことで広く知られるようになりました。データセット全体を見渡すような質問に強い一方、グラフの構築にコストがかかるため、特定の箇所を狙う通常の質問応答なら標準的なRAGで足りる場合も多いとされています（[Microsoft Research「GraphRAG: New tool for complex data discovery now on GitHub」](https://www.microsoft.com/en-us/research/blog/graphrag-new-tool-for-complex-data-discovery-now-on-github/)）。

Agentic RAGは、AI自身が「何を調べるか」を考えて検索する方式です。情報が不足すれば追加で検索し、複数の情報源を比較してから回答します。精度は上がりやすい一方、呼び出し回数が増えるためコストと応答時間は増加します。

## AIエージェントとの関係

RAGとAIエージェントは混同されやすいものの、担う役割は別です。**RAGは「必要な情報を探して渡すこと」、AIエージェントは「目的を理解し、手順を考え、実行すること」**を担います。文章にたとえるなら、RAGが資料調べ、エージェントが仕事の進行です。

実際には組み合わせて使われ、エージェントが業務を進める途中で必要な情報をRAGで取りに行きます。Agentic RAGは、この2つが融合した形です。AIエージェントの基本は、別記事で解説しています。

## 【プロの視点】品質は3層の掛け算

RAGがうまくいかないとき、まず検討されがちなのが「もっと高性能なLLMに変える」という打ち手です。しかし、これで解決することは多くありません。

![品質は3層の掛け算](https://www.waltsu.co.jp/wp-content/uploads/2026/09/ai-ddd-skills-3.png)

RAGの回答は、質問→検索→関連情報→LLM→回答という流れで作られます。この構造では、**検索の段階で間違った資料を取得すれば、どれだけ高性能なLLMでも間違った情報しか読めません**。上流の誤りは下流で回復できないのです。

そのためRAGの品質は、第1層のデータ（正しいか・新しいか・整理されているか）、第2層の検索（必要な情報を取り出せるか）、第3層の生成（取得情報をもとに正しく回答できるか）の掛け算で捉えるのが実務的です。どれか1つがゼロに近ければ、全体もゼロに近づきます。「どのLLMを使うか」より、**「必要な情報を正しく取り出せているか」のほうが結果を左右する場面が多い**と考えてください。

## 【waltsu視点】評価の型を先に作る

RAG導入でよくあるのが「まず作って、使いながら改善する」という進め方です。方針としては妥当ですが、実際にはここで止まります。

![評価の型を先に作る](https://www.waltsu.co.jp/wp-content/uploads/2026/09/ai-ddd-skills-4.png)

理由は、改善しようとした時点で**「良くなったかどうかを判断する基準がない」**ためです。誰かが「精度が低い」と言い、担当者が設定を変え、別の誰かが「前より良くなった気がする」と言う。これでは変更の効果なのか偶然なのかも分からず、数回試したところで手が止まります。

そこで有効なのが、作る前に評価の型を用意することです。社員から出そうな質問を30問ほど書き出し、正しい答えと根拠の文書名を人間が用意し、変更のたびに通して正答数を記録する。これだけで十分です。

waltsuでもコンテンツ制作で社内ナレッジを参照させる際、同じように想定質問と正解のセットを先に作っています。効果は精度管理だけではありません。判断基準があると、分割の仕方や検索方法を**気軽に変えて試せるようになります**。RAGの成否を分けるのは、最初に作ったシステムの完成度ではなく、その後に何回試せたかです。

## まとめ

RAGとは、生成AIが回答する前に外部データから関連情報を検索し、それを根拠として回答を生成する仕組みです。生成AI単体では答えられない社内情報や最新情報に対応でき、参照元を示せるため利用者が根拠を確認できます。

ただし、**RAGはAIを賢くする技術ではなく、AIに正しい資料を渡す仕組み**です。品質はデータ・検索・生成の掛け算で決まるため、高性能なLLMに変えるだけでは改善しません。導入は、対象業務を1つに絞り、参照される文書を整理し、評価の型を先に作ることから始める。「生成AIは導入したが、文章作成や要約から先に進めていない」「社内規程やマニュアルをAIに活用させたい」という場合は、waltsuがRAG・社内AI・AIエージェントを含むAI業務導入の相談からご支援します。

## よくある質問

**Q. RAGとは簡単にいうと？**  
A. 生成AIが回答する前に外部データから関連情報を検索し、それを根拠として回答させる仕組みを指します。覚えさせるのではなく、質問のたびに必要な資料を渡すイメージです。

**Q. RAGと生成AIの違いは？**  
A. 生成AIは学習済みの知識で答えます。RAGはそれに検索の工程を加え、外部の情報を参照させます。モデル自体は変わらず、変わるのはAIに渡す情報です。

**Q. ファインチューニングとの違いは？**  
A. RAGは知識を参照させる仕組み、ファインチューニングは受け答えの傾向を調整する手法です。更新が頻繁な社内知識はRAG、文体や形式を揃えたい場合はファインチューニングが向いています。

**Q. RAGならハルシネーションはなくなる？**  
A. なくなりません。検索結果が誤っている、必要な資料を取得できていない、文書が古い、AIが内容を誤読する、といった場合に誤回答は起こります。減らしやすくなる仕組みであり、ゼロにする技術ではありません。

**Q. どんなデータを使える？**  
A. 社内規程、マニュアル、FAQ、議事録、提案書、契約書などテキストとして扱える文書が対象です。ただし個人情報や機密情報を扱う場合は、アクセス権限の設計を先に決めてください。

## 執筆者

**藤井 俊輔**（代表取締役）ベンチャー企業の外部CMOや水族館のマーケティング担当などに従事。オンライン/オフライン問わず集客を中心としたマーケティング施策に強み。

プロフィール: https://www.waltsu.co.jp/magazine/supervisor/shunsuke-fujii/

この記事は waltsu 公式ブログの記事（https://www.waltsu.co.jp/blog/ai-rag/）をもとに再編集したものです。