RAG は、生成AIが答える前に、社内の資料などから質問に関係する部分を探し、見つかった内容を質問と一緒に渡して答えさせる仕組みです。正式な名前は Retrieval-Augmented Generation で、日本語では「検索拡張生成」と訳されています。
社内の規程やマニュアルを読んで答える AI を入れたいときに、候補になる仕組みです。ただし、RAG を入れても AI が間違えなくなるわけではありません。答えの質は、渡す資料の中身と、資料の探し方で変わります。頼む前に社内で決めておくのは、使う資料、間違えたときの扱い、資料を新しくする担当の3つです。
RAGは何をする仕組みか
生成AIは、作られた時点までに学んだ情報をもとに答えます。社内の規程や、先月変わった手続きは、学んだ情報に入っていません。そのまま聞くと、社内の事情を踏まえない答えが返ることがあります。RAG は、答えの材料をその場で渡すことで、社内の事情を知らないという弱点を補います。
材料を探すときには索引を使います。索引は、どの資料のどこに何が書いてあるかを、素早く引けるようにしたものです。2026年11月時点の Microsoft の説明では、RAG の動きは次の3つの段階に分かれます。
- 探す索引などから、質問に関係する部分を探す
- 渡す質問と、見つかった部分をまとめて生成AIに渡す
- 答える生成AIが、渡された部分を材料にして答えを書く
RAG は、2020年に Facebook AI Research などの研究者が発表した論文で使われた名前です。論文の RAG は、生成AIの本体（モデル）と、ウィキペディアの記事を探せるようにした索引を組み合わせたものです。論文は、答えの根拠を示すことと、モデルが持つ知識を新しくすることを、当時まだ解けていない課題として挙げていました。2020年の論文では、質問を読み取って資料を探す部分と文章を作る部分も一緒に追加で学習させていました（資料の索引は固定）。2026年11月時点で AWS などが説明している使い方は、モデルを学習し直さない形です。
AIに学習させる方法と、どう違うのか
2026年11月時点の AWS の説明では、RAG は資料を参照させる方法で、モデルを学習し直さなくても、社内の情報をもとに答えさせられます。
社内のデータを使う方法には、ほかに、モデルに追加で学習させるファインチューニングがあります。Microsoft Foundry の説明では、RAG とファインチューニングを次のように使い分けます。
| 方法 | 使う場面 |
|---|---|
| RAG | 社内の資料や、よく変わる情報に基づいて答えさせたいとき |
| ファインチューニング | 新しい知識を足すのではなく、答え方の調子や、特定の作業のこなし方を変えたいとき |
デジタル庁が2026年1月に各府省庁の生成AIの使い方をまとめた資料も、業務データを「参照させる」使い方（RAG 等）と、「学習させる」使い方（ファインチューニング等）を別の種類に分けています。
RAGでできること
答えに、参照した資料の名前や場所を添えられます。デジタル庁が紹介している行政実務用 RAG のアプリの1つでは、AI が参照したファイル名とページ番号が回答に表示されます。読んだ人は、元の資料を開いて答えを確かめられます。
規程が変わったときに更新するのは、モデルではなく資料と索引です。資料と索引を新しくすれば、新しい資料をもとに答えるようになります。元の論文も、索引を差し替えるだけで、学習し直さずに知識を入れ替えられることを示しています。
見てよい人にだけ答える作りにもできます。AWS の説明では、機密の資料を取り出せる範囲を、権限の段階ごとに分けられます。Microsoft は、経理のデータを取り出せるのは経理の担当者だけにし、役員がチャットで聞いても出さない、という例を挙げています。
RAGでもできないこと
間違いはなくなりません。探した内容を渡しても不正確な答えが出ることを、Microsoft はよくある課題として挙げています。デジタル庁が紹介している行政実務用 RAG のアプリの1つも、注意点として、回答には誤りや抜けが含まれる場合があると書いています。
関係のない部分や足りない部分しか見つからないと、答えが不完全になったり、不正確になったりすることがあります。Microsoft の説明では、質問に使われた言葉と資料に書かれた言葉が違うと、言葉の一致だけで探す方式では見つからないことがあります。
参照する資料そのものに誤りがあれば、答えにも誤りが入りえます。元の論文は、ウィキペディアのような外部の資料が、完全に正しく偏りもないものになることはおそらくない、とも書いています。
頼む前に社内で決めておく3つ
仕組みや製品を選ぶ前に、社内で次の3つを決めておくと、相談の中身が具体的になります。
1. どの業務で、どの資料を使うか
対象の業務を1つに絞り、その業務で答えの根拠にする資料を決めます。資料の準備が不十分だと答えの質が直接下がる、と Microsoft は書いています。古い版や下書きが混ざっていないかも、このときに見ておきます。誰が見てよい資料かも分けておきます。見られる範囲を管理しないまま資料を入れると、答えから機密が漏れることがあると Microsoft は注意しています。紙をスキャンした画像や、スキャンして作った PDF が多いときは、文字を読み取る処理（OCR）が要るので、資料の形式もこの段階で確かめておきます。
2. 間違えたときにどう扱うか
答えをそのまま使ってよい場面と、出典を開いて確かめてから使う場面を分けます。デジタル庁が事例として詳しく紹介している2つのアプリは、注意点の中で、それぞれ次のことを求めています。1つは、特に日付・文書番号・数値を引用元の資料で確かめること。もう1つは、判断に使うときに根拠の規程を原文で確かめることです。自社でも、出典を開いて確かめる項目を決めておきます。誤った答えに気づいた人が誰に知らせ、誰が資料や設定を直すのかも決めておきます。
3. 資料の更新を誰がどう回すか
規程やマニュアルが変わっても、索引を更新しなければ、AI は古い内容で答え続けます。AWS の説明では、文書を直したら、索引も更新します。更新は、変更のたびに自動で行うことも、決まった間隔でまとめて行うこともできます。どの資料がどのくらいの頻度で変わるのか、更新を誰が受け持つのかを決めておきます。
3つが決まったら、小さく試して確かめる段階に進めます。試す前に決めておくことはPoCとはの記事で、使い始めたあとに何を見るかは生成AIの運用監視の記事で扱っています。仕組みを作る段階で外に頼む場合は、Nue のAI受託開発でも業務システムやアプリの設計と開発を受けています。
よくある質問
RAGを使うと、AIは社内の資料を学習するのですか
2026年11月時点で AWS などクラウド事業者が説明している使い方では、モデルは学習し直しません。質問のたびに、探した部分を渡して参照させます。入力したデータを事業者がどう扱うかは、使うサービスの契約や規約で確かめます。総務省と経済産業省の AI事業者ガイドライン（第1.2版）の別添（2026年3月31日）も、RAG で参照する社内の情報を「推論用データ」（AI が答えを作るときに使うデータ）として、学習に使うデータとは分けて整理しています。
RAGを使うと、費用は増えますか
増えることがあります。2026年11月時点の Microsoft の説明では、質問のたびに索引を引く処理で費用と待ち時間が増えます。探した文章を渡すぶん、生成AIへの入力も長くなり、その費用がかさむこともあります。費用の分け方はAI導入の4段階と費用の記事にまとめています。
中小企業にも関係がありますか
関係があります。中小企業庁が2026年10月21日に出した資料は、日本成長戦略会議の資料から、AI 活用を5つの段階に分けた表を載せています。1つ目の「生成AI導入」は「生成AIの社員利用、社内ルール策定」と説明されています。2つ目の「データ連携統合」は社内のデータを AI につなぐ段階で、その説明に「RAG等」が名前で挙がっています。資料は、この2つを「ここを起点に広げる」としています。