RAG 與 向量資料庫

• 什麼是 RAG？
  • RAG 流程簡介：
• 為什麼不能只靠 LLM？
• 向量資料庫是什麼？
  • 向量查詢範例：
• Pinecone
  • Pinecone 使用方式簡介
• 參考

整合 RAG 與 Pinecone 的運作流程

什麼是 RAG？

** RAG（Retrieval-Augmented Generation) **是一種結合「檢索」與「生成」的 AI 架構。它能讓大型語言模型（如 Gemini / GPT）在生成回答時，參考外部知識來源，提高準確性並減少幻覺。

RAG 流程簡介：

• 使用者輸入問題
• 系統先「檢索」相關資料（如本地文章段落）
• 將檢索結果傳給語言模型進行「生成回答」

為什麼不能只靠 LLM？

雖然大型語言模型擁有龐大的知識，但：

• 它的知識是訓練時「凍結」的（無法即時更新）
• 不適合回答即時性、公司內部、領域知識等問題
• 容易「胡說八道」出看似正確但實際錯誤的回答

** 解法：加上「檢索」機制，模型就能根據最新的知識來回答！ **

向量資料庫是什麼？

一般資料庫（如 MariaDB）無法根據「語意」查詢資料。但我們可以把每一段文字轉成一個「向量」（Vector），代表其語意內容，再用向量比對來做檢索！

向量查詢範例：

假設你輸入問題：「為什麼 PTT 八卦版總是那麼熱門？」 系統會：

1. 把這個問題轉成語意向量
2. 在所有文章段落中找到語意最相近的段落
3. 把找到的段落餵給 LLM，生成一段精準的回答！Pinecone：專業的向量資料庫

Pinecone

是一個向量數據庫，專門設計來處理高維度向量資料，主要應用於相似度搜尋，例如在人工智慧和機器學習中的推薦系統、聊天機器人、圖像搜尋等場景。

Pinecone 使用方式簡介

1. 註冊 Pinecone 帳號，取得 API Key
2. 建立 Index（向量索引空間）
3. 傳送向量資料
4. 搭配 LangChain 或自行寫檢索邏輯與 LLM 整合

參考

1. Pinecone 申請與設定

2. 【Day 16】認識 RAG 與 向量資料庫 - 整合 RAG 與 Pinecone 的運作流程