擷取增強世代 (RAG) 基本概念
本節介紹透過非結構化數據開發 RAG 應用程式背後的主要元件和原則。
特別是:
- 數據管線:將非結構化檔,例如 PDF 集合轉換成適合使用 RAG 應用程式資料管線擷取的格式。
- 擷取、擴增和產生(RAG 鏈結):呼叫一系列(或鏈結)的步驟:
- 瞭解用戶的問題。
- 擷取支持的數據。
- 呼叫 LLM 以根據使用者的問題和支援數據產生回應。
- 評估:評估RAG應用程式以判斷其品質、成本和延遲,以確保其符合您的業務需求。
- 治理和 LLMOps:追蹤和管理每個元件的生命週期,包括數據譜系和治理(訪問控制)。