Základy načítání rozšířené generace (RAG)
Tato část představuje klíčové komponenty a principy vývoje aplikací RAG nad nestrukturovanými daty.
Zejména jde o toto:
- Datový kanál: Transformace nestrukturovaných dokumentů, jako jsou kolekce souborů PDF, do formátu vhodného pro načtení pomocí datového kanálu aplikace RAG.
-
Načítání, rozšiřování a generování (řetězec RAG): Volá se řada (nebo řetěz) kroků:
- Porozumíte otázce uživatele.
- Načtěte podpůrná data.
- Zavolejte LLM, aby generate odpověď na základě otázky uživatele a podpůrných dat.
- Vyhodnocení: Posouzení aplikace RAG za účelem určení kvality, nákladů a latence, aby se zajistilo, že splňuje vaše obchodní požadavky.
- Zásady správného řízení a LLMOps: Sledování a správa životního cyklu jednotlivých komponent, včetně rodokmenu dat a zásad správného řízení (řízení přístupu).