Voorbeeld van functie-engineering: gestructureerde RAG-toepassing
Het ophalen van augmented generation of RAG is een van de meest voorkomende benaderingen voor het bouwen van generatieve AI-toepassingen. Functie-engineering in Unity Catalog ondersteunt gestructureerde RAG-toepassingen met behulp van onlinetabellen. U maakt een onlinetabel voor de gestructureerde gegevens die de RAG-toepassing nodig heeft en host deze op een functie die het eindpunt dient. De RAG-toepassing gebruikt het functie-eindpunt om relevante gegevens uit de onlinetabel op te zoeken.
De gebruikelijke stappen zijn als volgt:
- Maak een functie die het eindpunt bedient.
- Maak een LangChainTool die gebruikmaakt van het eindpunt om relevante gegevens op te zoeken.
- Gebruik het hulpprogramma in de LangChain-agent om relevante gegevens op te halen.
- Maak een service-eindpunt voor een model om de LangChain-toepassing te hosten.
In het volgende notebook wordt geïllustreerd hoe u Databricks-onlinetabellen en feature serving-eindpunten kunt gebruiken voor retrieval augmented generation (RAG)-toepassingen.