Wprowadzenie do bezserwerowego czatu sztucznej inteligencji z narzędziem RAG przy użyciu LangChain.js

Tworzenie aplikacji sztucznej inteligencji może być złożone. W przypadku technologii LangChain.js, usługi Azure Functions i bezserwerowych można uprościć ten proces. Te narzędzia umożliwiają automatyczne zarządzanie infrastrukturą i skalowaniem, co pozwala skupić się na funkcjach czatbotów. Czatbot używa dokumentów przedsiębiorstwa do generowania odpowiedzi sztucznej inteligencji.

Kod zawiera przykładowe dane fikcyjnej firmy. Klienci mogą zadawać pytania dotyczące pomocy technicznej dotyczące produktów firmy. Dane obejmują dokumenty dotyczące warunków świadczenia usług, zasad ochrony prywatności i przewodnika pomocy technicznej firmy.

Zrzut ekranu przedstawiający aplikację czatu w przeglądarce z kilkoma sugestiami dotyczącymi wprowadzania danych wejściowych na czacie i polem tekstowym czatu w celu wprowadzenia pytania.

Uwaga

W tym artykule użyto co najmniej jednego szablonu aplikacji sztucznej inteligencji jako podstawy przykładów i wskazówek w artykule. Szablony aplikacji sztucznej inteligencji zapewniają dobrze utrzymywane, łatwe w wdrażaniu implementacje referencyjne, które pomagają zapewnić wysokiej jakości punkt wyjścia dla aplikacji sztucznej inteligencji.

Omówienie architektury

Aplikacja do czatu

Użytkownik wchodzi w interakcję z aplikacją:

• Interfejs czatu w aplikacji internetowej klienta na potrzeby konwersacji.
• Aplikacja internetowa klienta wysyła zapytanie użytkownika do bezserwerowego interfejsu API za pośrednictwem wywołań HTTP.
• Bezserwerowy interfejs API tworzy łańcuch koordynujący interakcje między usługą Azure AI i usługą Azure AI Search w celu wygenerowania odpowiedzi.
• Pobieranie dokumentu PDF przy użyciu usługi Azure Blob Storage.
• Wygenerowana odpowiedź jest następnie wysyłana z powrotem do aplikacji internetowej i wyświetlana użytkownikowi.

Prosta architektura aplikacji do czatu jest pokazana na poniższym diagramie:

Diagram przedstawiający architekturę z klienta do aplikacji zaplecza.

LangChain.js upraszcza złożoność między usługami

Przepływ interfejsu API jest przydatny do zrozumienia, jak LangChain.js jest pomocny w tym scenariuszu, poprzez abstrakcję interakcji. Punkt końcowy bezserwerowego interfejsu API:

• Odbiera pytanie od użytkownika.
• Tworzy obiekty klienta:
  • Usługa Azure OpenAI do osadzania i czatu
  • Usługa Azure AI Search dla magazynu wektorów
• Tworzy łańcuch dokumentów z modelem LLM, komunikatem czatu (monitami systemu i użytkownika) oraz źródłem dokumentu.
• Tworzy łańcuch pobierania z łańcucha dokumentów i magazynu wektorów.
• Przesyła strumieniowo odpowiedzi z łańcucha pobierania.

Praca dewelopera polega na poprawnym skonfigurowaniu usług zależności, takich jak Azure OpenAI i Azure AI Search, i prawidłowe konstruowanie łańcuchów. Podstawowa logika łańcucha wie, jak rozwiązać zapytanie. Dzięki temu można tworzyć łańcuchy z wielu różnych usług i konfiguracji, o ile działają one z wymaganiami LangChain.js.

Gdzie znajduje się platforma Azure w tej architekturze?

Ta aplikacja jest wykonana z wielu składników:

• Aplikacja internetowa utworzona przy użyciu jednego składnika internetowego czatu utworzonego przy użyciu interfejsu Lit i hostowanego w usłudze Azure Static Web Apps. Kod znajduje się w folderze packages/webapp .

• Bezserwerowy interfejs API utworzony za pomocą usługi Azure Functions i używanie LangChain.js do pozyskiwania dokumentów i generowania odpowiedzi na zapytania czatu użytkownika. Kod znajduje się w folderze packages/webapp .

• Usługa Azure OpenAI do tworzenia osadzonych i generowania odpowiedzi.

• Baza danych do przechowywania tekstu wyodrębnionego z dokumentów i wektorów wygenerowanych przez LangChain.js przy użyciu usługi Azure AI Search.

• Magazyn plików do przechowywania dokumentów źródłowych przy użyciu usługi Azure Blob Storage.

Wymagania wstępne

Środowisko kontenera deweloperskiego jest dostępne ze wszystkimi zależnościami wymaganymi do ukończenia tego artykułu. Kontener deweloperski można uruchomić w usłudze GitHub Codespaces (w przeglądarce) lub lokalnie przy użyciu programu Visual Studio Code.

Aby użyć tego artykułu, potrzebne są następujące wymagania wstępne:

Codespaces (zalecane)

• Subskrypcja platformy Azure — utwórz bezpłatnie
• Uprawnienia konta platformy Azure — Twoje konto platformy Azure musi mieć uprawnienia Microsoft.Authorization/roleAssignments/write, takie jak administrator dostępu użytkowników lub właściciel.
• Konto usługi GitHub.

Visual Studio Code

• Subskrypcja platformy Azure — utwórz bezpłatnie
• Uprawnienia konta platformy Azure — Twoje konto platformy Azure musi mieć uprawnienia Microsoft.Authorization/roleAssignments/write, takie jak administrator dostępu użytkowników lub właściciel.
• Interfejs wiersza polecenia dla deweloperów platformy Azure
• Docker Desktop — uruchom program Docker Desktop , jeśli jeszcze nie jest uruchomiony
• Visual Studio Code
• Rozszerzenie kontenera deweloperskiego

Otwieranie środowiska projektowego

Skorzystaj z poniższych instrukcji, aby wdrożyć wstępnie skonfigurowane środowisko programistyczne zawierające wszystkie wymagane zależności, aby ukończyć ten artykuł.

GitHub Codespaces (zalecane)

Usługa GitHub Codespaces uruchamia kontener deweloperski zarządzany przez usługę GitHub za pomocą programu Visual Studio Code dla sieci Web jako interfejsu użytkownika. W przypadku najprostszego środowiska programistycznego użyj usługi GitHub Codespaces, aby wstępnie zainstalować odpowiednie narzędzia deweloperskie i zależności, aby ukończyć ten artykuł.

Ważne

Wszystkie konta usługi GitHub mogą korzystać z usługi Codespaces przez maksymalnie 60 godzin bezpłatnych każdego miesiąca z 2 podstawowymi wystąpieniami. Aby uzyskać więcej informacji, zobacz GitHub Codespaces monthly included storage and core hours (Miesięczne miejsca do magazynowania i godzin rdzeni usługi GitHub Codespaces).

1. Otwórz plik w przestrzeni kodu.

   Otwieranie w usłudze GitHub Codespaces

2. Poczekaj na uruchomienie przestrzeni kodu. Ten proces uruchamiania może potrwać kilka minut.

3. W terminalu w dolnej części ekranu zaloguj się do platformy Azure przy użyciu interfejsu wiersza polecenia dla deweloperów platformy Azure.

   azd auth login
   

   Ukończ proces uwierzytelniania.

4. Pozostałe zadania w tym artykule mają miejsce w kontekście tego kontenera deweloperskiego.

Rozszerzenie Dev Containers dla programu Visual Studio Code wymaga zainstalowania platformy Docker na komputerze lokalnym. Rozszerzenie hostuje kontener deweloperów lokalnie przy użyciu hosta platformy Docker z odpowiednimi narzędziami deweloperskich i wstępnie zainstalowanymi zależnościami, aby ukończyć ten artykuł.

1. Utwórz nowy katalog lokalny na komputerze dla projektu.

   mkdir my-intelligent-app && cd my-intelligent-app
   

2. Otwórz program Visual Studio Code w tym katalogu:

   code .
   

3. Otwórz nowy terminal w programie Visual Studio Code.

4. Uruchom następujące polecenie AZD, aby przenieść repozytorium GitHub na komputer lokalny.

   azd init -t serverless-chat-langchainjs
   

5. Otwórz paletę poleceń, wyszukaj i wybierz pozycję Dev Containers: Otwórz folder w kontenerze , aby otworzyć projekt w kontenerze deweloperskim. Przed kontynuowaniem poczekaj na otwarcie kontenera deweloperskiego.

6. Zaloguj się na platformie Azure przy użyciu interfejsu wiersza polecenia dla deweloperów platformy Azure.

   azd auth login
   

   Skopiuj kod z terminalu, a następnie wklej go w przeglądarce. Postępuj zgodnie z instrukcjami, aby uwierzytelnić się przy użyciu konta platformy Azure.

7. Pozostałe ćwiczenia w tym projekcie mają miejsce w kontekście tego kontenera deweloperskiego.

Wdrażanie i uruchamianie

Przykładowe repozytorium zawiera wszystkie pliki kodu i konfiguracji potrzebne do wdrożenia bezserwerowej aplikacji czatu na platformie Azure. W poniższych krokach przedstawiono proces wdrażania przykładu na platformie Azure.

Wdrażanie aplikacji czatu na platformie Azure

Ważne

Zasoby platformy Azure utworzone w tej sekcji powodują natychmiastowe koszty, głównie z zasobu usługi Azure AI Search. Te zasoby mogą naliczać koszty nawet w przypadku przerwania działania polecenia przed jego pełnym wykonaniem.

1. Aprowizuj zasoby platformy Azure i wdróż kod źródłowy przy użyciu następującego polecenia interfejsu wiersza polecenia dla deweloperów platformy Azure:

   azd up
   

2. Odpowiedz na monity, korzystając z poniższej tabeli:

   Monit	Odpowiedź
   Nazwa środowiska	Zachowaj krótkie i małe litery. Dodaj swoją nazwę lub alias. Na przykład john-chat. Jest ona używana jako część nazwy grupy zasobów.
   Subskrypcja	Wybierz subskrypcję do tworzenia zasobów.
   Lokalizacja (na potrzeby hostingu)	Wybierz lokalizację w pobliżu z listy.
   Lokalizacja modelu OpenAI	Wybierz lokalizację w pobliżu z listy. Jeśli ta sama lokalizacja jest dostępna jako pierwsza lokalizacja, wybierz tę lokalizację.

3. Poczekaj na wdrożenie aplikacji. Ukończenie wdrożenia może potrwać od 5 do 10 minut.

4. Po pomyślnym wdrożeniu aplikacji w terminalu zostaną wyświetlone dwa adresy URL.

5. Wybierz ten adres URL oznaczony Deploying service webapp etykietą, aby otworzyć aplikację czatu w przeglądarce.

Uzyskiwanie odpowiedzi z plików PDF przy użyciu aplikacji do czatu

Aplikacja do czatu jest wstępnie ładowana z informacjami o wypożyczeniu z katalogu plików PDF. Możesz użyć aplikacji do czatu, aby zadawać pytania dotyczące procesu wypożyczania. Poniższe kroki przeprowadzą Cię przez proces korzystania z aplikacji do czatu.

1. W przeglądarce wybierz lub wprowadź zasady zwrotu kosztów.

   Zrzut ekranu przedstawiający pierwsze pytanie i odpowiedź aplikacji do czatu.

2. Wybierz pytanie z kontynuacją.

   Zrzut ekranu przedstawiający sugerowany monit i odpowiedź aplikacji do czatu.

3. W odpowiedzi wybierz cytat, aby wyświetlić dokument użyty do wygenerowania odpowiedzi. Spowoduje to dostarczanie dokumentu z usługi Azure Storage do klienta. Po zakończeniu pracy z nową kartą przeglądarki zamknij ją, aby powrócić do bezserwerowej aplikacji do czatu.

   Zrzut ekranu przedstawiający oryginalny dokument zawierający cytat.

Czyszczenie zasobów

Czyszczenie zasobów platformy Azure

Zasoby platformy Azure utworzone w tym artykule są rozliczane z subskrypcją platformy Azure. Jeśli nie spodziewasz się, że te zasoby będą potrzebne w przyszłości, usuń je, aby uniknąć naliczania dodatkowych opłat.

Usuń zasoby platformy Azure i usuń kod źródłowy za pomocą następującego polecenia interfejsu wiersza polecenia dla deweloperów platformy Azure:

azd down --purge

Czyszczenie usługi GitHub Codespaces

GitHub Codespaces

Usunięcie środowiska Usługi GitHub Codespaces gwarantuje, że możesz zmaksymalizować ilość bezpłatnych godzin na godziny korzystania z konta.

Ważne

Aby uzyskać więcej informacji na temat uprawnień konta usługi GitHub, zobacz Artykuł GitHub Codespaces monthly included storage and core hours (Miesięczne miejsca do magazynowania i godzin rdzeni w usłudze GitHub).

1. Zaloguj się do pulpitu nawigacyjnego usługi GitHub Codespaces (https://github.com/codespaces).

2. Znajdź aktualnie uruchomione środowisko Codespaces pochodzące z Azure-Samples/serverless-chat-langchainjs repozytorium GitHub.

   Zrzut ekranu przedstawiający wszystkie uruchomione obszary Codespace, w tym ich stan i szablony.

3. Otwórz menu kontekstowe , ...w obszarze codespace, a następnie wybierz pozycję Usuń.

Nie musisz czyścić środowiska lokalnego, ale możesz zatrzymać uruchomiony kontener deweloperów i wrócić do uruchamiania programu Visual Studio Code w kontekście lokalnego obszaru roboczego.

1. Otwórz paletę poleceń, wyszukaj polecenia Dev Containers, a następnie wybierz pozycję Dev Containers: Otwórz ponownie folder lokalnie.

   Zrzut ekranu przedstawiający opcję Paleta poleceń, aby ponownie otworzyć bieżący folder w środowisku lokalnym.

Napiwek

Program Visual Studio Code zatrzyma uruchomiony kontener deweloperów, ale kontener nadal istnieje na platformie Docker w stanie zatrzymanym. Zawsze możesz usunąć wystąpienie kontenera, obraz kontenera i woluminy z platformy Docker, aby zwolnić więcej miejsca na komputerze lokalnym.

Uzyskaj pomoc

To przykładowe repozytorium oferuje informacje dotyczące rozwiązywania problemów.

Jeśli problem nie został rozwiązany, zarejestruj problem w repozytorium Problemy.

Powiązana zawartość

• Wprowadzenie do oceniania odpowiedzi w aplikacji czatu w języku JavaScript