Szablony aplikacji sztucznej inteligencji

W tej sekcji dokumentacji przedstawiono szablony aplikacji sztucznej inteligencji i powiązane artykuły, które korzystają z tych szablonów, aby zademonstrować sposób wykonywania kluczowych zadań deweloperskich. Szablony aplikacji sztucznej inteligencji zapewniają dobrze utrzymywane, łatwe w wdrażaniu implementacje referencyjne, które pomagają zapewnić wysokiej jakości punkt wyjścia dla aplikacji sztucznej inteligencji.

Istnieją dwie kategorie szablonów aplikacji sztucznej inteligencji, bloki konstrukcyjne i kompleksowe rozwiązania. W poniższych sekcjach przedstawiono niektóre szablony kluczy w każdej kategorii dla języka programowania wybranego w górnej części tego artykułu. Aby przejrzeć bardziej kompleksową listę zawierającą te i inne szablony, zobacz szablony aplikacji sztucznej inteligencji w galerii szablonów aplikacji sztucznej inteligencji.

Bloki konstrukcyjne

Bloki konstrukcyjne to próbki o mniejszej skali, które koncentrują się na konkretnych scenariuszach i zadaniach. Większość bloków konstrukcyjnych demonstruje funkcje, które korzystają z kompleksowego rozwiązania dla aplikacji do czatu korzystającej z własnych danych.

Blok konstrukcyjny	opis
Równoważenie obciążenia za pomocą usługi Azure Container Apps	Dowiedz się, jak dodać równoważenie obciążenia do aplikacji, aby rozszerzyć aplikację czatu poza limity przydziału tokenu usługi Azure OpenAI i modelu. To podejście używa usługi Azure Container Apps do tworzenia trzech punktów końcowych usługi Azure OpenAI, a także podstawowego kontenera do kierowania ruchu przychodzącego do jednego z trzech punktów końcowych.

Blok konstrukcyjny	opis
Konfigurowanie zabezpieczeń dokumentów dla aplikacji do czatu	Podczas tworzenia aplikacji czatu przy użyciu wzorca RAG z własnymi danymi upewnij się, że każdy użytkownik otrzyma odpowiedź na podstawie swoich uprawnień. Autoryzowany użytkownik powinien mieć dostęp do odpowiedzi zawartych w dokumentach aplikacji do czatu. Nieautoryzowany użytkownik nie powinien mieć dostępu do odpowiedzi z zabezpieczonych dokumentów, które nie mają autoryzacji do wyświetlenia.
Ocena odpowiedzi aplikacji do czatu	Dowiedz się, jak ocenić odpowiedzi aplikacji czatu na zestaw poprawnych lub idealnych odpowiedzi (znanych jako prawda podstawy). Za każdym razem, gdy zmienisz aplikację czatu w sposób, który ma wpływ na odpowiedzi, uruchom ocenę, aby porównać zmiany. Ta aplikacja demonstracyjna oferuje narzędzia, których można używać dzisiaj, aby ułatwić uruchamianie ocen.
Równoważenie obciążenia za pomocą usługi Azure Container Apps	Dowiedz się, jak dodać równoważenie obciążenia do aplikacji, aby rozszerzyć aplikację czatu poza limity przydziału tokenu usługi Azure OpenAI i modelu. To podejście używa usługi Azure Container Apps do tworzenia trzech punktów końcowych usługi Azure OpenAI, a także podstawowego kontenera do kierowania ruchu przychodzącego do jednego z trzech punktów końcowych.
Równoważenie obciążenia za pomocą usługi API Management	Dowiedz się, jak dodać równoważenie obciążenia do aplikacji, aby rozszerzyć aplikację czatu poza limity przydziału tokenu usługi Azure OpenAI i modelu. To podejście używa usługi Azure API Management do tworzenia trzech punktów końcowych usługi Azure OpenAI, a także kontenera podstawowego do kierowania ruchu przychodzącego do jednego z trzech punktów końcowych.
Testowanie obciążenia aplikacji czatu w języku Python za pomocą locust	Dowiedz się, jak przeprowadzić testowanie obciążenia w aplikacji czatu w języku Python przy użyciu wzorca RAG z Locust, popularnym narzędziem do testowania obciążenia typu open source. Głównym celem testowania obciążenia jest upewnienie się, że oczekiwane obciążenie aplikacji czatu nie przekracza bieżącego limitu przydziału transakcji usługi Azure OpenAI na minutę (TPM). Symulując zachowanie użytkownika pod dużym obciążeniem, można zidentyfikować potencjalne wąskie gardła i problemy ze skalowalnością w aplikacji.
Zabezpieczanie aplikacji sztucznej inteligencji przy użyciu uwierzytelniania bez klucza	Dowiedz się, jak zabezpieczyć aplikację czatu Azure OpenAI w języku Python przy użyciu uwierzytelniania bez klucza. Żądania aplikacji do większości usług platformy Azure powinny być uwierzytelniane za pomocą połączeń bez kluczy lub bez hasła. Uwierzytelnianie bez klucza oferuje ulepszone korzyści związane z zarządzaniem i zabezpieczeniami za pośrednictwem klucza konta, ponieważ nie ma klucza (lub parametry połączenia) do przechowywania.

Blok konstrukcyjny	opis
Równoważenie obciążenia za pomocą usługi Azure Container Apps	Dowiedz się, jak dodać równoważenie obciążenia do aplikacji, aby rozszerzyć aplikację czatu poza limity przydziału tokenu usługi Azure OpenAI i modelu. To podejście używa usługi Azure Container Apps do tworzenia trzech punktów końcowych usługi Azure OpenAI, a także podstawowego kontenera do kierowania ruchu przychodzącego do jednego z trzech punktów końcowych.

Blok konstrukcyjny	opis
Ocena odpowiedzi aplikacji do czatu	Dowiedz się, jak ocenić odpowiedzi aplikacji czatu na zestaw poprawnych lub idealnych odpowiedzi (znanych jako prawda podstawy). Za każdym razem, gdy zmienisz aplikację czatu w sposób, który ma wpływ na odpowiedzi, uruchom ocenę, aby porównać zmiany. Ta aplikacja demonstracyjna oferuje narzędzia, których można używać dzisiaj, aby ułatwić uruchamianie ocen.
Równoważenie obciążenia za pomocą usługi Azure Container Apps	Dowiedz się, jak dodać równoważenie obciążenia do aplikacji, aby rozszerzyć aplikację czatu poza limity przydziału tokenu usługi Azure OpenAI i modelu. To podejście używa usługi Azure Container Apps do tworzenia trzech punktów końcowych usługi Azure OpenAI, a także podstawowego kontenera do kierowania ruchu przychodzącego do jednego z trzech punktów końcowych.
Równoważenie obciążenia za pomocą usługi API Management	Dowiedz się, jak dodać równoważenie obciążenia do aplikacji, aby rozszerzyć aplikację czatu poza limity przydziału tokenu usługi Azure OpenAI i modelu. To podejście używa usługi Azure API Management do tworzenia trzech punktów końcowych usługi Azure OpenAI, a także kontenera podstawowego do kierowania ruchu przychodzącego do jednego z trzech punktów końcowych.

Kompleksowe rozwiązania

Kompleksowe rozwiązania to kompleksowe przykłady referencyjne, w tym dokumentacja, kod źródłowy i wdrożenie, które umożliwiają wykonywanie i rozszerzanie ich na własne potrzeby.

Rozmowa z danymi przy użyciu usług Azure OpenAI i Azure AI Search za pomocą platformy .NET

Ten szablon to kompletne kompleksowe rozwiązanie demonstrujące wzorzec generacji rozszerzonej pobierania (RAG, Retrieval-Augmented Generation) uruchomiony na platformie Azure. Używa ona usługi Azure AI Search do pobierania i dużych modeli językowych usługi Azure OpenAI, aby zapewnić obsługę środowisk typu ChatGPT i Q&A.

Aby rozpocząć pracę z tym szablonem, zobacz Wprowadzenie do czatu przy użyciu własnego przykładu danych dla platformy .NET. Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub azure-search-openai-demo-csharp .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Apps Azure Functions	Azure OpenAI Przetwarzanie obrazów na platformie Azure Rozpoznawanie formularzy Azure Wyszukiwanie AI platformy Azure Azure Storage	GPT 3.5 Turbo GPT 4.0

Firma Contoso rozmawia w handlu detalicznym Copilot za pomocą platformy .NET i jądra semantycznego

Ten szablon implementuje firmę Contoso Outdoors, koncepcyjny sklep specjalizujący się w sprzęcie na świeżym powietrzu dla entuzjastów turystyki pieszej i kempingowej. Ten sklep wirtualny zwiększa zaangażowanie klientów i obsługę sprzedaży za pośrednictwem inteligentnego agenta czatu. Ten agent jest obsługiwany przez wzorzec generacji rozszerzonej (RAG) pobierania w usłudze Microsoft Azure AI Stack wzbogacony o obsługę semantycznych jądra i monitów.

Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub contoso-chat-csharp-prompty .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Apps	Azure OpenAI Microsoft Entra ID Tożsamość zarządzana na platformie Azure Azure Monitor Wyszukiwanie AI platformy Azure Azure AI Foundry Azure SQL Azure Storage	GPT 3.5 Turbo GPT 4.0

Automatyzacja procesów z zamianą mowy na tekst i podsumowywaniem za pomocą platform .NET i GPT 3.5 Turbo

Ten szablon to rozwiązanie automatyzacji procesów, które odbiera problemy zgłaszane przez pracowników terenowych i pracowników z hali produkcyjnej w firmie o nazwie Contoso Manufacturing, która produkuje baterie samochodowe. Problemy są współużytkowane przez pracowników za pośrednictwem danych wejściowych mikrofonu lub wstępnie zarejestrowanych jako pliki audio. Rozwiązanie tłumaczy dane wejściowe audio z mowy na tekst, a następnie używa modułu LLM i Prompty lub Promptflow do podsumowania problemu i zwrócenia wyników w formacie określonym przez rozwiązanie.

Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub summarization-openai-csharp-prompty .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Apps	Zamiana mowy na tekst Podsumowanie Azure OpenAI	GPT 3.5 Turbo

Rozmowa z danymi przy użyciu usług Azure OpenAI i Azure AI Search przy użyciu języka Python

Ten szablon to kompletne kompleksowe rozwiązanie demonstrujące wzorzec generacji rozszerzonej pobierania (RAG, Retrieval-Augmented Generation) uruchomiony na platformie Azure. Używa ona usługi Azure AI Search do pobierania i dużych modeli językowych usługi Azure OpenAI, aby zapewnić obsługę środowisk typu ChatGPT i pytań i odpowiedzi (Q&A).

Aby rozpocząć pracę z tym szablonem, zobacz Wprowadzenie do czatu przy użyciu własnego przykładu danych dla języka Python. Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub azure-search-openai-demo .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Apps	Azure OpenAI Wyszukiwanie AI platformy Azure Azure Blob Storage Azure Monitor Analiza dokumentów platformy Azure	GPT 3.5 Turbo GPT 4 GPT 4o GPT 4o-mini

Multi-Modal Creative Writing Copilot with DALL-E

Ten szablon jest kreatywnym rozwiązaniem do pisania wielu agentów, które ułatwia użytkownikom pisanie artykułów. Pokazano w nim, jak tworzyć agentów sztucznej inteligencji i pracować z agentami sztucznej inteligencji opartymi na usłudze Azure OpenAI.

Zawartość:

1. Aplikacja platformy Flask, która pobiera artykuł i instrukcje od użytkownika.
2. Agent badań, który używa interfejsu API wyszukiwania Bing do badania artykułu.
3. Agent produktu, który używa usługi Azure AI Search do wyszukiwania semantycznego podobieństwa dla powiązanych produktów z magazynu wektorów.
4. Agent modułu zapisywania w celu połączenia badań i informacji o produkcie w pomocny artykuł.
5. Agent edytora do uściślenia artykułu przedstawionego użytkownikowi.

Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub agent-openai-python-prompty .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Registry Azure Kubernetes	Azure OpenAI Wyszukiwanie w usłudze Bing Tożsamość zarządzana na platformie Azure Azure Monitor Wyszukiwanie AI platformy Azure Azure AI Foundry	GPT 3.5 Turbo GPT 4.0 DALL-E

Contoso Chat: Asystent Sprzedaży Detalicznej z Azure AI Foundry

Ten szablon implementuje aplikację Contoso Chat — rozwiązanie copilot handlu detalicznego dla firmy Contoso Outdoor, które używa wzorca projektowania rozszerzonej generacji pobierania do odpowiedzi czatbota naziemnego w danych produktu i klienta sprzedawcy. Klienci mogą zadawać pytania z witryny internetowej w języku naturalnym i otrzymywać odpowiednie odpowiedzi z potencjalnymi zaleceniami w oparciu o ich historię zakupów — dzięki odpowiedzialnym praktykom sztucznej inteligencji w celu zapewnienia jakości i bezpieczeństwa odpowiedzi.

Ten szablon ilustruje kompleksowe przepływy pracy (GenAIOps) na potrzeby tworzenia kodu copilot opartego na technologii RAG przy użyciu sztucznej inteligencji i monity platformy Azure. Eksplorując i wdrażając ten przykład, dowiedz się, jak:

1. Tworzenie pomysłów i szybkie iterowanie prototypów aplikacji przy użyciu funkcji Prompty
2. Wdrażanie i używanie modeli Usługi Azure OpenAI na potrzeby czatu, osadzania i oceny
3. Używanie usługi Azure AI Search (indeksów) i usługi Azure Cosmos DB (baz danych) dla danych
4. Ocena odpowiedzi czatu pod kątem jakości przy użyciu przepływów oceny wspomaganych przez sztuczną inteligencję
5. Hostowanie aplikacji jako punktu końcowego fastAPI wdrożonego w usłudze Azure Container Apps
6. Aprowizuj i wdróż rozwiązanie przy użyciu interfejsu wiersza polecenia dla deweloperów platformy Azure
7. Obsługa praktyk dotyczących odpowiedzialnej sztucznej inteligencji przy użyciu ocen i bezpieczeństwa zawartości

Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub contoso-chat .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Apps	Azure OpenAI Wyszukiwanie AI platformy Azure Azure AI Foundry Monity Azure Cosmos DB	GPT 3.5 Turbo GPT 4.0 Zarządzane środowisko Integration Runtime (MIR)

Automatyzacja procesów za pomocą zamiany mowy na tekst i podsumowania za pomocą rozwiązania Azure AI Foundry

Ten szablon tworzy aplikację internetową, która umożliwia pracownikom w firmie o nazwie Contoso Manufacturing zgłaszanie problemów za pomocą tekstu lub mowy. Dane wejściowe audio są tłumaczone na tekst, a następnie sumowane w celu wyróżnienia ważnych informacji, a raport jest wysyłany do odpowiedniego działu.

Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub summarization-openai-python-promptflow .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Apps	Azure AI Foundry Usługa zamiany mowy na tekst Monity Zarządzane środowisko Integration Runtime (MIR)	GPT 3.5 Turbo

Asystent api Analytics Copilot z językiem Python i usługą Azure AI Foundry

Ten szablon jest interfejsem API asystenta do rozmowy z danymi tabelarycznymi i przeprowadzania analizy w języku naturalnym.

Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub assistant-data-openai-python-promptflow .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Machine Learning Service	Wyszukiwanie AI platformy Azure Azure AI Foundry Zarządzane środowisko Integration Runtime (MIR) Azure OpenAI	GPT 3.5 Turbo GPT 4

Rozmowa z danymi przy użyciu usług Azure OpenAI i Azure AI Search za pomocą języka Java

Ten szablon to kompletne kompleksowe rozwiązanie, które demonstruje wzorzec generacji rozszerzonej (RAG) pobierania na platformie Azure. Używa ona usługi Azure AI Search do pobierania i dużych modeli językowych usługi Azure OpenAI, aby zapewnić obsługę środowisk typu ChatGPT i Q&A.

Aby rozpocząć pracę z tym szablonem, zobacz Wprowadzenie do czatu przy użyciu własnego przykładu danych dla języka Java. Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub azure-search-openai-demo-java .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure App Service Azure Container Apps Azure Kubernetes Service	Azure OpenAI Wyszukiwanie AI platformy Azure Analiza dokumentów platformy Azure Azure Storage Azure App Insights Azure Service Bus Azure Event Grid	gpt-35-turbo

Asystent bankowy dla wieluagentowego systemu z użyciem języka Java i jądra semantycznego

Ten projekt został zaprojektowany jako weryfikacja koncepcji (PoC) w celu zbadania innowacyjnego obszaru generowania sztucznej inteligencji w kontekście architektur wielu agentów. Korzystając z Javy i frameworka orkiestracji AI Microsoft Semantic Kernel, naszym celem jest stworzenie aplikacji internetowej do czatu, aby zademonstrować wykonalność i niezawodność stosowania agentów AI generatywnych do przekształcania doświadczenia użytkownika od kliknięć w sieci do rozmów w języku naturalnym, przy jednoczesnym maksymalizacji ponownego wykorzystania istniejących danych dotyczących obciążenia i interfejsów API.

Podstawowy przypadek użycia koncentruje się wokół osobistego asystenta bankowego mającego na celu zrewolucjonizowanie sposobu interakcji użytkowników z informacjami o koncie bankowym, historią transakcji i funkcjami płatności. Wykorzystując możliwości generowania sztucznej inteligencji w ramach architektury wielu agentów, asystent ten ma na celu zapewnienie bezproblemowego, konwersacyjnego interfejsu, za pomocą którego użytkownicy mogą bez wysiłku uzyskiwać dostęp do danych finansowych i zarządzać nimi.

Przykłady faktur znajdują się w folderze danych, aby ułatwić eksplorowanie funkcji płatności. Agent płatności wyposażony w narzędzia optycznego rozpoznawania znaków (OCR) (Azure Document Intelligence) prowadzi rozmowę z użytkownikiem w celu wyodrębnienia danych faktury i zainicjowania procesu płatności. Inne fałszywe dane konta — takie jak transakcje, formy płatności i saldo konta — są również dostępne do odpytowania przez użytkownika. Wszystkie dane i usługi są udostępniane jako zewnętrzne interfejsy API REST i używane przez agentów w celu udostępnienia użytkownikowi żądanych informacji.

Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zajrzyj do repozytorium GitHub agent-openai-java-banking-assistant.

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Apps	Azure OpenAI Analiza dokumentów platformy Azure Azure Storage Azure Monitor	gpt-4o gpt-4o-mini

Rozmowa z danymi przy użyciu usług Azure OpenAI i Azure AI Search za pomocą języka JavaScript

Ten szablon to kompletne kompleksowe rozwiązanie demonstrujące wzorzec generacji rozszerzonej pobierania (RAG, Retrieval-Augmented Generation) uruchomiony na platformie Azure. Używa ona usługi Azure AI Search do pobierania i dużych modeli językowych usługi Azure OpenAI, aby zapewnić obsługę środowisk typu ChatGPT i Q&A.

Aby rozpocząć pracę z tym szablonem, zobacz Wprowadzenie do czatu przy użyciu własnego przykładu danych dla języka JavaScript. Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub azure-search-openai-javascript .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Container Apps Azure Static Web Apps	Azure OpenAI Wyszukiwanie AI platformy Azure Azure Storage Azure Monitor	text-embedding-ada-002

Fronton czatu usługi Azure OpenAI

Ten szablon jest minimalnym składnikiem internetowym czatu OpenAI, który można podłączyć do dowolnej implementacji zaplecza jako klienta.

Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub azure-openai-chat-frontend .

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Static Web Apps	Wyszukiwanie AI platformy Azure Azure OpenAI	GPT 3.5 Turbo GPT4

Bezserwerowy czat sztucznej inteligencji z narzędziem RAG przy użyciu LangChain.js

Szablon to bezserwerowy czatbot sztucznej inteligencji z rozszerzoną generacją pobierania przy użyciu LangChain.js i platformy Azure, który używa zestawu dokumentów przedsiębiorstwa do generowania odpowiedzi na zapytania użytkowników. Używa fikcyjnej firmy o nazwie Contoso Real Estate, a środowisko pozwala swoim klientom zadawać pytania dotyczące użycia swoich produktów. Przykładowe dane zawierają zestaw dokumentów opisujących warunki świadczenia usługi, zasady ochrony prywatności i przewodnik pomocy technicznej.

Aby dowiedzieć się, jak wdrożyć i uruchomić ten szablon, zobacz Wprowadzenie do bezserwerowego czatu sztucznej inteligencji z narzędziem RAG przy użyciu LangChain.js. Aby uzyskać dostęp do kodu źródłowego i przeczytać szczegółowe informacje o szablonie, zobacz repozytorium GitHub serverless-chat-langchainjs .

Dowiedz się, jak wdrożyć i uruchomić ten szablon referencyjny języka JavaScript.

Ten szablon demonstruje użycie tych funkcji.

Rozwiązanie do hostingu platformy Azure	Technologie	Modele AI
Azure Static Web Apps Azure Functions	Wyszukiwanie AI platformy Azure Azure OpenAI Azure Cosmos DB Azure Storage Tożsamość zarządzana na platformie Azure	GPT4 Mistral Ollama