Freigeben über

Tutorial: Bereitstellen einer Web-App für Unternehmenschats

  • Artikel

Wichtig

Die in diesem Artikel markierten Elemente (Vorschau) sind aktuell als öffentliche Vorschau verfügbar. Diese Vorschauversion wird ohne Vereinbarung zum Servicelevel bereitgestellt und sollte nicht für Produktionsworkloads verwendet werden. Manche Features werden möglicherweise nicht unterstützt oder sind nur eingeschränkt verwendbar. Weitere Informationen finden Sie unter Zusätzliche Nutzungsbestimmungen für Microsoft Azure-Vorschauen.

In diesem Artikel stellen Sie eine Web-App für Unternehmenschats, die Ihre eigenen Daten mit einem großen Sprachmodell verwendet, im Azure KI Foundry-Portal bereit.

Ihre Datenquelle wird verwendet, um das Modell mit bestimmten Daten zu grounden. Grounding bedeutet, dass das Modell Ihre Daten verwendet, um den Kontext Ihrer Frage zu verstehen. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten werden separat und sicher in Ihrer ursprünglichen Datenquelle gespeichert.

Die folgenden Schritte werden in diesem Tutorial beschrieben:

  • Konfigurieren Sie die Ressourcen.
  • Hinzufügen Ihrer Daten.
  • Testen des Modells mit Ihren Daten.
  • Stellen Sie Ihre Web-App bereit.

Voraussetzungen

Azure KI Foundry und Azure-Portal

In diesem Tutorial führen Sie einige Aufgaben im Azure KI Foundry-Portal und einige im Azure-Portal aus.

Das Azure KI Foundry-Portal ist eine webbasierte Umgebung zum Erstellen, Trainieren und Bereitstellen von KI-Modellen. Als Entwickelnde können Sie hier Ihre Chatwebanwendung erstellen und bereitstellen.

Das Azure-Portal ermöglicht es der Administration, Azure-Ressourcen zu verwalten und zu überwachen. In der Administration verwenden Sie das Portal, um Einstellungen für verschiedene Azure-Dienste zu konfigurieren, die für den Zugriff über die Web-App erforderlich sind.

Konfigurieren der Ressourcen

Wichtig

Sie müssen über die erforderlichen Berechtigungen verfügen, um Rollenzuweisungen in Ihrem Azure-Abonnement hinzufügen zu können. Das Erteilen von Berechtigungen per Rollenzuweisung ist nur dem Besitzer der jeweiligen Azure-Ressourcen möglich. Möglicherweise müssen Sie die Person, die Ihr Azure-Abonnement besitzt (eventuell die IT-Administration) darum bitten, dieses Tutorial für Sie abzuschließen.

Damit die Ressourcen in einer Web-App ordnungsgemäß funktionieren, müssen Sie sie mit den richtigen Berechtigungen konfigurieren. Diese Aufgabe wird im Azure-Portal erledigt.

Identifizieren Sie zunächst die Ressourcen, die Sie über das Azure KI Foundry-Portal konfigurieren müssen.

  1. Öffnen Sie das Azure KI Foundry-Portal, und wählen Sie das Projekt aus, das Sie zum Bereitstellen des Azure OpenAI-Chatmodells verwendet haben.

  2. Wählen Sie im linken Bereich Verwaltungscenter aus.

  3. Wählen Sie im linken Bereich Verbundene Ressourcen unter Ihrem Projekt aus.

  4. Identifizieren Sie die drei Ressourcen, die Sie konfigurieren müssen: Azure OpenAI, die Azure KI-Suche und die Azure Blob Storage-Instanz, die zu Ihrem workspaceblobstore gehört.

    Screenshot der verbundenen Ressourcen, die konfiguriert werden müssen.

    Tipp

    Wenn Sie über mehrere Azure OpenAI-Ressourcen verfügen, verwenden Sie diejenige, die Ihr bereitgestelltes Chatmodell enthält.

  5. Wählen Sie für jede Ressource den Link aus, um die Ressourcendetails zu öffnen. Wählen Sie auf der Seite „Details“ den Ressourcennamen aus, um die Ressource im Azure-Portal zu öffnen. (Wählen Sie für den workspaceblobstore Im Azure-Portal anzeigen aus.)

  6. Nachdem die Browserregisterkarte geöffnet wurde, wechseln Sie zurück zum Azure KI Foundry-Portal, und wiederholen Sie den Vorgang für die nächste Ressource.

  7. Wenn Sie fertig sind, sollten drei neue Browserregisterkarten geöffnet sein: Suchdienst, Azure KI Services und der blobstore-Container. Lassen Sie alle drei neuen Registerkarten geöffnet, während Sie zwischen ihnen wechseln, um die Ressourcen zu konfigurieren.

Aktivieren einer verwalteten Identität

Aktivieren Sie auf der Browserregisterkarte für die Suchdienst-Ressource im Azure-Portal die verwaltete Identität:

  1. Wählen Sie im linken Bereich unter Einstellungen die Option Identität aus.
  2. Ändern Sie den Status in Ein.
  3. Wählen Sie Speichern.

Aktivieren Sie auf der Browserregisterkarte für die Azure KI Services-Ressource im Azure-Portal die verwaltete Identität:

  1. Wählen Sie im linken Bereich unter Ressourcenverwaltung die Option Identität aus.
  2. Ändern Sie den Status in Ein.
  3. Wählen Sie Speichern.

Legen Sie auf der Browserregisterkarte für die Suchdienst-Ressource im Azure-Portal die API-Zugriffsrichtlinie fest:

  1. Wählen Sie im linken Bereich unter Einstellungen die Option Schlüssel aus.
  2. Wählen Sie unter API-Zugriffssteuerung die Option Beide aus.
  3. Wählen Sie bei entsprechender Aufforderung Ja aus, um die Änderung zu bestätigen.

Zuweisen von Rollen

In den unten aufgeführten Aufzählungselementen wird dieses Muster mehrmals wiederholt.

Das allgemeine Muster zum Zuweisen der rollenbasierten Zugriffssteuerung (RBAC) für jede Ressource lautet:

  1. Navigieren Sie zum Azure-Portal für die jeweilige Ressource.
  2. Wählen Sie auf der linken Seite im Azure-Portal Zugriffssteuerung (IAM) aus.
  3. Wählen Sie +Hinzufügen>Rollenzuweisung hinzufügen aus.
  4. Suchen Sie nach der Rolle, die Sie zuweisen müssen, und wählen Sie sie aus. Wählen Sie Weiter aus.
  5. Beim Zuweisen einer Rolle zu sich selbst:
    1. Wählen Sie User, group, or service principal (Benutzer, Gruppe oder Dienstprinzipal) aus.
    2. Wählen Sie Mitglieder auswählen aus.
    3. Suchen Sie nach Ihrem Namen, und wählen Sie ihn aus.
  6. Beim Zuweisen einer Rolle zu einer anderen Ressource:
    1. Wählen Sie Verwaltete Identität aus.
    2. Wählen Sie Mitglieder auswählen aus.
    3. Verwenden Sie die Dropdownliste, um den Typ der Ressource zu finden, die Sie zuweisen möchten. Beispiele: Azure KI Services oder Suchdienst.
    4. Wählen Sie die Ressource in der angezeigten Liste aus. Möglicherweise gibt es nur eine, aber Sie müssen sie trotzdem auswählen.
  7. Fahren Sie mit dem Assistenten fort, und wählen Sie Überprüfen + zuweisen aus, um die Rollenzuweisung hinzuzufügen.

Gehen Sie folgendermaßen vor, um Rollen für die Ressourcen zuzuweisen, die Sie in diesem Tutorial konfigurieren:

  • Weisen Sie auf der Browserregisterkarte für Suchdienst die folgenden Rollen im Azure-Portal zu:

    • Leseberechtigung für Suchindexdaten der verwalteten Identität Azure KI Services
    • Mitwirkung an Suchindexdaten der verwalteten Identität Azure KI Services
    • Mitwirkung sich selbst. (Um Mitwirkung zu suchen, wechseln Sie oben zur Registerkarte Privilegierte Administrationsrollen. Alle anderen Rollen befinden sich auf der Registerkarte Rollen der Stellenfunktion.)

  • Weisen Sie auf der Browserregisterkarte für Azure KI Services die folgenden Rollen im Azure-Portal zu:

    • Mitwirkung an Cognitive Services OpenAI der verwalteten Identität Suchdienst
    • Mitwirkung sich selbst

  • Weisen Sie auf der Browserregisterkarte für Azure Blob Storage die folgenden Rollen im Azure-Portal zu:

    • Mitwirkung an Storage-Blobdaten der verwalteten Identität Azure KI Services
    • Leseberechtigung für Storage-Blobdaten der verwalteten Identität Suchdienst
    • Mitwirkung sich selbst

Sie haben die Konfiguration der Ressourcen abgeschlossen. Sie können die Browserregisterkarten des Azure-Portals jetzt schließen, wenn Sie möchten.

Hinzufügen der Daten und erneutes Testen des Chatmodells

Im Schnellstart: Verwenden des Chat-Playgrounds im Azure KI Foundry-Portal (eine Voraussetzung für dieses Tutorial) beobachten Sie, wie Ihr Modell ohne Ihre Daten reagiert. Fügen Sie nun dem Modell Ihre Daten hinzu, damit es Fragen zu Ihren Produkten beantworten kann.

Um diesen Abschnitt abzuschließen, benötigen Sie eine lokale Kopie der Produktdaten. Das Repository „Azure-Samples/rag-data-openai-python“ auf GitHub enthält Beispielinformationen für Einzelhandelsprodukte, die für das Szenario in diesem Tutorial relevant sind. Insbesondere enthält die Datei product_info_11.md Produktinformationen zu den TrailWalker Wanderschuhen, die für dieses Lernprogrammbeispiel relevant sind. Laden Sie die exemplarischen Einzelhandelsproduktdaten für Contoso Trek in einer ZIP-Datei auf Ihren lokalen Computer herunter.

Führen Sie die folgenden Schritte aus, um Ihre Daten zum Chat-Playground hinzuzufügen, damit der Assistent Fragen zu Ihren Produkten beantworten kann. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten werden separat und sicher in Ihrem Azure-Abonnement gespeichert.

  1. Navigieren Sie zu Ihrem Projekt in Azure KI Foundry.

  2. Wählen Sie Playgrounds aus.

  3. Wählen Sie Chatplayground ausprobieren aus.

  4. Wählen Sie ihr bereitgestelltes Chatmodell aus der Dropdownliste Bereitstellung aus.

    Screenshot des Chat-Playground mit ausgewähltem Chatmodus und Modell

  5. Wählen Sie auf der linken Seite des Chatplaygrounds Daten hinzufügen (VORSCHAU)>+ Neue Datenquelle hinzufügen aus.

    Screenshot des Chat-Playground mit der sichtbaren Option zum Hinzufügen einer Datenquelle

  6. Wählen Sie im Dropdownfeld Datenquelle die Option Dateien hochladen aus.

    Screenshot der Optionen für die Auswahl der Datenquelle.

  7. Wählen Sie Hochladen>Dateien hochladen aus, um Ihre lokalen Dateien zu durchsuchen.

  8. Wählen Sie die Dateien aus, die Sie hochladen möchten. Wählen Sie die Produktinformationsdateien aus, die Sie heruntergeladen oder zuvor erstellt haben. Fügen Sie jetzt alle Dateien hinzu. Sie können später in derselben Playground-Sitzung keine weiteren Dateien hinzufügen.

  9. Wählen Sie Hochladen aus, um die Datei in Ihr Azure Blob Storage-Konto hochzuladen. Wählen Sie Weiteraus.

    Screenshot des Dialogfelds zum Auswählen und Hochladen von Dateien

  10. Wählen Sie Ihren Azure KI-Suche-Dienst aus.

  11. Geben Sie für den Vektorindexnamen Produktinformationen ein, und wählen Sie Weiter aus.

  12. Deaktivieren Sie auf der Seite Sucheinstellungen unter Vektoreinstellungen das Kontrollkästchen Vektorsuche zu dieser Suchressource hinzufügen. Diese Einstellung bestimmt, wie das Modell auf Anforderungen reagiert. Wählen Sie Weiteraus.

    Hinweis

    Wenn Sie die Vektorsuche hinzufügen, stehen hier weitere Optionen mit zusätzlichen Kosten zur Verfügung.

  13. Überprüfen Sie Ihre Einstellungen, und wählen Sie Vektorindex erstellen aus.

  14. Im Playground können Sie sehen, dass die Erfassung Ihrer Daten ausgeführt wird. Dieser Prozess kann einige Minuten dauern. Warten Sie, bevor Sie fortfahren, bis die Datenquelle und der Indexname anstelle des Status angezeigt werden.

    Screenshot des Chat-Playground mit dem angezeigten Status der Datenerfassung

  15. Sie können jetzt mit dem Modell chatten, ihm dieselbe Frage wie zuvor stellen („Wie viel kosten die TrailWalker Wanderschuhe“), und dieses Mal verwendet es Informationen aus Ihren Daten, um die Antwort zu erstellen. Sie können die Schaltfläche „Verweise“ erweitern, um die verwendeten Daten anzuzeigen.

Bereitstellen Ihrer Web-App

Sobald Sie mit den Ergebnissen im Azure KI Foundry-Portal zufrieden sind, können Sie das Modell als eigenständige Web-App bereitstellen.

Navigieren Sie im Azure-Portal zu Ihrer Ressourcengruppe.

In diesem Tutorial wird Ihre Web-App in derselben Ressourcengruppe wie Ihr Azure KI Foundry-Hub bereitgestellt. Später konfigurieren Sie die Authentifizierung für die Web-App im Azure-Portal.

Führen Sie die folgenden Schritte aus, um zu Ihrer Ressourcengruppe im Azure-Portal zu navigieren:

  1. Navigieren Sie zu Ihrem Projekt in Azure KI Foundry. Dann wählen Sie im linken Bereich Verwaltungscenter aus.

  2. Wählen Sie unter der Überschrift Projekt die Option Übersicht aus.

  3. Wählen Sie den Namen der Ressourcengruppe aus, um die Ressourcengruppe im Azure-Portal zu öffnen. In diesem Beispiel trägt die Ressourcengruppe den Namen rg-sdg-ai.

    Screenshot: Ressourcengruppe im Azure KI Foundry-Portal

  4. Sie sollten sich nun im Azure-Portal befinden und den Inhalt der Ressourcengruppe anzeigen, in der Sie den Hub bereitgestellt haben. Beachten Sie den Namen und den Speicherort der Ressourcengruppe, diese Informationen verwenden Sie im nächsten Abschnitt.

  5. Lassen Sie diese Seite auf einer Browserregisterkarte geöffnet. Sie wird später noch benötigt.

Bereitstellen der Web-App

Die Veröffentlichung erstellt einen Azure App Service in Ihrem Abonnement. Je nach dem von Ihnen gewählten Preisplan können Kosten anfallen. Wenn Sie mit Ihrer App fertig sind, können Sie sie aus dem Azure-Portal löschen.

So stellen Sie die Web-App bereit:

Wichtig

Sie müssen Microsoft.Web als Ressourcenanbieter registrieren, bevor Sie eine Bereitstellung in einer Web-App ausführen können.

  1. Führen Sie die Schritte im vorherigen Abschnitt aus, um dem Playground Ihre Daten hinzuzufügen. (Sie können eine Web-App mit Ihren eigenen Daten oder ohne sie bereitstellen. Sie benötigen aber mindestens ein bereitgestelltes Modell, wie unter Schnellstart: Verwenden des Chat-Playgrounds im Azure KI Foundry-Portal beschrieben.)

  2. Wählen Sie Bereitstellen > ... als Web-App aus.

    Screenshot der Schaltfläche „Neue Web-App bereitstellen“.

  3. Geben Sie auf der Seite In einer Web App bereitstellen die folgenden Details ein:

    • Geben Sie unter Name einen eindeutigen Namen für Ihre Web-App ein.
    • Abonnement: Ihr Azure-Abonnement. Wenn keine verfügbaren Abonnements angezeigt werden, registrieren Sie zuerst Microsoft.Web als Ressourcenanbieter.
    • Ressourcengruppe: Wählen Sie eine Ressourcengruppe aus, in der die Web-App bereitgestellt werden soll. Verwenden Sie dieselbe Ressourcengruppe wie der Hub.
    • Speicherort: Wählen Sie einen Speicherort aus, an dem die Web-App bereitgestellt werden soll. Verwenden Sie denselben Speicherort wie der Hub.
    • Tarif: Wählen Sie einen Tarif für die Web-App aus.
    • Aktivieren des Chatverlaufs in der Web-App: Für das Tutorial ist das Feld Chatverlauf nicht ausgewählt. Durch Aktivieren des Features erhalten die Benutzende Zugriff auf ihre jeweiligen vorherigen Abfragen und Antworten. Weitere Informationen finden Sie in Chatverlaufshinweisen.

  4. Klicken Sie auf Bereitstellen.

  5. Warten Sie, bis die App bereitgestellt wird, was einige Minuten dauern kann.

  6. Wenn sie bereit ist, ist die Schaltfläche Start auf der Symbolleiste aktiviert. Starten Sie die App jedoch noch nicht, und schließen Sie die Seite „Chat-Playground“ nicht. Sie kehren später dorthin zurück.

Konfigurieren der Web-App-Authentifizierung

Standardmäßig ist die App nur für Sie zugänglich. In diesem Tutorial fügen Sie eine Authentifizierung hinzu, um den Zugriff auf die App auf Mitglieder Ihres Azure-Mandanten einzuschränken. Benutzer werden aufgefordert, sich mit ihrem Microsoft Entra-Konto anzumelden, um auf Ihre App zugreifen zu können. Sie können einen ähnlichen Prozess ausführen, um bei Bedarf einen anderen Identitätsanbieter hinzuzufügen. Die App verwendet die Anmeldeinformationen des Benutzers nur, um zu überprüfen, ob er Mitglied Ihres Mandanten ist.

  1. Kehren Sie zu der Browserregisterkarte zurück, die das Azure-Portal enthält (oder öffnen Sie das Azure-Portal auf einer neuen Browserregisterkarte erneut), und zeigen Sie den Inhalt der Ressourcengruppe an, in der Sie die Web-App bereitgestellt haben. (Möglicherweise müssen Sie die Ansicht aktualisieren, um die Web-App zu sehen.)

  2. Wählen Sie die App Service-Ressource aus der Liste der Ressourcen in der Ressourcengruppe aus.

  3. Wählen Sie im reduzierbaren linken Menü unter Einstellungen die Option Authentifizierung aus.

    Screenshot des Menüelements „Web App-Authentifizierung“ unter „Einstellungen“ im Azure-Portal.

  4. Wenn Microsoft auf dieser Seite als Identitätsanbieter aufgelistet wird, ist nichts weiter erforderlich. Sie können den nächsten Schritt überspringen.

  5. Fügen Sie einen Identitätsanbieter mit den folgenden Einstellungen hinzu:

    • Identitätsanbieter: Wählen Sie Microsoft als Identitätsanbieter aus. Die Standardeinstellungen auf dieser Seite beschränken die App nur auf Ihren Mandanten, sodass Sie hier nichts ändern müssen.
    • Mandantentyp: Mitarbeiter
    • App-Registrierung: Erstellen einer neuen App-Registrierung
    • Name: Der Name Ihres Web App-Diensts
    • Unterstützte Kontotypen: Aktueller Mandant – Einzelner Mandant
    • Zugriff einschränken: Erfordert Authentifizierung
    • Nicht authentifizierte Anforderungen: HTTP 302 Gefundene Umleitung – empfohlen für Websites

Web-App verwenden

Sie haben es fast geschafft. Jetzt können Sie die Web-App testen.

  1. Wenn Sie Einstellungen geändert haben, warten Sie 10 Minuten, bis die Authentifizierungseinstellungen wirksam werden.

  2. Kehren Sie zu der Browserregisterkarte zurück, die die Seite „Chat-Playground“ im Azure KI Foundry-Portal enthält.

  3. Wählen Sie Start aus, um die bereitgestellte Web-App zu starten. Wenn Sie dazu aufgefordert werden, akzeptieren Sie die Berechtigungsanforderung.

    Wenn die Authentifizierungseinstellungen noch nicht wirksam geworden sind, schließen Sie die Browserregisterkarte für Ihre Web-App, und kehren Sie zur Seite „Chat-Playground“ im Azure KI Foundry-Portal zurück. Warten Sie dann etwas länger und versuchen Sie es erneut.

  4. In Ihrer Web-App können Sie die gleiche Frage wie zuvor stellen („Wie viel kosten die TrailWalker Wanderschuhe?“), und dieses Mal werden Informationen aus Ihren Daten verwendet, um die Antwort zu erstellen. Sie können die Schaltfläche „Verweise“ erweitern, um die verwendeten Daten anzuzeigen.

    Screenshot des Chatbereichs in der bereitgestellten Web-App.

Grundlegendes zum Chatverlauf

Durch das Chatverlaufsfeature erhalten Benutzende Zugriff auf ihre jeweiligen vorherigen Abfragen und Antworten.

Sie können den Chatverlauf aktivieren, wenn Sie die Web-App bereitstellen. Aktivieren Sie das Kontrollkästchen Chatverlauf in der Web-App aktivieren.

Screenshot der Option zum Aktivieren des Chatverlaufs bei der Bereitstellung einer Web-App.

Wichtig

Wenn Sie den Chatverlauf aktivieren, wird eine Cosmos DB-Instanz in Ihrer Ressourcengruppe erstellt, und es fallen zusätzliche Gebühren für den verwendeten Speicher an. Wenn Sie Ihre Web-App löschen, wird Ihre Cosmos DB-Instanz nicht automatisch gelöscht. Um Ihre Cosmos DB-Instanz zusammen mit allen gespeicherten Chats zu löschen, müssen Sie zu der zugeordneten Ressource im Azure-Portal wechseln und sie löschen.

Nachdem Sie den Chatverlauf aktiviert haben, können Ihre Benutzenden ihn in der rechten oberen Ecke der App anzeigen und ausblenden. Wenn sie den Verlauf anzeigen, können sie Unterhaltungen umbenennen oder löschen. Wenn sie bei der App angemeldet sind, werden Unterhaltungen automatisch von der neuesten zur ältesten sortiert und basierend auf der ersten Abfrage in der Unterhaltung benannt.

Wenn Sie die Cosmos DB-Ressource löschen, aber die Option „Chatverlauf“ in Studio aktiviert lassen, werden die Benutzenden über einen Verbindungsfehler benachrichtigt, können die Web-App jedoch weiterhin ohne Zugriff auf den Chatverlauf verwenden.

Aktualisieren der Web-App

Verwenden Sie den Playground, um weitere Daten hinzuzufügen oder das Modell mit verschiedenen Szenarien zu testen. Wenn Sie bereit sind, die Web-App mit dem neuen Modell zu aktualisieren, wählen Sie Bereitstellen > ...als Web-App erneut aus. Wählen Sie Vorhandene Web-App aktualisieren aus, und wählen Sie die vorhandene Web-App in der Liste aus. Das neue Modell wird für die Web-App bereitgestellt.

Bereinigen von Ressourcen

Um unnötige Azure-Kosten zu vermeiden, sollten Sie die in diesem Schnellstart erstellten Ressourcen löschen, wenn sie nicht mehr benötigt werden. Zum Verwalten von Ressourcen können Sie das Azure-Portal verwenden.

Zugehöriger Inhalt