Erkunden von Verbindungen und Laufzeiten

  • 4 Minuten

Wenn Sie eine LLM-Anwendung (Large Language Model) mit Prompt Flow erstellen, müssen Sie zunächst alle erforderlichen Verbindungen und Laufzeiten konfigurieren.

Erkunden von Verbindungen

Wann immer Sie möchten, dass Ihr Flow eine Verbindung mit externer Datenquelle, einem Dienst oder einer API herstellt, müssen Sie ihren Flow für die Kommunikation mit diesem externen Dienst autorisieren. Wenn Sie eine Verbindung erstellen, konfigurieren Sie eine sichere Verbindung zwischen Prompt Flow und externen Diensten, um eine nahtlose und sichere Datenkommunikation sicherzustellen.

Diagram showing a flow with two nodes, connecting to Cognitive Search and Azure Open AI.

Abhängig vom Typ der von Ihnen erstellten Verbindung speichert die Verbindung sicher den Endpunkt, den API-Schlüssel oder die Anmeldeinformationen für den Prompt Flow, die für die Kommunikation mit dem externen Dienst erforderlich sind. Alle erforderlichen geheimen Schlüssel werden Benutzern nicht offengelegt, sondern in einem Azure Key Vault gespeichert.

Durch das Einrichten von Verbindungen können Benutzer externe Dienste, die für Tools in ihren Flows erforderlich sind, problemlos wiederverwenden.

Für bestimmte integrierte Tools muss eine Verbindung konfiguriert sein:

Verbindungstyp Integrierte Tools
Azure OpenAI LLM oder Python
OpenAI LLM oder Python
Cognitive Search Vektor DB-Lookup oder Python
Serp SerpApi oder Python
Benutzerdefiniert Python

Prompt Flow-Verbindungen spielen in zwei Szenarien eine wichtige Rolle. Sie automatisieren die API-Anmeldeinformationsverwaltung und vereinfachen und sichern die Verarbeitung vertraulicher Zugriffsinformationen. Darüber hinaus ermöglichen sie die sichere Datenübertragung aus verschiedenen Quellen, die für die Aufrechterhaltung der Datenintegrität und des Datenschutzes in verschiedenen Umgebungen von entscheidender Bedeutung sind.

Erkunden von Laufzeiten

Nachdem Sie Ihren Flow erstellt und die erforderlichen Verbindungen konfiguriert haben, die Ihre Tools verwenden, möchten Sie den Flow ausführen. Um den Flow auszuführen, benötigen Sie eine Berechnung, die über Laufzeiten für den Prompt Flow angeboten wird.

Diagram runtimes, compute, and environments in relation to flows.

Laufzeiten (1) sind eine Kombination aus einer Computeinstanz (2), welche die erforderlichen Computeressourcen bereitstellt, und einer Umgebung (3), welche die erforderlichen Pakete und Bibliotheken angibt, die installiert werden müssen, bevor der Flow ausgeführt werden kann.

Wenn Sie Laufzeiten verwenden, verfügen Sie über eine kontrollierte Umgebung, in der Flows ausgeführt und überprüft werden können, um sicherzustellen, dass alles in einer stabilen Umgebung funktioniert. Eine Standardumgebung ist für schnelle Entwicklung und Tests verfügbar. Wenn Sie andere Pakete installieren müssen, können Sie eine benutzerdefinierte Umgebung erstellen.