Déclencheurs d’événements de stockage de pipelines de données dans la fabrique de données (Préversion)
Introduction
Un cas d’utilisation courant des pipelines de données de la fabrique de données consiste à déclencher un pipeline lors d’événements liés aux fichiers, comme l’arrivée et la suppression d’un fichier. Pour les clients qui passent d’Azure Data Factory (ADF) à Microsoft Fabric, l’utilisation d’événements de stockage ADLS/Blog est courante. Les nouveaux utilisateurs Fabric qui ne connaissent pas ADF peuvent généralement utiliser des événements de fichier à partir de OneLake. Les déclencheurs dans Fabric Data Factory utilisent des fonctionnalités de plateforme Fabric, notamment les flux d’événements et les déclencheurs Reflex. Dans le canevas de conception du pipeline Fabric Data Factory, il existe un bouton Déclencheur pour créer un déclencheur Reflex pour votre pipeline, ou vous pouvez créer le déclencheur directement à partir de l’expérience Fabric Activator.
Remarque
Les déclencheurs d’événements de stockage sont actuellement en préversion publique.
Comment définir des déclencheurs d’événements de stockage sur un pipeline
Sélectionnez le bouton Déclencheur (préversion) dans le ruban Accueil dans le coin supérieur de la fenêtre de l’éditeur de canevas de pipeline
Le panneau Définir une alerte s’ouvre et là vous pouvez sélectionner les événements source du stockage Blob Azure.
Sélectionnez Source, puis Sélectionner les événements pour sélectionner les événements de stockage que vous souhaitez écouter dans le déclencheur.
Choisissez votre abonnement Azure et votre compte Stockage Blob.
Un nouvel objet eventstream est créé dans votre espace de travail Fabric. Veillez donc à sélectionner l’espace de travail approprié sous Détails du flux.
Cliquez sur Suivant.
Choisissez les types d’événements. Vous pouvez voir qu’il existe plusieurs autres options d’événements que vous pouvez choisir en plus des fichiers créés et des fichiers supprimés.
Vous pouvez filtrer les événements sur des fichiers et dossiers correspondants en spécifiant le nom du dossier, le nom de fichier, le type de fichier et le conteneur, à l’aide du champ Sujet.
Un événement contient les données générales suivantes :
Propriété Type Description Exemple source string Chemin d’accès complet à la source de l’événement. Ce champ n’est pas modifiable. Event Grid fournit cette valeur. /subscriptions/{subscription-id}/resourceGroups/Storage/providers/Microsoft.Storage/storageAccounts/my-storage-account subject string Chemin de l’objet de l’événement, défini par le serveur de publication. /blobServices/default/containers/my-file-system/blobs/new-file.txt type string Un des types d’événements inscrits pour cette source d’événement. Microsoft.Storage.BlobCreated time string L’heure à quelle l’événement est généré selon l’heure UTC du fournisseur. 2017-06-26T18:41:00.9584103Z id string Identificateur unique de l’événement. 00000000-0000-0000-0000-000000000000 données object Données d’événement de stockage Blob. {{Objet de données}} specversion string Version de la spécification de schéma CloudEvents. 1.0 Remarque
Le nom de fichier et le nom du dossier font partie du champ Sujet.
Dans le panneau de configuration du déclencheur, choisissez l’espace de travail pour stocker les articles du déclencheur, le nom du pipeline, l’action de pipeline et le nom de votre déclencheur en tant qu’article Reflex à l’aide du nom de l’article.
Sélectionnez Créer pour créer le déclencheur. Le déclencheur est désormais actif sur votre pipeline et réagit aux événements de stockage que vous avez définis pour celui-ci.
Pour afficher le déclencheur, accédez à la vue de liste de votre espace de travail et recherchez l’objet Reflex par son nom dans votre navigateur Fabric.
Le type de l’objet est Reflex.
Sélectionnez le déclencheur pour ouvrir l’objet Reflex pour l’affichage et la modification.
Définition des valeurs d’expression avec le nom de fichier et le nom du dossier du déclencheur
Dans votre pipeline, vous pouvez utiliser le chemin d’accès au nom du fichier et au dossier de l’événement de stockage à l’aide des paramètres de déclencheur intégrés. La fabrique de données définit ces paramètres lorsqu’il reçoit l’événement de stockage. Les paramètres de chemin d’accès d’objet blob et de nom de fichier sont définis par l’activation du déclencheur. Sélectionnez l’onglet des paramètres du déclencheur dans le générateur d’expressions à l’intérieur de votre pipeline. Par ailleurs, la fabrique de données analyse automatiquement les noms de fichiers et de dossiers pour vous, ce qui vous permet de les ajouter dynamiquement à l’expression de votre pipeline.
Ces paramètres prédéfinis sont définis à partir des champs Sujet et Rubrique de l’événement de fichier arrivant et sont créés automatiquement pour vous permettre de les utiliser dans votre logique de pipeline.
@pipeline()?.TriggerEvent?.FileName
Vous remarquerez peut-être l’utilisation d’un ? après la référence à l’objet pipeline(), qui est une méthode utilisée dans le langage d’expression de pipeline pour gérer les valeurs NULL. Vous avez besoin de cette syntaxe lors du test d’un pipeline qui utilise les paramètres de déclencheur, car pendant les tests manuels, les paramètres de nom de fichier et de dossier ne sont pas définis, ce qui retourne une valeur NULL. Toutefois, lorsque vous déclenchez le pipeline à partir d’un événement de fichier, vous voyez le nom du fichier et le nom du dossier renseignés dans ces champs.