Freigeben über

interpret Paket

  • Referenz

Enthält Funktionen zur Verwendung der Modellinterpretierbarkeit in Azure Machine Learning (ML).

Sie können die Modellinterpretierbarkeit verwenden, um die von einem Modell getroffenen Vorhersagen zu erklären und das Vertrauen in das Modell zu stärken. Mit diesem Paket können Sie die Feature- und Klassenrelevanz für Blackbox- und Whiteboxmodelle für Rohfeatures und entwickelte Features abrufen. Weitere Informationen finden Sie im Artikel Modellinterpretierbarkeit in Azure Machine Learning.

Dieses Paket verwendet die Interpretierbarkeitstechniken, die im Interpret Community SDK entwickelt wurden, einem Open-Source-Python-Paket zum Trainieren von interpretierbaren Modellen und zur Erläuterung von Blackboxsystemen. Außerdem enthält es zusätzliche Interpretierbarkeitstechniken und Hilfsfunktionen für die Arbeit mit echten Datasets und Workflows. Das Interpret Community SDK hostet die vom Azure Machine Learning-SDK unterstützten Explainer wie SHAP-Explainer, Mimic Explainer, Tabular Explainer usw.

Die wichtigste Klasse in diesem Paket ist die MimicWrapper-Klasse. Sie enthält einen Wrapper zur Reduzierung der Funktionsaufrufe, die für die Arbeit mit dem Modellinterpretierungspaket erforderlich sind.

Pakete

common

Enthält allgemeine Infrastruktur, Klassenhierarchie und Hilfsprogramme für Modellerklärungen in Azure Machine Learning.
model

Definiert das Modellkonzept für Interpretierbarkeit.
scoring

Modul für einfache Explainer, die zur Bewertungszeit ausgeführt werden.

Module

mimic_wrapper

Definiert Funktionen zum Einbinden der Interpretierbarkeit beim maschinellen Lernen in eine einzelne API.

Klassen

ExplanationClient

Definiert den Client, der Erklärungen hoch- und herunterlädt.

Erstellen des Clients, der für die Interaktion mit Erklärungen und für den Ausführungsverlauf verwendet wird
MimicWrapper

Ein Wrapper-Explainer, der die Anzahl der Funktionsaufrufe reduziert, die für die Verwendung des Modellerklärungspakets erforderlich sind

Initialisieren Sie den MimicWrapper.

"<<, das ein 2d ndarray :p aram explainable_model akzeptiert: Das nicht initialisierte Ersatzmodell, das verwendet wird, um das Blackbox-Modell zu erklären.

Dieses wird auch als „Student Model“ bezeichnet.