interpret Пакет
Содержит функциональные возможности для работы с интерпретируемостью модели в Машинном обучении Azure.
Интерпретируемость модели можно использовать для объяснения причин, по которым модель делает те или иные прогнозы, и укрепления доверия к модели. С помощью этого пакета можно оценить важность признаков и классов для моделей черного и белого ящика как в необработанных, так и в сконструированных признаках. Дополнительные сведения приведены в статье Интерпретируемость модели в Машинном обучении Azure.
Данный пакет использует методики интерпретации, разработанные в Interpret Community SDK, пакете Python с открытым исходным кодом, предназначенном для обучения интерпретируемых моделей и объяснения систем черного ящика, с дополнительными методиками интерпретации и служебными функциями для обработки реальных наборов данных и рабочих процессов. В пакете Interpret Community SDK размещаются средства объяснения, поддерживаемые SDK для Машинного обучения Azure, например, средства объяснения SHAP, средство объяснения Mimic, табличное средство объяснения и др.
Класс ключа в этом пакете — это класс MimicWrapper, предоставляющий программу-оболочку для сокращения количества вызовов функций, необходимых для работы с пакетом интерпретации модели.
Пакеты
| common |
Содержит общую инфраструктуру, иерархию классов и служебные программы для объяснений моделей в Машинном обучении Azure. |
| model |
Определяет концепцию модели для интерпретируемости. |
| scoring |
Модуль для упрощенных средств объяснения, которые будут запускаться в период оценки. |
Модули
| mimic_wrapper |
Определяет функциональные возможности для заключения интерпретируемости машинного обучения в единый API путем создания программы-оболочки. |
Классы
| ExplanationClient |
Определяет клиента, который отправляет и скачивает объяснения. Создание клиента, используемого для взаимодействия с объяснениями и журналом выполнения. |
| MimicWrapper |
Средство объяснения программы-оболочки, сокращающее количество вызовов функций, необходимых для использования пакета объяснения модели. Инициализируйте MimicWrapper.
Ее также называют моделью учащихся. |