Объяснение вывода
Внимание
Начиная с 20 сентября 2023 г. вы не сможете создавать новые ресурсы Персонализатора. Служба Персонализатора отменяется 1 октября 2026 года.
Персонализатор может помочь вам понять, какие признаки выбранного действия являются наиболее и наименее влиятельными, чтобы затем модель во время вывода. Если этот параметр включен, объяснение вывода включает оценки функций из базовой модели в ответ API ранжирования, поэтому приложение получает эти сведения во время вывода.
Оценки функций позволяют лучше понять связь между функциями и решениями, принятыми Персонализатором. Их можно использовать для предоставления пользователям аналитических сведений о том, почему была сделана определенная рекомендация, или анализировать, является ли ваша модель предвзятой в отношении определенных контекстных параметров, пользователей и действий.
Разделы справки включить объяснение вывода?
Задание флага конфигурации службы IsInferenceExplainabilityEnabled в конфигурации службы позволяет Персонализатору включать значения признаков и весы в ответ API ранжирования. Чтобы обновить текущую конфигурацию службы, используйте API обновления службы. В тексте запроса JSON добавьте текущую конфигурацию службы и добавьте дополнительную запись : IsInferenceExplainabilityEnabled: true. Если вы не знаете текущую конфигурацию службы, ее можно получить из конфигурации службы — получить API
{
"rewardWaitTime": "PT10M",
"defaultReward": 0,
"rewardAggregation": "earliest",
"explorationPercentage": 0.2,
"modelExportFrequency": "PT5M",
"logMirrorEnabled": true,
"logMirrorSasUri": "https://testblob.blob.core.windows.net/container?se=2020-08-13T00%3A00Z&sp=rwl&spr=https&sv=2018-11-09&sr=c&sig=signature",
"logRetentionDays": 7,
"lastConfigurationEditDate": "0001-01-01T00:00:00Z",
"learningMode": "Online",
"isAutoOptimizationEnabled": true,
"autoOptimizationFrequency": "P7D",
"autoOptimizationStartDate": "2019-01-19T00:00:00Z",
"isInferenceExplainabilityEnabled": true
}
Примечание.
Включение объяснимости вывода значительно увеличит задержку вызовов API ранжирования. Мы рекомендуем экспериментировать с этой возможностью и измерять задержку в вашем сценарии, чтобы узнать, соответствует ли оно требованиям к задержке приложения.
Как интерпретировать оценки функций?
Включение объяснимости вывода добавит коллекцию в ответ JSON из API ранжирования, называемого inferenceExplanation. Это содержит список имен и значений функций, отправленных в запросе ранга, а также оценки функций, полученные базовой моделью Персонализатора. Оценки функций предоставляют вам представление о том, насколько влиятельны каждая функция была в модели выбор действия.
{
"ranking": [
{
"id": "EntertainmentArticle",
"probability": 0.8
},
{
"id": "SportsArticle",
"probability": 0.15
},
{
"id": "NewsArticle",
"probability": 0.05
}
],
"eventId": "75269AD0-BFEE-4598-8196-C57383D38E10",
"rewardActionId": "EntertainmentArticle",
"inferenceExplanation": [
{
"id”: "EntertainmentArticle",
"features": [
{
"name": "user.profileType",
"score": 3.0
},
{
"name": "user.latLong",
"score": -4.3
},
{
"name": "user.profileType^user.latLong",
"score" : 12.1
},
]
]
}
В приведенном выше примере три идентификатора действий возвращаются в коллекции ранжирования вместе с соответствующими оценками вероятностей. Действие с наибольшей вероятностью the_ лучше всего action_, как определено моделью, обученной на данных, отправляемых в API Персонализатора, что в данном случае ."id": "EntertainmentArticle" Идентификатор действия можно увидеть снова в коллекции выводаExplanation, а также имена функций и оценки, определенные моделью для этого действия, а также функции и значения, отправленные API ранжирования .
Помните, что Персонализатор будет возвращать лучшее действие или исследовательское действие, выбранное политикой изучения. Лучшее действие — это то, что модель определила самую высокую вероятность максимизации средней награды, в то время как поисковые действия выбираются среди набора всех возможных действий, предоставляемых в вызове API ранжирования. Действия, выполняемые во время исследования, не используют оценки функций при определении того, какие действия следует предпринять, поэтому оценки функций для поисковых действий не должны использоваться для получения понимания причин принятия действий. Дополнительные сведения об изучении можно узнать здесь.
Для лучших действий, возвращаемых Персонализатором, оценки функций могут предоставлять общие сведения о том, где:
- Более крупные положительные оценки обеспечивают большую поддержку модели, выбрав это действие.
- Более крупные отрицательные оценки обеспечивают большую поддержку модели, не выбирая это действие.
- Оценки, близкие к нулю, имеют небольшое влияние на решение выбрать это действие.
Важные рекомендации по объяснимости вывода
Повышенная задержка. Включение объяснения вывода значительно увеличит задержку вызовов API ранжирования из-за обработки сведений о функции. Запустите эксперименты и измеряйте задержку в сценарии, чтобы узнать, соответствует ли оно требованиям к задержке приложения.
Коррелированные функции. Функции, которые очень коррелируют друг с другом, могут снизить служебную программу оценки функций. Например, предположим, что функция A тесно связана с компонентом B. Это может быть то, что оценка компонента A является большим положительным значением, а оценка компонента B является большим отрицательным значением. В этом случае две функции могут эффективно отменять друг друга и не влиять на модель. Хотя Персонализатор очень надежный для высоко коррелированных функций, при использовании объясняемости вывода, убедитесь, что функции, отправленные персонализатору, не очень коррелируются
Только исследование по умолчанию. В настоящее время Объяснение вывода поддерживает только алгоритм исследования по умолчанию.