Поделиться через


Обзор оценки CNTK

После обучения модели можно использовать библиотеку CNTK Eval для оценки модели в собственном приложении. CNTK поддерживает оценку моделей на C++, Python, C#/.NET и Java. Начиная с версии 2.1, CNTK также поддерживает универсальная платформа Windows (UWP).

Функции оценки CNTK включают в себя

  • Поддержка устройства ЦП и GPU.
  • Поддержка нескольких запросов на оценку параллельно.
  • Оптимизация использования памяти путем совместного использования параметров одной модели между несколькими потоками. Это значительно уменьшит использование памяти при выполнении оценки в среде службы.

На следующих страницах содержатся подробные сведения об оценке модели с помощью библиотеки CNTK.

Устаревшие приложения, использующие CNTK 1.0

До CNTK версии 2.0 CNTK EvalDLL использовался для оценки модели, обученной с помощью cntk.exe с Помощью BrainScript. EvalDLL по-прежнему поддерживается, но работает только для модели, созданной cntk.exe с помощью BrainScript. Его нельзя использовать для оценки моделей, созданных CNTK 2.0 или более поздней версии с помощью Python. Настоятельно рекомендуется использовать последние библиотеки CNTK для оценки, так как она поддерживает форматы моделей и предоставляет дополнительные возможности.

Дополнительные сведения о различных форматах моделей см. на странице формата модели CNTK. Сведения о устаревших приложениях, использующих интерфейс EvalDLL, см. на странице обзора CNTK EvalDLL.