Поделиться через

Общие сведения об оценке EvalDLL

  • Статья

Библиотека EvalDLL предоставляет методы для оценки предварительно обученных CNTK моделей, сохраненных в формате CNTK model-v1. Он доступен в C++ (в Windows и Linux) и C# (только на Windows).

Оценка различных типов данных и слоев

В настоящее время библиотека Eval поддерживает векторы для входных и выходных данных. Это означает, что входной вектор должен соответствовать входным узлам в модели (признаках). Однако некоторые модели обучены изображениями (например, CIFAR-10), эти изображения сначала векторизированы, а затем передаются в сеть. Например, набор данных CIFAR-10 состоит из небольших изображений (32 пикселя на 32 пикселя) или rgb-значений. Хотя каждая из них является трехмерной координатой (ширина, высота, цвет), данные векторизированы в 1-мерный вектор. Поэтому важно преобразовать необработанные данные в формат вектора перед вычислением. Это преобразование должно выполняться так же, как и при отправке в сеть для обучения.

Дополнительные сведения см. на странице "Оценка преобразований изображений ", особенно при работе с изображениями.

Хотя уже обученная модель имеет определенный набор выходных узлов, иногда желательно получить значения других узлов во время оценки (например, скрытые слои). Это возможно с помощью программного интерфейса, дополнительные сведения см. на странице оценки скрытых слоев .

Текущие ограничения

  • Однопоточное вычисление. Библиотека EvalDll для оценки CNTK и по расширению управляемой библиотеки EvalWrapper являются однопоточными и одними повторной записью. Параллельные вычисления одного экземпляра модели не поддерживаются. Однако можно загрузить несколько экземпляров модели и оценить каждую модель с одним потоком. Это позволяет параллельно оценивать несколько моделей, но каждая модель с одним потоком.
  • Любая программа, которая связывает предварительно созданные библиотеки оценки (Cntk.Evalи Cntk.Eval.Wrapper библиотеки DLL в Windows, а libCntk.Eval также в Linux) двоичного пакета CNTK, должна использовать ту же версию компилятора, что и для сборки готовых библиотек.