Udostępnij za pośrednictwem


Omówienie oceny biblioteki CNTK

Interfejs API biblioteki CNTK pozwala ocenić zarówno format CNTK model-v1, jak i model-V2. Bibliotekę CNTK można używać w Windows i Linux w językach C++, Python, C#, Java i innych językach platformy .NET.

Nowe funkcje biblioteki CNTK do oceny obejmują

  • Obsługa zarówno procesora CPU, jak i urządzenia z procesorem GPU.
  • Obsługa wielu żądań oceny równolegle.
  • Zoptymalizuj użycie pamięci przez współużytkowanie parametrów tego samego modelu między wieloma wątkami. Spowoduje to znaczne zmniejszenie użycia pamięci podczas uruchamiania oceny w środowisku usługi.

Poniższe strony zawierają szczegółowe informacje o ocenie modelu przy użyciu biblioteki CNTK.