Condividi tramite


Panoramica della valutazione di CNTK

Dopo aver eseguito il training di un modello, è possibile usare CNTK libreria Eval per valutare il modello nella propria applicazione. CNTK supporta la valutazione del modello da C++, Python, C#/.NET e Java. A partire dalla versione 2.1, CNTK supporta anche piattaforma UWP (Universal Windows Platform) (UWP).

Le funzionalità della valutazione CNTK includono

  • Supportare sia la CPU che il dispositivo GPU.
  • Supportare più richieste di valutazione in parallelo.
  • Ottimizzare l'utilizzo della memoria in base alla condivisione dei parametri dello stesso modello tra più thread. Ciò ridurrà significativamente l'utilizzo della memoria durante l'esecuzione della valutazione in un ambiente del servizio.

Le pagine seguenti forniscono informazioni dettagliate sulla valutazione del modello tramite CNTK Library.

Applicazioni legacy che usano CNTK 1.0

Prima della versione CNTK 2.0, il CNTK EvalDLL è stato usato per valutare il modello sottoposto a training usando cntk.exe con BrainScript. L'EvalDLL è ancora supportato, ma funziona solo per il modello creato da cntk.exe con BrainScript. Non può essere usato per valutare i modelli creati da CNTK 2.0 o versione successiva usando Python. È consigliabile usare le librerie di CNTK più recenti per la valutazione, perché supporta i formati di modello e offre altre funzionalità.

Per altre informazioni sui diversi formati di modello, vedere la pagina CNTK formato del modello. Per le applicazioni legacy che usano l'interfaccia EvalDLL, vedere la pagina panoramica di CNTK EvalDLL.