Poznámky k verzi CNTK v2.7

Drahá komunita,

Díky průběžným příspěvkům do ONNX a modulu RUNTIME ONNX jsme usnadnili spolupráci v ekosystému architektury AI a přístup k vysoce výkonným možnostem odvozování napříč platformami pro tradiční modely ML i hluboké neurální sítě. V posledních několika letech jsme byli privilegovaní k vývoji takových klíčových opensourcových projektů strojového učení, včetně sady Microsoft Cognitive Toolkit, která uživatelům umožnila využívat oborový pokrok v hlubokém učení ve velkém měřítku.

Dnešní verze 2.7 bude poslední hlavní verzí CNTK. Pro opravy chyb můžeme mít několik dalších dílčích verzí, ale vyhodnocují se podle případu. V této verzi nejsou žádné plány pro vývoj nových funkcí.

Verze CNTK 2.7 má plnou podporu pro ONNX 1.4.1 a doporučujeme uživatelům, kteří chtějí zprovoznit své modely CNTK, aby využili výhod ONNX a MODULU RUNTIME ONNX. V budoucnu můžou uživatelé i nadále využívat rozvíjející se inovace ONNX prostřednictvím počtu architektur, které ho podporují. Uživatelé mohou například nativně exportovat modely ONNX z PyTorchu nebo převést modely TensorFlow na ONNX pomocí převaděče TensorFlow-ONNX.

Jsme neuvěřitelně vděční za veškerou podporu, kterou jsme obdrželi od přispěvatelů a uživatelů v průběhu let od počátečního opensourcového vydání CNTK. CNTK umožňuje týmům Microsoftu i externím uživatelům spouštět složité a rozsáhlé úlohy všemi způsoby aplikací hlubokého učení, jako jsou historické převraty v rozpoznávání řeči dosažené výzkumníky Microsoft Speech, původci architektury.

Vzhledem k tomu, že onNX se stále častěji používá při poskytování modelů používaných v produktech Microsoftu, jako je Bing a Office, jsme vyhrazeni k syntezizaci inovací z výzkumu s přísnými požadavky produkce, aby se ekosystém dále pokroku.

Především naším cílem je co nejotevřenější a přístupnější inovace v hlubokém učení napříč softwarovými a hardwarovými zásobníky. Budeme tvrdě pracovat na tom, abychom přinesli stávající silné stránky CNTK i nový špičkový výzkum do jiných opensourcových projektů, abychom skutečně rozšířili dosah těchto technologií.

S vděčností,

-- Tým CNTK

Hlavní body této verze

• Přesunuto do CUDA 10 pro Windows i Linux.
• Podpora pokročilé smyčky RNN v exportu ONNX
• Export větších než 2 GB modelů ve formátu ONNX
• Podpora FP16 v Brain Script trénovací akce.

Podpora CNTK pro CUDA 10

CNTK teď podporuje CUDA 10. To vyžaduje aktualizaci pro sestavení prostředí pro Visual Studio 2017 v15.9 pro Windows.

Nastavení prostředí sestavení a modulu runtime ve Windows:

• Nainstalujte Visual Studio 2017. Poznámka: V případě CUDA 10 a dále už není nutné instalovat a spouštět s konkrétními nástroji VC Verze 14.11.
• Instalace Nvidia CUDA 10
• V PowerShellu spusťte: DevInstall.ps1
• Spusťte Visual Studio 2017 a otevřete CNTK.sln.

Pokud chcete nastavit prostředí sestavení a modulu runtime v Linuxu pomocí Dockeru, sestavte image Dockeru Unbuntu 16.04 pomocí souborů Dockerfiles zde. V případě jiných systémů Linux si projděte soubory Dockerfile a nastavte závislé knihovny pro CNTK.

Podpora pokročilé smyčky RNN v exportu ONNX

Modely CNTK s rekurzivními smyčkami je možné exportovat do modelů ONNX s využitím operací prohledávání.

Export větších než 2 GB modelů ve formátu ONNX

Pokud chcete exportovat modely větší než 2 GB ve formátu ONNX, použijte cntk. Rozhraní API funkce: save(self, filename, format=ModelFormat.CNTKv2, use_external_files_to_store_parameters=False) s formátem nastaveným na ModelFormat.ONNX a use_external_files_to_store_parameters nastavenou na Hodnotu True. V tomto případě se parametry modelu ukládají do externích souborů. Exportované modely se použijí s externími soubory parametrů při vyhodnocování modelu s onnxruntime.

26. 11. 2018.
Netron teď podporuje vizualizaci souborů .model CNTK v1 a CNTK v2.