Co je sada nástrojů pro AI pro Visual Studio Code?
Nástrojová sada AI Toolkit pro Visual Studio Code (VS Code) je rozšířením VS Code, které zjednodušuje vývoj generativních aplikací umělé inteligence tím, že shromažďuje špičkové nástroje pro vývoj AI a modely z katalogu Azure AI Foundry a dalších, jako je Hugging Face.
Poznámka
Další dokumentace a návody k nástroji AI Toolkit pro VS Code jsou k dispozici v úložišti na GitHubu: microsoft/vscode-ai-toolkit. Najdete zde pokyny pro Dětské hřiště, práci s modely AI, vyladění místních a cloudových modelů a další.
Funkce nástroje AI
Sada AI Toolkit for VS Code (AI Toolkit) vám umožňuje:
- Stáhněte a spusťte modely AI místně. Sada AI Toolkit poskytuje přístup k vysoce optimalizovaným modelům pro následující platformy a hardware:
- Windows 11 běžící s akcelerací DirectML
- Windows 11 běžící přímo na procesoru
- Počítače s Windows 11 Copilot+ běžící na NPU
- Linux s akcelerací NVIDIA
- Linux spuštěný přímo na procesoru
- podpora MacOS bude brzy
- Otestujte modely v intuitivním dětském prostředí nebo v aplikaci pomocí rozhraní API REST.
- Vyladění modelu AI – místně nebo v cloudu (na virtuálním počítači) – za účelem vytvoření nových dovedností, zlepšení spolehlivosti odpovědí, nastavení tónu a formátu odpovědi Sada AI Toolkit poskytuje návod s asistencí k vyladění oblíbených malých jazykových modelů (SLM) – například Phi-3 a Mistral.
- Nasaďte funkci AI buď do cloudu, nebo pomocí aplikace, která běží na zařízení.
Poznámka
Model Deepseek R1 Distilled je optimalizovaný pro neurální procesorovou jednotku (NPU) a je k dispozici ke stažení na počítačích se Snapdragonem poháněným systémem Copilot+ s operačním systémem Windows 11. Další informace viz téma Spuštění modelů DeepSeek R1 místně na počítačích Copilot+ s Windows Copilot Runtime.
Sada AI Toolkit teď podporuje přístup Přineste si vlastní model. Sadu AI Toolkit můžete použít ke stažení vlastních modelů, například DeepSeek-R1, z katalogů, jako je Ollama, a spouštět je místně.
Chcete se dozvědět více o AI sadě nástrojů pro VS Code? Dona Sarkar a John Lam poskytují přehled sady AI Toolkit v tomto videu z Microsoft Buildu 2024:
Nejnovější dokumentaci a stažení a používání sady AI Toolkit najdete na stránce GitHubu.