Co to jest zestaw narzędzi sztucznej inteligencji dla Visual Studio Code?
Zestaw narzędzi AI Toolkit for Visual Studio Code (VS Code) to rozszerzenie VS Code, które upraszcza generowanie aplikacji sztucznej inteligencji, łącząc najnowocześniejsze narzędzia programistyczne i modele sztucznej inteligencji z katalogu Azure AI Foundry i innych katalogów, takich jak Hugging Face.
Notatka
Dodatkowa dokumentacja i samouczki dotyczące zestawu narzędzi AI Toolkit for VS Code są dostępne w repozytorium GitHub: microsoft/vscode-ai-toolkit. Znajdziesz wskazówki dotyczące placu zabaw, pracy z modelami sztucznej inteligencji, dostrajaniem modeli lokalnych i opartych na chmurze i nie tylko.
Funkcje zestawu narzędzi AI
Zestaw narzędzi AI Toolkit for VS Code (AI Toolkit) umożliwia:
- Pobierz i uruchom modele sztucznej inteligencji lokalnie. Zestaw narzędzi AI Toolkit zapewnia dostęp do wysoce zoptymalizowanych modeli dla następujących platform i sprzętu:
- System Windows 11 z akceleratorem DirectML
- System Windows 11 uruchomiony bezpośrednio na procesorze
- Komputery z systemem Windows 11 Copilot+ działające na serwerze NPU
- Linux z akceleratorem NVIDIA
- System Linux uruchomiony bezpośrednio na procesorze CPU
- obsługa systemu MacOS wkrótce
- Przetestuj modele na intuicyjnym placu zabaw lub w aplikacji przy użyciu interfejsu API REST.
- Dostosuj model sztucznej inteligencji — lokalnie lub w chmurze (na maszynie wirtualnej) — aby utworzyć nowe umiejętności, poprawić niezawodność odpowiedzi, ustawić ton i format odpowiedzi. Zestaw narzędzi AI Toolkit zawiera przewodnik krok po kroku, aby dostosować popularne modele małych języków (SLM) — takie jak Phi-3 i Mistral.
- Wdróż funkcję sztucznej inteligencji w chmurze lub za pomocą aplikacji działającej na urządzeniu.
Notatka
Model Deepseek R1 Distilled jest zoptymalizowany pod kątem jednostki przetwarzania neuronowego (NPU) i jest dostępny do pobrania na komputerach Copilot+ z systemem Windows 11 napędzanych przez Snapdragon. Aby uzyskać więcej informacji, zobacz modele Running Distilled DeepSeek R1 uruchamiane lokalnie na komputerach Copilot+ obsługiwanych przez środowisko uruchomieniowe Windows Copilot.
Zestaw narzędzi AI Toolkit obsługuje teraz podejście Bring Your Own Model. Możesz użyć zestawu narzędzi AI Toolkit, aby pobrać własne modele, takie jak DeepSeek-R1, z katalogów, takich jak Ollama i uruchamiać je lokalnie.
Chcesz dowiedzieć się więcej o zestawie narzędzi AI Toolkit for VS Code? Dona Sarkar i John Lam przedstawiają omówienie AI Toolkit w tym wideo z konferencji Microsoft Build 2024.
Aby uzyskać najnowszą dokumentację i pobrać zestaw narzędzi AI Toolkit i korzystać z nich, odwiedź stronę usługi GitHub.