Что такое набор средств ИИ для Visual Studio Code?
Набор средств искусственного интеллекта для Visual Studio Code (VS Code) — это расширение VS Code, которое упрощает разработку приложений искусственного интеллекта путем объединения передовых средств разработки ИИ и моделей из Azure AI каталога Foundry и других каталогов, таких как Hugging Face.
Примечание.
В репозитории GitHub доступны дополнительные документация и руководства по набору средств VS Code ИИ: microsoft/vscode-ai-toolkit. Вы найдете рекомендации по детской площадке, работе с моделями ИИ, точной настройке локальных и облачных моделей и т. д.
Функции набора средств искусственного интеллекта
Набор средств ИИ для VS Code (ai Toolkit) позволяет выполнять следующие действия.
- Скачивание и запуск моделей ИИ локально. Набор средств искусственного интеллекта предоставляет доступ к высокооптимизированным моделям для следующих платформ и оборудования:
- Windows 11, запущенная с ускорением DirectML
- Windows 11, запущенная непосредственно на ЦП
- Компьютеры с Windows 11 Copilot+, работающие на нейронных процессорах (NPU)
- Linux с ускорением NVIDIA
- Linux, работающий непосредственно на ЦП
- Поддержка MacOS ожидается в ближайшее время
- Тестирование моделей на интуитивно понятной площадке или в приложении с помощью REST API.
- Настройте модель ИИ локально или в облаке (на виртуальной машине), чтобы создать новые навыки, повысить надежность ответов, задать тон и формат ответа. Набор средств ИИ предоставляет пошаговое руководство по настройке популярных небольших языковых моделей (SLM), таких как Phi-3 и Mistral.
- Разверните функцию ИИ в облаке или с помощью приложения, работающего на устройстве.
Примечание.
Модель Deepseek R1 Distilled оптимизирована для нейронного процессора (NPU) и доступна для загрузки на компьютерах на платформе Copilot+ под управлением Windows 11. Для получения дополнительной информации см. в разделе Запуск моделей Distilled DeepSeek R1 локально на компьютерах Copilot+ на базе среды выполнения Windows Copilot.
Набор средств искусственного интеллекта теперь поддерживает подход создание собственной модели. Набор средств ИИ можно использовать для скачивания собственных моделей, таких как DeepSeek-R1, из каталогов, таких как Ollama, и запускать их локально.
Хотите узнать больше о наборе средств ИИ для VS Code? Дона Саркар и Джон Лам предоставляют обзор набора средств искусственного интеллекта в этом видео из Microsoft Build 2024:
Последняя документация и скачивание и использование набора средств искусственного интеллекта см. на странице GitHub.