什么是 AI Toolkit for Visual Studio Code?
AI Toolkit for Visual Studio Code(VS Code)是一个 VS Code 扩展,通过将 Azure AI Foundry 目录 和其他目录(如 Hugging Face)的前沿人工智能开发工具和模型组合在一起,简化了生成式AI应用开发。
注意
GitHub 存储库中提供了适用于 AI 工具包 VS Code 的其他文档和教程: microsoft/vscode-ai-toolkit。 你将找到有关 Playground、使用 AI 模型、微调本地模型和基于云的模型等的指导。
AI Toolkit 功能
AI Toolkit for VS Code (AI Toolkit) 使你能够:
- 在本地下载并运行 AI 模型。 AI Toolkit 提供对以下平台和硬件的高度优化模型的访问:
- 使用 DirectML 加速运行的 Windows 11
- 直接在 CPU 上运行的 Windows 11
- 在 NPU 上运行的 Windows 11 Copilot+ 电脑
- 使用 NVIDIA 加速的 Linux
- 直接在 CPU 上运行的 Linux
- MacOS 支持即将推出
- 使用 REST API 在直观的操场或应用程序中测试模型。
- 在本地或云端(虚拟机上)微调 AI 模型,以创建新技能,提高响应的可靠性,设定响应的语调和格式。 AI 工具包提供引导式演练,用于微调常用的小型语言模型(如 Phi-3 和 Mistral)。
- 将 AI 功能部署到云端或在设备上运行的应用程序。
注意
Deepseek R1 Distilled 模型针对神经处理单元(NPU)进行了优化,可在运行 Windows 11 的 Snapdragon 驱动的 Copilot+ PC 上下载。 有关详细信息,请参阅在搭载 Windows Copilot Runtime 的 Copilot+ PC 上本地运行蒸馏的 DeepSeek R1 模型。
想要了解有关 AI Toolkit for VS Code 的详细信息? Dona Sarkar 和 John Lam 在 Microsoft Build 2024 的这段视频中概述了 AI Toolkit:
有关最新文档以及下载和使用 AI Toolkit 的信息,请访问 GitHub 页面。