你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
Azure 上 AI 工作负荷的网络建议
本文为在 Azure 上运行 AI 工作负荷的组织提供了网络建议。 它重点介绍 Azure AI 平台即服务（PaaS）解决方案，包括 Azure AI Foundry、Azure OpenAI、Azure 机器学习和 Azure AI 服务。 它涵盖了生成式和非生成式 AI 工作负荷。
网络可实现与关键 AI 资源的安全高效连接，是数据完整性和隐私的基础。 有效的网络策略可保护敏感的 AI 工作负荷免遭未经授权的访问，并有助于优化 AI 模型训练和部署的性能。
配置虚拟网络
配置虚拟网络是指为 Azure AI 平台设置和管理专用的安全网络环境。 虚拟网络使组织能够隔离 AI 工作负荷，并创建安全的信道。 正确的配置可确保只有经授权的用户和系统才能访问关键的 AI 资源，同时最大限度地减少与公共 Internet 的接触。
| 所有平台 | 虚拟网络建议 |
|---|---|
| Azure AI Foundry | 配置托管虚拟网络并使用专用终结点。 如果需要，请将托管虚拟网络连接到本地资源。 |
| Azure OpenAI | 限制访问选定的虚拟网络或使用专用终结点。 |
| Azure 机器学习 | 通过虚拟网络创建一个安全工作区。 规划网络隔离。 请遵循 Azure 机器学习的 安全最佳做法。 |
| Azure AI 服务 | 限制访问选定的虚拟网络或使用专用终结点。 |
Azure AI Foundry 和 Azure 机器学习 部署到 Microsoft 托管的虚拟网络，并同时部署所需的依赖服务。 托管虚拟网络使用专用终结点来访问 Azure 存储、Azure 密钥存储库和 Azure 容器注册表等支持性 Azure 服务。 使用链接来查看这些服务的网络体系结构，以便能以最佳方式配置虚拟网络。
保护虚拟网络
确保虚拟网络安全涉及使用专用终结点、执行 DNS 区域和启用自定义 DNS 服务器，以保护 AI 工作负荷。 这些策略限制了公共 Internet 的曝光，并防止未经授权的访问。 有效的网络安全对于保护敏感的 AI 模型和确保隐私合规至关重要。
考虑专用终结点。 不应从公共 Internet 访问 PaaS 服务或 AI 模型终结点。 专用终结点可在虚拟网络内为 Azure 服务提供专用连接。 专用终结点增加了部署和操作的复杂性，但其安全优势往往大于复杂性。
考虑为 AI 服务门户创建专用终结点。 专用终结点提供对 PaaS 门户（如 Azure AI Foundry 和 Azure 机器学习工作室F）的安全专用访问。 在中心虚拟网络中为这些全局门户设置专用终结点。 此配置可让用户设备直接安全访问面向公众的门户界面。
考虑执行专用 DNS 区域。 专用 DNS 区域可集中、安全地管理 DNS，以便在 AI 网络内访问 PaaS 服务。 设置 Azure 策略，执行专用 DNS 区域并要求使用专用终结点，以确保安全的内部 DNS 解析。 如果没有中央专用 DNS 区域，在手动添加条件转发之前，DNS 转发将不起作用。 例如，请参阅配合使用自定义 DNS 与 Azure AI Foundry 中心和 Azure 机器学习工作区。
为 PaaS 服务启用自定义 DNS 服务器和专用终结点。 自定义 DNS 服务器会绕过公共 DNS 来管理网络内的 PaaS 连接。 在 Azure 中配置专用 DNS 区域，以安全解析 PaaS 服务名称，并通过专用网络通道路由所有的流量。
管理连接
对连接性进行管理可以控制 AI 资源与外部系统的交互方式。 使用 jumpbox 和限制出站流量等技术有助于保护 AI 工作负荷。 适当的连接管理可最大限度地降低安全风险，并确保 AI 平稳地不间断运营。
使用 jumpbox 进行访问。 AI 开发访问应使用工作负荷的虚拟网络内的 jumpbox 或通过连接中心虚拟网络来进行。 使用 Azure Bastion 安全地连接与 AI 服务交互的虚拟机。 Azure Bastion 可提供安全的 RDP/SSH 连接，而不会在公共 Internet 上暴露 VM。 启用 Azure Bastion 可确保加密会话数据，并保护通过基于 TLS 的 RDP/SSH 连接的访问。
限制来自 AI 资源的出站流量。 限制 AI 模型终结点的出站流量有助于保护敏感数据，并维护 AI 模型的完整性。 为最大限度地降低数据外泄风险，应将出站流量限制在经批准的服务或完全合格的域名 (FQDN)，并维护可信来源列表。 只有在需要访问公共机器学习资源时，才允许不受限制的 Internet 出站流量，但要定期监控和更新系统。 有关详细信息，请参阅 Azure AI 服务、Azure AI Foundry，以及 azure 机器学习 。
考虑生成式 AI 网关。 考虑将 Azure API 管理 (APIM) 用作虚拟网络中的生成式 AI 网关。 生成式 AI 网关位于前端和 AI 终结点之间。 虚拟网络中的应用程序网关、WAF 策略和 APIM 是生成式 AI 解决方案中的既定体系结构。 有关详细信息，请参阅 AI Hub 体系结构和如何将 Azure API 管理实例部署到多个 Azure 区域。
使用 HTTPS 进行 Internet 与 Azure 的连接。 使用 TLS 协议的安全连接有助于保护从 Internet 连接的 AI 工作负荷的数据完整性和机密性。 通过 Azure 应用程序网关或 Azure Front Door 来实现 HTTPS。 这两项服务都可为源自 Internet 的连接提供加密的安全隧道。