Azure 上 AI 工作負載的網路建議
本文針對在 Azure 上執行 AI 工作負載的組織提供網路建議。 其著重於 Azure AI 平臺即服務 （PaaS） 解決方案，包括 Azure AI Foundry、Azure OpenAI、Azure Machine Learning 和 Azure AI 服務。 其涵蓋產生式和非產生式 AI 工作負載。
網路功能可讓您安全地且有效率地連線到重要的 AI 資源，而且是數據完整性和隱私權的基礎。 有效的網路策略可保護敏感性 AI 工作負載免於未經授權的存取，並協助將 AI 模型定型和部署的效能優化。
設定虛擬網路
設定虛擬網路是指設定和管理 Azure AI 平臺的私人與安全網路環境。 虛擬網路可讓組織隔離 AI 工作負載，並建立安全的通道。 適當的設定可確保只有已授權的用戶和系統可以存取重要的 AI 資源，並將公開因特網的風險降到最低。
| AI 平台 | 虛擬網路建議 |
|---|---|
| Azure AI Foundry | 設定 受控虛擬網路，並使用 私人端點。 如有需要，請將受控虛擬網路連線到 內部部署資源。 |
| Azure OpenAI | 限制存取 虛擬網路，或使用 私人端點。 |
| Azure Machine Learning | 使用虛擬網路建立 安全工作區 。 規劃網路隔離。 請遵循 為 Azure Machine Learning 提供的安全性最佳做法。 |
| Azure AI 服務 | 限制存取 虛擬網路，或使用 私人端點。 |
Azure AI Foundry 和 Azure Machine Learning 部署到由 Microsoft 管理的虛擬網路，並部署所需的相依服務。 受控虛擬網路會使用私人端點來存取支援的 Azure 服務，例如 Azure 儲存體、Azure 金鑰保存庫 和 Azure Container Registry。 使用連結來檢視這些服務的網路架構，以便您最好地設定虛擬網路。
保護虛擬網路
保護虛擬網路涉及使用私人端點、強制執行 DNS 區域，以及啟用自定義 DNS 伺服器來保護 AI 工作負載。 這些策略會限制公用因特網暴露，並防止未經授權的存取。 有效的網路安全性對於保護敏感性 AI 模型並確保隱私權合規性至關重要。
考慮私人端點。 不得從公用因特網存取 PaaS 服務或 AI 模型端點。 私人端點可提供虛擬網路內 Azure 服務的私人連線。 私人端點會增加部署和作業的複雜性，但安全性優點通常超過複雜性。
請考慮為 AI 服務入口網站建立私人端點。 私人端點提供安全、私人的 PaaS 入口網站存取，例如 Azure AI Foundry 和 Azure Machine Learning StudioF。 在中樞虛擬網路中設定這些全域入口網站的私人端點。 此組態可讓您直接從用戶裝置安全地存取公開入口網站介面。
請考慮強制執行私人 DNS 區域。 私用 DNS 區域集中且安全的 DNS 管理，以存取 AI 網路內的 PaaS 服務。 設定 Azure 原則，以強制執行私人 DNS 區域，並要求私人端點，以確保安全的內部 DNS 解析。 如果您沒有中央 私用 DNS 區域，在手動新增條件式轉送之前，DNS 轉送將無法運作。 例如，請參閱使用自定義 DNS 的
，結合 Azure AI Foundry 中樞和 Azure Machine Learning 工作區。 啟用 PaaS 服務的自定義 DNS 伺服器和私人端點。 自定義 DNS 伺服器會管理網路內的 PaaS 連線，略過公用 DNS。 設定 Azure 中的私人 DNS 區域，以安全地解析 PaaS 服務名稱，並透過專用網信道路由傳送所有流量。
管理連線能力
管理連線能力可控制 AI 資源如何與外部系統互動。 使用 Jumpbox 和限制輸出流量等技術可協助保護 AI 工作負載。 適當的連線管理可將安全性風險降至最低，並確保順暢且不間斷的 AI 作業。
使用 jumpbox 進行存取。 AI 開發存取應該使用工作負載虛擬網路內的 jumpbox，或透過連線中樞虛擬網路。 使用 Azure Bastion 安全地連線到與 AI 服務互動的虛擬機。 Azure Bastion 提供安全的 RDP/SSH 連線能力，而不需要將 VM 公開至公用因特網。 啟用 Azure Bastion 以確保加密的作業階段資料，並透過 TLS 型 RDP/SSH 連線保護存取。
限制來自 AI 資源的輸出流量。 限制 AI 模型端點的輸出流量有助於保護敏感數據，並維護 AI 模型的完整性。 為了將數據外泄風險降至最低，請將輸出流量限制為已核准的服務或完整功能變數名稱 （FQDN），並維護受信任的來源清單。 如果您需要存取公用機器學習資源，但定期監視和更新系統，您應該只允許不受限制的因特網輸出流量。 如需詳細資訊，請參閱 Azure AI 服務、Azure AI Foundry和 Azure Machine Learning。
請考慮產生 AI 閘道。 請考慮使用 Azure API 管理 （APIM） 作為虛擬網路內產生的 AI 閘道。 產生的 AI 閘道位於前端和 AI 端點之間。 應用程式閘道，虛擬網路內的 WAF 原則和 APIM 是產生式 AI 解決方案中已建立的架構。 如需詳細資訊，請參閱 AI Hub 架構和將 Azure API 管理 實例部署到多個 Azure 區域。
使用 HTTPS 進行因特網對 Azure 連線。 使用 TLS 通訊協定保護連線，有助於保護從因特網連線之 AI 工作負載的數據完整性和機密性。 透過 Azure 應用程式閘道 或 Azure Front Door 實作 HTTPS。 這兩項服務都為因特網原始連線提供加密且安全的通道。