共用方式為

AI 架構設計

  • 發行項

AI 是一種技術，能讓機器模仿智慧的人類行為。 機器可以使用 AI 來：

  • 分析數據以建立影像和影片。
  • 分析和合成語音。
  • 以自然的方式口頭互動。
  • 進行預測併產生新的數據。

您可以將 AI 納入應用程式，以執行函式或做出傳統邏輯或處理無法有效處理的決策。 身為設計解決方案的架構設計人員，請務必瞭解 AI 和機器學習環境，以及如何將 Azure 解決方案整合到工作負載設計中。

開始吧

Azure 架構中心提供您可以套用至案例的範例架構、架構指南、架構基準和想法。 涉及 AI 和機器學習元件的工作負載應遵循 Azure Well-Architected Framework AI 工作負載 指引。 本指南包含原則和設計指南，可影響五個架構要素的 AI 和機器學習工作負載。 您應該在 Azure 架構中心的案例和內容中實作這些建議。

AI 概念

AI 概念包含各種不同的技術和方法，可讓機器執行通常需要人類智慧的工作。 下列各節提供重要 AI 概念的概觀。

演算法

演算法 或 機器學習演算法 是一些程式碼，可協助人們探索、分析和尋找複雜數據集中的意義。 每個演算法都是一組有限的明確逐步指示，機器可以遵循以達成特定目標。 機器學習模型的目標是建立或探索人類可用來進行預測或分類資訊的模式。 演算法可能會描述如何判斷寵物是否為貓、狗、魚、鳥或蜥蜴。 另一個更複雜的演算法可能會描述如何識別書面或口語語言、分析其單字、將它們翻譯成不同的語言，然後檢查翻譯的正確性。

選擇最適合您工作的演算法系列。 評估該系列中的各種演算法，以找出適合您的工作負載的演算法。 如需詳細資訊，請參閱 什麼是機器學習演算法？。

機器學習服務

機器學習是一種 AI 技術，會使用演算法來建立預測模型。 這些演算法會剖析數據欄位，並從數據內的模式「學習」以產生模型。 然後，模型可以根據新數據做出明智的預測或決策。

預測模型會根據已知數據進行驗證，以特定商務案例的效能計量測量，然後視需要進行調整。 此學習和驗證的程序稱為訓練。 透過定期重新定型，機器學習模型會隨著時間改善。

在工作負載設計中，如果您的情境包含可用來可靠預測未來情況的過去觀察，您可能會使用機器學習。 這些觀察可以是普遍的真理，例如電腦視覺能分辨不同類型的動物。 或者，這些觀察可能專屬於您的情況，例如電腦視覺，根據過去的保固索賠數據，在您的組裝線上偵測潛在的組裝錯誤。

如需詳細資訊，請參閱 什麼是機器學習？。

深度學習

深度學習 是一種機器學習，可透過自己的數據處理來學習。 如同機器學習，它也會使用演算法來分析數據。 但它會透過包含許多輸入、輸出和處理層的人工神經網路來分析數據。 每一層都可以以不同的方式處理數據。 一層的輸出會成為下一層的輸入。 此程式可讓深度學習建立比傳統機器學習更複雜的模型。

深度學習需要大量投資，才能產生高度自定義或探勘模型。 在將深度學習新增至工作負載之前，您可能會考慮本文中的其他解決方案。

如需詳細資訊，請參閱 什麼是深度學習？。

生成式 AI

生成式 AI 訓練模型，使用自然語言、電腦視覺、音訊或影像等多種形式的內容來生成原創內容。 透過產生 AI，您可以使用日常語言來描述所需的輸出，而且模型可以藉由建立適當的文字、影像和程式代碼來回應。 衍生式 AI 應用程式的範例包括Microsoft Copilot 和 Azure OpenAI 服務。

  • Copilot 主要是一個使用者介面，可協助您撰寫程式代碼、檔和其他以文字為基礎的內容。 它是以熱門的 OpenAI 模型為基礎，並已整合到各種Microsoft應用程式和用戶體驗中。

  • Azure OpenAI 是一種開發平臺即服務，可存取 OpenAI 的強大語言模型，例如 o1-preview、o1-mini、GPT-4o、GPT-4o mini、GPT-4 Turbo with Vision、GPT-4、GPT-3.5-Turbo 和 Embeddings 模型系列。 您可以將這些模型調整為特定的工作，例如：

    • 內容生成。
    • 內容摘要。
    • 影像理解。
    • 語意搜尋。
    • 程式代碼翻譯的自然語言。

語言模型

語言模型 是產生 AI 的子集，著重於自然語言處理工作，例如文字產生和情感分析。 這些模型會根據特定內容中出現的單字或單字序列機率來代表自然語言。

傳統語言模型常用於研究目的的受監督設定中，這些模型在標註完善的文字數據集上針對特定任務進行訓練。 預訓練語言模型提供了一個便於入門 AI 的方式。 近年來，它們被更廣泛地使用。 這些模型會透過深度學習神經網路，從網際網路上訓練大量的文字集合。 您可以在較小的數據集上微調模型來完成特定任務。

參數數目或權數會決定語言模型的大小。 參數會影響模型如何處理輸入數據併產生輸出。 在定型期間，模型會調整權數，以將預測與實際數據之間的差異降到最低。 此程式是模型學習參數的方式。 模型擁有的參數越多，就越複雜且具有表達性。 但定型和使用成本也更高。

一般而言，小型語言模型通常少於100億個參數，而大型語言模型具有超過100億個參數。 例如，Microsoft Phi-3 模型系列有三個版本：

  • 迷你，38 億個參數
  • 小型，70 億個參數
  • 中等，140 億個參數

如需詳細資訊，請參閱 語言模型目錄。

Copilots

語言模型的可用性促成了透過數位助手和連接的、特定領域代理程式來與應用程式和系統互動的新方法的出現。 Copilots 是一種衍生式 AI 助理，通常以聊天介面的形式整合至應用程式。 它們為這些應用程式中的一般工作提供了内容支援。

Microsoft Copilot 與各種Microsoft應用程式和用戶體驗整合。 其以開放式架構為基礎，其中非Microsoft開發人員可以建立自己的外掛程式，以擴充或自定義 Copilot 的用戶體驗。 合作夥伴開發人員也可以使用相同的開放架構來建立自己的副手。

如需詳細資訊，請參閱下列資源：

擷取增強生成

擷取擴增世代 （RAG） 是一種架構模式，可增強大型語言模型 （LLM） 的功能，例如 ChatGPT，而僅針對公用數據進行定型。 您可以使用此模式來新增一個提供相關背景數據的檢索系統，以滿足使用者的要求。 資訊擷取系統可控制語言模型在制定回應時所使用的基礎數據。 RAG 架構可協助您將產生 AI 的範圍限定為從向量化檔、影像和其他數據格式所產生的內容。 RAG 不限於向量搜尋記憶體。 您可以使用任何資料儲存技術。

如需詳細資訊，請參閱 設計和開發RAG解決方案 和 選擇 Azure 服務進行向量搜尋。

Azure AI 服務

透過 Azure AI 服務，開發人員和組織可以使用現成、預建且可客製化的 API 和模型來建立智慧型、符合市場需求且負責任的應用程式。 使用案例包括交談、搜尋、監視、翻譯、語音、視覺和決策的自然語言處理。

如需詳細資訊，請參閱下列資源：

AI 語言模型

LLM，例如 OpenAI GPT 模型，是功能強大的工具，可跨各種領域和工作產生自然語言。 若要選擇模型，請考慮數據隱私權、道德使用、精確度和偏差等因素。

Phi 開放式模型 是小型、較少的計算密集型模型，適用於 Generative AI 解決方案。 小型語言模型可能比 LLM 更有效率、可解譯且可解釋。

當您設計工作負載時，可以使用語言模型作為計量式 API 後方的託管解決方案。 或者，對於許多小型語言模型，您可以將語言模型裝載在同一進程中，或至少使用與取用者相同的計算資源。 當您在解決方案中使用語言模型時，請考慮您選擇的語言模型及其可用的裝載選項，以協助確保使用案例的優化解決方案。

AI 開發平臺和工具

下列 AI 開發平臺和工具可協助您建置、部署及管理機器學習和 AI 模型。

Azure Machine Learning

Azure Machine Learning 是一種機器學習服務，可用來建置和部署模型。 Machine Learning 提供 Web 介面和 SDK，可讓您大規模定型和部署機器學習模型和管線。 您可以搭配 PyTorch、TensorFlow 和 scikit-learn 等開放原始碼 Python 架構使用這些功能。

如需詳細資訊，請參閱下列資源：

適用於 Azure 的機器學習參考架構

自動化機器學習

自動化機器學習 （AutoML） 是自動化機器學習模型開發的耗時反覆工作的程式。 數據科學家、分析師和開發人員可以使用 AutoML 來建置具有高規模、效率和生產力的機器學習模型，同時維持模型品質。

如需詳細資訊，請參閱下列資源：

MLflow

Machine Learning 工作區與 MLflow 相容，這表示您可以使用與 MLflow 伺服器相同的 Machine Learning 工作區。 此相容性提供下列優點：

  • Machine Learning 不會裝載 MLflow 伺服器實例，但可以直接使用 MLflow API。
  • 您可以使用 Machine Learning 工作區作為任何 MLflow 程式代碼的追蹤伺服器，無論它是否在 Machine Learning 中執行。 您必須設定 MLflow，以指向應該進行追蹤的工作區。
  • 您可以在 Machine Learning 中執行使用 MLflow 的定型例程，而不需要進行任何變更。

如需詳細資訊，請參閱 MLflow 和 Machine Learning 和 MLflow。

Generative AI 工具

  • 提示流程 是一套開發工具，可讓您用來簡化產生 AI 應用程式的端對端開發週期，從構想、原型設計、測試和評估，到生產部署和監視。 它透過在模組化協調流程和流程引擎中表達動作，支援提示工程。

  • Azure AI Foundry 可協助您以完整的平臺負責實驗、開發及部署產生式 AI 應用程式和 API。 AI Foundry 入口網站可讓您存取 Azure AI 服務、基礎模型、遊樂場和資源，以協助您建置、定型、微調及部署 AI 模型。 您也可以評估模型回應，並使用提示流程協調提示應用程式元件，以提升效能。

  • Copilot Studio 在 Microsoft 365 中擴充 Copilot。 您可以使用 Copilot Studio 來為內部和外部應用場景建立自定義的駕駛員助手。 使用完整的撰寫畫布來設計、測試及發佈 Copilot。 您可以輕鬆地建立生成式 AI 驅動的對話，為現有輔助工具提供更大的回應控制，並使用自動化工作流程來加速生產力提升。

AI 的數據平臺

下列平臺提供數據移動、處理、擷取、轉換、即時分析和報告的完整解決方案。

Microsoft Fabric

Microsoft Fabric 是一種端對端分析和數據平臺，適用於需要統一解決方案的企業。 您可以授與工作負載團隊存取 Fabric 內資料的權限。 此平臺涵蓋數據移動、處理、擷取、轉換、即時事件路由，以及報表建置。 它提供完整的服務套件，包括網狀架構數據工程師、網狀架構 Data Factory、網狀架構數據科學、網狀架構 Real-Time 智慧、網狀架構數據倉儲和網狀架構資料庫。

Fabric 會將不同的元件整合至統一的結構。 您可以使用 OneLake 來集中儲存資料，而不是依賴不同的資料庫或資料倉儲。 AI 功能內嵌在 Fabric 中，不需要手動整合。

如需詳細資訊，請參閱下列資源：

Fabric 中的 Copilots

您可以使用 Copilot 和其他產生 AI 功能來轉換和分析數據、產生見解，以及在 Fabric 和 Power BI 中建立視覺效果和報表。 您可以建置自己的 Copilot，或選擇下列其中一個預先建置的 Copilot：

Fabric 中的 AI 技能

您可以使用 Fabric AI 技能功能來設定生成式 AI 系統，以產生能夠回答數據相關問題的查詢。 設定AI技能之後，您可以與同事共用，然後以簡單語言詢問其問題。 根據其問題，AI 會針對回答這些問題的數據產生查詢。

如需詳細資訊，請參閱下列資源：

適用於 AI 的 Apache Spark 型數據平臺

Apache Spark 是一個平行處理架構，可支援記憶體內部處理，以大幅提升巨量資料分析應用程式的效能。 Spark 提供記憶體內部叢集運算的基本建置組塊。 Spark 作業可以將數據載入並快取到記憶體中，並重複查詢數據，這比 Hadoop 等磁碟應用程式更快。

Microsoft Fabric 中的 Apache Spark

Fabric Runtime 是以 Apache Spark 為基礎的 Azure 整合平臺，可實作和管理數據工程和數據科學體驗。 Fabric 運行時間結合了來自內部和開放原始碼來源的重要元件，可提供完整的解決方案。

Fabric 執行環境具有下列核心元件：

  • Apache Spark 是功能強大的開放原始碼分散式運算連結庫，可進行大規模的數據處理和分析工作。 Apache Spark 為資料工程和資料科學體驗提供多功能且高效能的平臺。

  • Delta Lake 是一種開放原始碼儲存層，將原子性、一致性、隔離性和持久性（ACID）交易以及其他資料可靠性功能與 Apache Spark 整合。 在 Fabric 運行時間內整合，Delta Lake 可增強數據處理功能，並協助確保跨多個並行作業的數據一致性。

  • Java、Scala、Python 和 R 的預設層級套件是支援各種程式設計語言和環境的套件。 這些套件會自動安裝並設定，讓開發人員可以套用其慣用的程式設計語言來處理數據處理工作。

Fabric 執行環境建置在健全的開放原始碼作業系統上，以確保可以協助與各種硬體組態和系統需求的相容性。

如需詳細資訊，請參閱在 Fabric 中Apache Spark 運行時間。

用於 Machine Learning 的 Azure Databricks Runtime

Azure Databricks 是以 Apache Spark 為基礎的分析平臺，具有單鍵設定、簡化的工作流程，以及數據科學家、工程師和商務分析師之間共同作業的互動式工作區。

您可以使用 適用於機器學習的 Databricks 運行環境 來啟動 Databricks 叢集，其中包含分佈式訓練所需的所有程式庫。 此功能提供機器學習和數據科學的環境。 其中包含多個熱門連結庫，包括 TensorFlow、PyTorch、Keras 和 XGBoost。 它也支援透過 Horovod 的分散式訓練。

如需詳細資訊，請參閱下列資源：

Azure HDInsight 中的 Apache Spark

Azure HDInsight 中的 Apache Spark 是 Apache Spark 在雲端中的 Microsoft 實作。 HDInsight 中的 Spark 叢集與 Azure 記憶體和 Azure Data Lake Storage 相容，因此您可以使用 HDInsight Spark 叢集來處理儲存在 Azure 中的數據。

SynapseML，先前稱為 MMLSpark，是適用於 Apache Spark 的 Microsoft 機器學習程式庫。 此開放原始碼程式庫會將許多深度學習和資料科學工具、網路功能和生產等級效能，新增至 Spark 生態系統。

如需詳細資訊，請參閱下列資源：

AI 的數據記憶體

您可以使用下列平臺，有效率地儲存、存取和分析大量數據。

Fabric OneLake

Fabric 中的 OneLake 是一個統一且邏輯的數據湖，您可以針對整個組織量身打造。 它可作為所有分析資料的中央中心，並包含於每個 Fabric 租戶中。 OneLake in Fabric 是以 Data Lake Storage 為基礎所建置。

Fabric 中的 OneLake：

  • 支援結構化和非結構化檔案類型。
  • 以 Delta-Parquet 格式儲存所有表格式數據。
  • 提供依預設控管之租用戶界限內的單一資料湖。
  • 支援在租戶內建立工作區，讓您的組織能夠分配擁有權和存取權限。
  • 支援建立各種資料項目，例如您可以從中存取資料的和倉儲。

如需詳細資訊，請參閱 OneLake 即為適用於資料的 OneDrive。

Data Lake Storage

Data Lake Storage 是單一集中式存放庫，可讓您儲存結構化和非結構化數據。 使用 Data Lake 快速且輕鬆地儲存、存取及分析單一位置的各種數據。 您不需要使數據適應現有的結構。 相反地，您可以將數據以原始或原生格式儲存，通常是檔案或二進位大型物件（Blob）。

Data Lake Storage 提供文件系統語意、檔案層級安全性和規模。 由於這些功能是以 Azure Blob 記憶體為基礎所建置，因此您也會取得具有高可用性和災害復原功能的低成本階層式記憶體。

Data Lake Storage 會使用 Azure 記憶體的基礎結構來建立在 Azure 上建置企業數據湖的基礎。 Data Lake Storage 可以服務數 PB 的資訊，同時維持數百 GB 的輸送量，以便您可以管理大量數據。

如需詳細資訊，請參閱下列資源：

AI 數據處理

您可以使用下列工具來準備機器學習和 AI 應用程式的數據。 請確定您的數據是乾淨且結構化的，讓您可以將其用於進階分析。

網狀架構 Data Factory

您可以使用 Fabric Data Factory 從多個數據源擷取、準備和轉換數據，例如資料庫、數據倉儲、Lakehouse 和實時數據流。 此服務可協助您在設計工作負載時符合數據作業需求。

Fabric Data Factory 支援程式代碼解決方案和無程式代碼或低程式碼解決方案：

  • 使用 數據管線，以雲端規模建立工作流程功能。 使用拖放介面來建置工作流程，以重新整理數據流、移動 PB 大小的數據，以及定義控制流程管線。

  • 使用 數據流 做為低程式代碼介面，從數百個數據源擷取數據，並使用超過 300 個數據轉換加以轉換。

如需詳細資訊，請參閱 Data Factory 端對端案例：簡介和架構。

Azure Databricks

您可以使用 Databricks Data Intelligence Platform 撰寫程式代碼，以使用特徵工程來建立機器學習工作流程。 功能工程 是將原始數據轉換成可用來定型機器學習模型的功能的程式。 Databricks Data Intelligence Platform 包含支持特徵工程的主要功能：

  • 數據管線 擷取原始數據、建立特徵數據表、定型模型，以及執行批次推斷。 當您在 Unity 目錄中使用特徵工程來定型和記錄模型時，模型會封裝為特徵元數據。 當您使用模型進行批次評分或線上推斷時，它會自動擷取特徵值。 呼叫端不需要了解特徵值，也不需要包含查找或連接特徵的邏輯來對新數據進行評分。

  • 模型和特性端點 能被立即存取，且延遲僅為毫秒。

  • 監視 有助於確保數據和模型的效能和精確度。

您也可以使用 馬賽克 AI 向量搜尋 來儲存和擷取內嵌。 內嵌對於需要相似性搜尋的應用程式至關重要，例如RAG、建議系統和影像辨識。

如需詳細資訊，請參閱 Azure Databricks：為機器學習和 AI 服務數據。

適用於 AI 的數據連接器

Azure Data Factory 和 Azure Synapse Analytics 管線可透過複製、資料流、查閱、取得元數據和刪除活動來支援許多數據存放區和格式。 若要查看可用的數據存放區連接器、支援的功能，包括對應的組態，以及一般開放式資料庫連線選項，請參閱 Azure Data Factory 和 Azure Synapse Analytics 連接器概觀。

自訂 AI

自定義 AI 解決方案可協助您解決特定的商務需求和挑戰。 下列各節提供可用來建置和管理自定義 AI 模型的各種工具和服務概觀。

Azure Machine Learning

Azure Machine Learning 是一項雲端服務，可加速和管理機器學習專案生命週期。 機器學習專業人員、數據科學家和工程師可以在日常工作流程中使用這項服務，來定型及部署模型及管理機器學習作業。

Machine Learning 提供下列功能：

  • 演算法選取： 某些演算法會對資料結構或所需結果進行特定假設。 選擇符合需求的演算法，讓您可以取得更有用的結果、更精確的預測，以及更快的定型時間。 如需詳細資訊，請參閱 如何選取 Machine Learning的演算法。

  • 超參數微調或優化： 您可以使用此手動程式來尋找產生最佳效能的超參數位態。 此優化會產生大量的計算成本。 超參數 是可在模型訓練過程中提供調控的可調整參數。 例如，您可以選擇隱藏層的數目，以及神經網路每一層中的節點數目。 模型效能主要取決於超參數。

    您可以使用 Machine Learning 將超參數微調自動化，並平行執行實驗，以有效率地優化超參數。

    如需詳細資訊，請參閱下列資源：

  • 模型定型： 您可以反覆使用演算法來建立或 教導 模型。 定型模型之後，您可以使用這些模型來分析數據並進行預測。

    在訓練階段：

    1. 系統會標記一組品質的已知數據，以便識別個別欄位。

    2. 設定為進行特定預測的演算法會收到標記的數據。

    3. 演算法會輸出模型，以擷取它在數據中所識別的模式。 模型會使用一組參數來表示這些模式。

    在驗證期間：

    1. 新數據會標記並用來測試模型。

    2. 演算法會視需要進行調整，並可能進行更多訓練。

    3. 測試階段會使用沒有任何標記或預先選取目標的實際數據。 如果模型的結果正確，就可以使用並部署。

    如需詳細資訊，請參閱下列資源：

  • AutoML： 此程式會將機器學習模型開發的耗時反覆工作自動化。 它可以大幅縮短產生生產就緒機器學習模型所需的時間。 AutoML 可協助進行模型選取、超參數微調、模型定型和其他工作，而不需要廣泛的程式設計或領域知識。

    當您想要Machine Learning 使用指定的目標計量來定型和微調模型時，可以使用 AutoML。 您不需要數據科學的專業知識就能找出解決問題的端到端機器學習流程。

    跨產業的機器學習專業人員和開發人員可以使用 AutoML 來：

    • 實作機器學習解決方案，而不需要廣泛的程式設計或機器學習知識。
    • 節省時間和資源。
    • 套用數據科學最佳做法。
    • 提供敏捷式解決問題。

    如需詳細資訊，請參閱 什麼是 AutoML？。

  • 評分： 這個程式也稱為 預測，會使用定型的機器學習模型，根據新的輸入數據產生值。 這些值或分數可以代表未來值的預測，但它們也可能代表可能分類或結果。

    如需詳細資訊，請參閱下列資源：

  • 特徵工程和特徵化： 訓練數據由行和欄組成。 每個資料列都是觀察或記錄，而每個資料列的資料行都是描述每筆記錄的特徵。 通常，系統會選取最能特徵化資料中模式的特徵，以建立預測模型。

雖然您可以使用許多原始數據欄位來定型模型，但您可能需要建立其他設計功能，以提供資訊，以更好地區分數據中的模式。 此程式稱為「特徵工程」，您可以在其中使用數據領域知識來建立可協助機器學習演算法進一步學習的功能。

在 Machine Learning 中，數據調整和正規化技術會套用以簡化特徵工程。 這些技術和特徵工程在 AutoML 實驗中集體被稱為 特徵化。 如需詳細資訊，請參閱自動化機器學習 中的數據特徵化。

Azure OpenAI

在 Azure OpenAI 中，您可以使用稱為 微調 的程式，為個人數據集量身打造 OpenAI 模型。 此自訂步驟會藉由提供下列項目來優化服務：

  • 相比僅使用 提示工程，獲得了品質更高的結果。
  • 能夠訓練的範例數量超過模型的最大上下文限制通常允許的範圍。
  • 因為提示較短，所以可以節省Token。
  • 較低的延遲要求，特別是當您使用較小的模型時。

如需詳細資訊，請參閱下列資源：

適用於自定義 AI 的 Azure AI 服務

Azure AI 服務 提供建置自定義 AI 模型和應用程式的功能。 下列各節提供這些主要功能的概觀。

自訂語音

自訂語音 是 Azure AI 語音服務的一項功能。 您可以使用自訂語音來評估及改善應用程式和產品的語音辨識精確度。 使用自訂語音模型進行即時語音轉換文字、語音翻譯和批次轉譯。

根據預設，語音辨識會使用通用語言模型作為基底模型。 此模型會使用Microsoft擁有的數據來定型，並反映常用的口語語言。 基礎模型是預先訓練的，涵蓋能夠代表各種常見領域的方言和語音。 當您提出語音辨識要求時，預設會使用您支持語言的最新基底模型。 基礎模型在大部分的語音辨識案例中運作良好。

您可以使用自定義模型來增強基底模型。 例如，您可以藉由提供文字數據來定型模型，來改善應用程式特有的領域特定詞彙辨識。 您也可以提供音訊數據，包括參考轉譯，以改善應用程式特定音訊條件的辨識。

如果數據遵循模式，您可以使用結構化文字來定型模型。 您可以指定自定義發音，並透過反向文字正規化、重寫和粗話篩選的自定義設定來調整顯示文字格式。

自訂翻譯工具

自定義翻譯工具 是 Azure AI Translator 服務 功能。 企業、應用程式開發人員和語言服務提供者可以使用自定義翻譯工具來建置自定義的類神經機器翻譯（NMT）系統。 自訂的翻譯系統會順暢地整合到現有應用程式、工作流程和網站。

您可以使用這項功能來建置自定義翻譯系統，並從英文發佈。 自定義翻譯工具支援三十多個直接對應至 NMT 語言的語言。 如需語言的完整清單，請參閱 翻譯工具語言支援。

自訂翻譯工具提供下列功能。

功能 描述
套用 NMT 技術 從自訂翻譯工具套用 NMT 以改善您的翻譯。
建置瞭解商務術語的系統 透過瞭解您業務和行業術語的平行檔，客製化並建置翻譯系統。
使用字典來建置模型 如果您沒有定型數據集，請只使用字典數據來定型模型。
與其他人共同作業 與團隊成員共享您的工作，進行合作。
存取自訂翻譯模型 隨時透過Microsoft翻譯工具文字 API V3 使用現有的應用程式或程式，存取您的自定義翻譯模型。

Azure AI 文件智慧自定義模型

Azure AI 檔智慧 使用進階機器學習技術來識別檔、偵測及擷取表單和文件的資訊，以及傳回結構化 JSON 輸出中擷取的數據。 使用文件智能來利用預先建置或預先訓練的檔分析模型或經過訓練的獨立自定義模型。

Document Intelligence 自定義模型 包含自定義分類模型，讓您在叫用擷取模型之前，必須先識別文件類型的案例。 您可以將分類模型與自定義擷取模型配對，以分析及擷取您企業專屬表單和檔的欄位。 結合獨立的自定義擷取模型來創建 的組合模型。

自定義 AI 工具

預先建置的 AI 模型很有用且越來越具彈性，但優化 AI 的最佳方式是針對您的特定需求量身打造模型。 建立自定義 AI 模型的兩個主要工具是產生 AI 和傳統機器學習。

Azure Machine Learning studio

Azure Machine Learning Studio 是一項雲端服務，可加速和管理機器學習專案生命週期。 機器學習專業人員、數據科學家和工程師可以在日常工作流程中使用，來定型及部署模型及管理機器學習作業。

  • 可以使用任何類型的計算資源（包括 Spark 和 GPU），以建置和訓練機器學習模型，從而處理雲端規模的大型 AI 工作負載。

  • 執行 AutoML，並使用適用於低程式代碼機器學習的拖放 UI。

  • 實作端到端機器學習操作和可重複的流水線。

  • 使用負責任的 AI 儀錶板進行偏差偵測和錯誤分析。

  • 協調和管理工程與 LLM 流程。

  • 透過 REST API 端點、即時推斷和批次推斷來部署模型。

  • 使用中樞工作區來共用公司資源的計算、配額、安全性和連線能力，同時集中治理 IT。 先設定一次中樞，然後直接從 Studio 為每個專案建立安全工作區。 使用集中式中心在工作室和 AI Foundry 入口網站中管理您的團隊的工作。

AI Foundry

AI Foundry 可透過廣泛的 Azure AI 供應專案，協助您有效率地建置和部署自定義的再生 AI 應用程式。

  • 以小組形式共同建置。 您的 AI Foundry 中樞提供企業級安全性與共同作業環境，其中包含共用資源和預先定型模型、數據和計算的連接。

  • 組織您的工作。 您的 AI Foundry 專案可協助您儲存狀態，以便從第一個想法不斷迭代到第一個原型，並最終實現首次生產部署。 輕鬆地邀請其他人與您共同作業。

  • 使用您慣用的開發平臺和架構，包括 GitHub、Visual Studio Code、LangChain、Semantic Kernel 和 AutoGen。

  • 從超過 1,600 種機型中發掘和比較。

  • 透過使用無伺服器 API 提供模組即服務（MaaS），並提供微調服務。

  • 結合多種模型、資料來源和模式。

  • 使用受保護的企業數據建置 RAG，而不需要微調。

  • 協調和管理工程與 LLM 流程。

  • 透過可設定的篩選和控制項來設計和保護應用程式和 API。

  • 使用內建和自定義評估流程來評估模型回應。

  • 將 AI 創新部署至 Azure 管理的基礎結構，以跨環境提供持續監視和治理。

  • 在生產環境中持續監控已部署的應用程式,以確保安全性、品質和權杖使用量。

如需詳細資訊，請參閱 AI Foundry 入口網站與 Machine Learning Studio。

AI Foundry 入口網站中的提示操作流程

AI Foundry 入口網站中的 提示流程 是一種開發工具，可用來簡化由 LLM 支援的 AI 應用程式整個開發週期。 提示流程提供了全方位的解決方案，可簡化原型設計、實驗、反覆執行和部署 AI 應用程式的流程。

  • 提示流是一項功能，可用來產生、自訂或執行流程。

  • 流程是可實作 AI 邏輯的指令集。 透過工具建立或執行工作流程，例如預建畫布或 LangChain。 您可以將流程的版本保存為資產。 部署流程之後，它會變成 API。 並非所有流程都是即時流程。 提示流程是建立流程的一種方式。

  • 提示是傳送至模型的一組輸入。 其中包含使用者輸入、系統訊息和任何範例。 使用者輸入是在聊天視窗中提交的文字。 系統訊息是模型一組指示，可限定其行為和功能。

  • 範例流程是簡單的預先建置協調流程流程，可示範流程的運作方式。 您可以自定義範例流程。

  • 範例提示是針對特定情境的已定義提示，您可以從資料庫中複製，然後在提示設計中使用 as-is 或進行修改。

自定義 AI 程式代碼語言

AI 的核心概念是使用演算法來分析數據併產生模型，以有用的方式描述或評分。 開發人員和數據科學家，有時還有其他演算法，使用程式設計程式代碼來撰寫演算法。 適用於 AI 開發的其中兩種最受歡迎的程式設計語言是 Python 和 R。

Python 是一般用途的高階程式設計語言。 該語言有簡單又易學的語法，特別強調可讀性。 沒有編譯步驟。 Python 具有大型標準連結庫，並支援新增模組和套件的功能。 此功能鼓勵模組化，並可讓您在需要時擴充功能。 適用於 Python 的 AI 和機器學習連結庫生態系統龐大且日益成長，包括 Azure 中的許多連結庫。

如需詳細資訊，請參閱下列資源：

R 是統計運算和圖形的語言和環境。 您可以將它用於在線分析廣泛的社交和行銷趨勢，或用於開發金融和氣候模型等用途。

Microsoft完全採用 R 程式設計語言，並提供許多選項讓 R 開發人員在 Azure 中執行其程式代碼。

如需詳細資訊，請參閱 在Machine Learning上以互動方式使用 R。

如需 Azure 上自定義 AI 的一般資訊，請參閱下列資源：

客戶案例

許多產業都以創新且鼓舞人心的方式應用 AI。 請考慮下列客戶案例研究和成功案例：

瀏覽更多 AI 客戶案例

Microsoft AI 的一般資訊

深入瞭解Microsoft AI，並隨時掌握相關新聞：

下一步

  • 在 Azure 上 AI 工作負載