簡介

  • 1 分鐘

基礎模型 (例如 GPT-4) 是旨在了解、產生，以及與人類語言互動而設計的最先進自然語言處理模型。 若要了解基礎模型的重要性，請務必探索其來源，這源自自然語言處理領域的進展。

了解自然語言處理

自然語言處理 (NLP) 是一種人工智慧 (AI) 類型，著重於了解、解譯和產生人類語言。 一些常見的 NLP 使用案例如下：

  • 語音轉換文字和文字轉換語音。 例如，產生影片的字幕。
  • 機器翻譯。 例如，將文字從英文翻譯成日文。
  • 文字分類。 例如，將電子郵件標記為垃圾郵件或非垃圾郵件。
  • 實體擷取。 例如，從文件擷取關鍵字或名稱。
  • 文字摘要。 例如，從多頁文件產生簡短的一段摘要。
  • 問題解答。 例如，提供「法國的首都叫什麼？」之類問題的答案
  • 推理。 例如，解決數學問題。

注意

在本課程模組中，您會專注於探索用來回答問題的基礎模型。 您探索的基礎模型可用於您使用語言模型來產生使用者問題的回應的聊天應用程式。

了解轉換器架構的重要性

自然語言處理 (NLP) 的最新突破，是 轉換器 架構的開發。

Vaswani 等人在 2017 年發表的 《Attention is all you need》 論文中介紹了轉換器。 轉換器架構為 NLP 提供了兩項創新，導致基礎模型湧現：

  • 轉換器不需要循序處理字組，而是使用注意力，獨立平行處理每個字組。
  • 在字組之間的語意相似性旁邊，轉換器會使用位置編碼，在句子中包含字組位置的相關資訊。

針對 NLP 使用案例而設計的基礎模型通常稱為大型語言模型 (LLM) 或語言模型。 在本課程模組中，您會探索可用的語言模型、如何為您的使用案例選取模型，以及如何在 Azure AI Foundry 入口網站使用語言模型。 您會專注於語言模型，以協助您開發可作為聊天應用程式的生成式 AI 應用程式，會進行問題解答，以回答您的使用者問題。