Unity 目录和市场中预先训练的模型
重要
此功能目前以公共预览版提供。
Databricks 包括在 Unity 目录中选择高质量、预先训练的基础模型。 此外,还可以使用 Databricks Marketplace 从外部提供程序安装和部署预先训练的模型。 本文介绍如何使用这些模型并将其合并到推理工作流中。 这些预先训练的模型允许你访问最先进的 AI 功能,从而节省生成自己的自定义模型所需的时间和费用。
有关在 Unity 目录中使用自己的自定义模型的信息,请参阅管理 Unity 目录中的模型生命周期。
在 Unity 目录中查找预先训练的基础模型
在为 Mosaic AI 模型服务启用的区域,Databricks 预安装了一系列最先进的基础模型。 这些模型具有宽松的许可证,并且已针对使用预配的吞吐量基础模型 API 提供服务进行了优化。
这些模型可直接在架构 ai
(system.ai
) 中的目录 system
下从目录资源管理器获取。
只需单击一下即可为这些模型提供服务,也可以将它们直接合并到批处理推理工作流中。 若要提供预先训练的模型,请单击目录中的模型名称以打开模型页,然后单击“为此模型提供服务”。 有关模型服务的详细信息,请参阅 Azure Databricks 模型服务。 有关模型服务支持的区域列表,请参阅区域可用性。
默认情况下,system.ai
中的模型可供所有帐户用户使用。 Unity 目录元存储管理员可以限制对这些模型的访问。 请参阅 Unity Catalog 特权和安全对象。
在 Databricks Marketplace 中查找预先训练的模型
除了 system.ai
架构中内置的 Databricks 提供的模型外,还可以在 Databricks Marketplace 中找到并安装来自外部提供程序的模型。 可以将 Databricks Marketplace 中的模型列表安装到 Unity 目录中,然后在列表中部署模型以执行推理任务,就像将自己的模型之一样。