Como usar listas de bloqueio com o serviço de inferência de modelo de IA do Azure nos serviços de IA do Azure
Os filtros de conteúdo configuráveis são suficientes para a maioria das necessidades de moderação de conteúdo. No entanto, pode ser necessário filtrar termos específicos para o seu caso de uso.
Pré-requisitos
Uma subscrição do Azure. Se você estiver usando Modelos do GitHub, poderá atualizar sua experiência e criar uma assinatura do Azure no processo. Leia Atualização de modelos do GitHub para inferência de modelo de IA do Azure, se for o seu caso.
Um recurso de serviços de IA do Azure. Para obter mais informações, consulte Criar um recurso dos Serviços de IA do Azure.
Um projeto do Azure AI Foundry e o Azure AI Foundry Hub conectados ao seu recurso de serviços de IA do Azure.
Uma implantação de modelo. Consulte Adicionar e configurar modelos aos serviços de IA do Azure para adicionar modelos ao seu recurso.
Nota
A lista de bloqueio (visualização) só é suportada para modelos OpenAI do Azure.
Criar uma lista de bloqueio
Vá para Azure AI Foundry e navegue até seu projeto/hub. Em seguida, selecione a página Safety+ Security no painel de navegação esquerdo e selecione a guia Listas de bloqueio.
Selecione Criar uma lista de bloqueio. Insira um nome para sua lista de bloqueios, adicione uma descrição e selecione um recurso do Azure OpenAI ao qual conectá-lo. Em seguida, selecione Criar lista de bloqueio.
Selecione sua nova lista de bloqueio depois de criada. Na página da lista de bloqueios, selecione Adicionar novo termo.
Insira o termo que deve ser filtrado e selecione Adicionar termo. Você também pode usar um regex. Pode eliminar cada termo da sua lista de bloqueios.
Anexar uma lista de bloqueio a uma configuração de filtro de conteúdo
Quando a lista de bloqueio estiver pronta, volte para a página Safety+ Security e selecione a guia Filtros de conteúdo. Crie uma nova configuração de filtro de conteúdo. Isso abre um assistente com vários componentes de segurança de conteúdo de IA.
Nas telas Filtro de entrada e Filtro de saída, ative o botão Lista de bloqueios. Em seguida, você pode selecionar uma lista de bloqueio na lista. Há dois tipos de listas de bloqueio: as listas de bloqueio personalizadas que você criou e as listas de bloqueio pré-criadas que a Microsoft fornece, neste caso, uma lista de bloqueio de palavrões (em inglês).
Agora você pode decidir qual das listas de bloqueio disponíveis deseja incluir em sua configuração de filtragem de conteúdo. A última etapa é revisar e concluir a configuração de filtragem de conteúdo selecionando Avançar. Você sempre pode voltar e editar sua configuração. Quando estiver pronto, selecione Criar filtro de conteúdo. A nova configuração que inclui suas listas de bloqueio agora pode ser aplicada a uma implantação.
