Como usar listas de bloqueio com o serviço de inferência de modelo de IA do Azure nos serviços de IA do Azure
Os filtros de conteúdo configuráveis são suficientes para a maioria das necessidades de moderação de conteúdo. No entanto, você pode ter que filtrar os termos específicos para seu caso de uso.
Pré-requisitos
Uma assinatura do Azure. Se você estiver usando Modelos do GitHub, poderá atualizar sua experiência e criar uma assinatura do Azure no processo. Leia Atualizar dos modelos do GitHub para inferência de modelo de IA do Azure se esse for o seu caso.
Um recurso dos serviços de IA do Azure. Para obter mais informações, confira Criar um recurso dos Serviços de IA do Azure.
Um projeto da Fábrica de IA do Azure e o Hub da Fábrica de IA do Azure conectados ao recurso de serviços de IA do Azure.
Um modelo de implantação. Consulte Adicionar e configurar modelos aos serviços de IA do Azure para adicionar modelos ao seu recurso.
Observação
A lista de bloqueios (versão prévia) só tem suporte para modelos do OpenAI do Azure.
Criar uma lista de bloqueio
Acesse IA do Azure Foundry e navegue até seu projeto/hub. Em seguida, selecione a página Segurança na navegação à esquerda e selecione a guia Listas de bloqueio.
Selecione Criar uma lista de bloqueio. Insira um nome para a lista de bloqueio, adicione uma descrição e selecione um recurso do OpenAI do Azure ao qual conectá-la. Em seguida, selecione Criar Lista de Bloqueio.
Selecione a nova lista de bloqueio quando ela for criada. Na página da lista de bloqueio, selecione Adicionar novo termo.
Insira um termo que deve ser filtrado e selecione Adicionar termo. Você também pode usar uma regex. Você pode excluir cada termo da sua lista de bloqueio.
Anexar uma lista de bloqueio a uma configuração de filtro de conteúdo
Quando a lista de bloqueio estiver pronta, volte para a página Segurança e selecione a guia Filtros de conteúdo. Crie uma configuração de filtro de conteúdo. Isso abre um assistente com vários componentes de segurança de conteúdo de IA.
Nas telas Filtro de entrada e Filtro de saída, acione o botão Lista de bloqueio. Em seguida, você pode selecionar uma lista de bloqueio na lista. Há dois tipos de listas de bloqueio: as listas de bloqueio personalizadas que você criou e as listas de bloqueio predefinidas que a Microsoft fornece; neste caso, uma lista de bloqueios de palavrões (em inglês).
Agora, você pode decidir qual das listas de bloqueio disponíveis deseja incluir na configuração de filtragem de conteúdo. A última etapa é revisar e concluir a configuração de filtragem de conteúdo selecionando Avançar. Você sempre pode voltar e editar sua configuração. Quando tudo estiver pronto, selecione Criar filtro de conteúdo. A nova configuração que inclui suas listas de bloqueio agora pode ser aplicada a uma implantação.
