Partilhar via

Teste e validação (mineração de dados)

  • Artigo

Aplica-se a: SQL Server 2019 e anteriores do Analysis Services Azure Analysis Services Fabric/Power BI Premium

Importante

A mineração de dados foi preterida no SQL Server 2017 Analysis Services e agora foi descontinuada no SQL Server 2022 Analysis Services. A documentação não foi atualizada para recursos preteridos e descontinuados. Para saber mais, confira Compatibilidade com versões anteriores do Analysis Services.

A validação é o processo de avaliar como seus modelos de mineração são executados nos dados reais. É importante validar seus modelos de mineração entendendo suas qualidades e características antes de implantá-los em um ambiente de produção.

Esta seção apresenta alguns conceitos básicos relacionados à qualidade do modelo e descreve as estratégias de validação de modelo fornecidas no Microsoft SQL Server Analysis Services. Para obter uma visão geral de como a validação de modelo funciona no processo de mineração de dados mais amplo, consulte Soluções de mineração de dados.

Métodos para teste e validação de modelos de mineração de dados

Há muitas abordagens para avaliar a qualidade e as características de um modelo de mineração de dados.

  • Use várias medidas de validade estatística para determinar se há problemas nos dados ou no modelo.

  • Separe os dados em conjuntos de treinamentos e testes para testar a exatidão das previsões.

  • Peça a especialistas comerciais para revisarem os resultados do modelo de mineração de dados a fim de determinar se os padrões descobertos são significativos no cenário de negócios de destino

Todos esses métodos são úteis na metodologia de mineração de dados e são usados iterativamente ao criar, testar e refinar modelos para responder a um problema específico. Não há nenhuma regra abrangente que possa dizer quando um modelo é bom o bastante o quando tem dados suficientes.

Definição de critérios para validar modelos de mineração de dados

As medidas de mineração de dados geralmente entram nas categorias de exatidão, confiabilidade e utilidade.

Exatidão é uma medida que mostra se o modelo correlaciona um resultado com os atributos nos dados fornecidos. Há várias medidas de exatidão, mas todas dependem dos dados que são usados. Na verdade, os valores podem ser ausentes ou aproximados, ou os dados podem ter sido alterados por vários processos. Especialmente na fase de exploração e desenvolvimento, você pode decidir aceitar uma determinada quantidade de erros nos dados, especialmente se os dados tiverem características bastante uniformes. Por exemplo, um modelo que prevê vendas para uma loja específica baseado nas vendas anteriores pode estar fortemente correlacionado e ser bastante preciso, mesmo que a loja tenha usado sempre o método de contabilidade errado. Portanto, as medidas de exatidão devem ser equilibradas pelas avaliações de confiança.

Aconfiança avalia o modo como um modelo de mineração de dados é executado em conjuntos de dados diferentes. Um modelo de mineração de dados é confiável se gerar o mesmo tipo de previsões ou localizar os mesmos tipos gerais de padrões independentemente dos dados de teste fornecidos. Por exemplo, o modelo que você gerar para a loja que usou o método de contabilidade errado não pode ser generalizado para outras lojas e, portanto, não é confiável.

Autilidade inclui várias métricas que informam se o modelo fornece informações úteis. Por exemplo, um modelo de mineração de dados que correlaciona o local da loja com as vendas pode ser exato e confiável, mas não útil, porque você não pode generalizar esse resultado adicionando mais lojas no mesmo local. Além disso, ele não responde à questão empresarial fundamental de por que certos locais têm mais de vendas. Você também pode descobrir que um modelo que parece ter êxito na verdade é insignificante, porque se baseia em correlações cruzadas nos dados.

Ferramentas para teste e validação de modelos de mineração

SQL Server Analysis Services dá suporte a várias abordagens para validação de soluções de mineração de dados, dando suporte a todas as fases da metodologia de teste de mineração de dados.

  • Particionando dados em conjuntos de treinamento e de teste.

  • Filtrando modelos para treinar e testar diferentes combinações dos mesmos dados de origem.

  • Medindo comparação de precisão e ganho. Um gráfico de comparação de precisão é um método de visualização da melhoria obtida com o uso de um modelo de mineração de dados, quando você o compara com uma detecção aleatória.

  • Executando a validação cruzada de conjuntos de dados

  • Gerando matrizes de classificação. Esses gráficos classificam bons e maus palpites em uma tabela para poder medir com rapidez e facilidade a exatidão da previsão do valor de destino pelo modelo.

  • Criando dispersões para avaliar o ajuste de uma fórmula de regressão.

  • Criando gráficos de ganho que associam ganhos ou custos financeiros ao uso de um modelo de mineração para que você possa saber o valor das recomendações.

Essas métricas não pretendem responder se o modelo de mineração de dados atende sua necessidade comercial; em vez disso, essas métricas fornecem medidas objetivas que você pode usar para avaliar a confiabilidade de seus dados para análises preditivas e orientar sua decisão de usar ou não uma iteração específica no processo de desenvolvimento.

Os tópicos nesta seção fornecem uma visão geral de cada método e orientam o processo de medir a exatidão de modelos que você compila usando a Mineração de Dados do SQL Server.

Tópicos Links
Saiba configurar um conjunto de dados de testes usando um assistente ou comandos DMX Conjuntos de dados de teste e treinamento
Saiba testar a distribuição e a representatividade dos dados em uma estrutura de mineração Validação cruzada (Analysis Services - Mineração de dados)
Saiba mais sobre os tipos de gráfico de precisão fornecidos. Gráfico de comparação de precisão (Analysis Services - Mineração de Dados)

Gráfico de ganho (Analysis Services - Mineração de dados)

Dispersão (Analysis Services - Mineração de dados)
Saiba criar uma matriz de classificação, às vezes chamada de matriz de confusão, para avaliar o número de verdadeiros e falsos positivos e negativos. Matriz de classificação (Analysis Services - Mineração de dados)

Consulte Também

Ferramentas de mineração de dados
Soluções de mineração de dados
Tarefas de teste e validação e guias práticos (mineração de dados)