SMOTE

In diesem Artikel wird beschrieben, wie die SMOTE-Komponente im Azure Machine Learning-Designer verwendet werden kann, um die Anzahl von unterrepräsentierten Fällen in einem Dataset zu erhöhen, das für maschinelles Lernen verwendet wird. SMOTE bietet eine bessere Möglichkeit, die Anzahl von seltenen Fälle zu erhöhen, statt einfach vorhandene Fälle zu duplizieren.

Sie verbinden die SMOTE-Komponente mit einem Dataset, das unausgeglichen ist. Es gibt viele Gründe, warum ein Dataset unausgeglichen sein kann. Beispielsweise kann es sein, dass die gewählte Kategorie in der Population selten oder die Erfassung der Daten schwierig ist. In der Regel verwenden Sie SMOTE, wenn die Klasse, die Sie analysieren möchten, unterrepräsentiert ist.

Die Komponente gibt ein Dataset mit den ursprünglichen Beispielen zurück. Je nachdem, welchen Prozentsatz Sie angeben, wird auch eine Reihe von „synthetischen Minderheitsstichproben“ zurückgegeben.

Weitere Informationen zu SMOTE

Synthetic Minority Oversampling Technique (SMOTE) ist ein statistisches Verfahren, um die Anzahl von Fällen in Ihrem Dataset auf ausgeglichene Weise zu erhöhen. Die Komponente geht so vor, dass sie neue Instanzen aus vorhandenen Minderheitsfällen erstellt, die Sie als Eingabe bereitstellen. Bei dieser Implementierung von SMOTE werden keine Änderungen an der Anzahl von Mehrheitsfällen vorgenommen.

Die neuen Instanzen sind nicht einfach Kopien von vorhandenen Minderheitsfällen. Stattdessen werden im Algorithmus Stichproben des Merkmalsraums für jede Zielklasse und deren nächste Nachbarn verwendet. Anschließend werden vom Algorithmus neue Beispiele generiert, in denen Merkmale des Zielfalls mit Merkmalen seiner Nachbarn kombiniert sind. Dieser Ansatz erhöht die für jede Klasse verfügbaren Merkmale und macht die Stichproben allgemeiner.

SMOTE übernimmt das gesamte Dataset als Eingabe, erhöht aber nur den Prozentsatz der Minderheitsfälle. Nehmen Sie beispielsweise an, Sie haben ein unausgewogenes Dataset, in dem nur 1 Prozent der Fälle den Zielwert A (die Minderheitsklasse) und 99 Prozent der Fälle den Wert B haben. Wenn Sie den Prozentsatz der Minderheitsfälle auf das Doppelte des vorherigen Prozentsatzes erhöhen möchten, geben Sie in den Eigenschaften der Komponente den Wert 200 unter SMOTE percentage (SMOTE-Prozentsatz) ein.

Beispiele

Wir empfehlen Ihnen, SMOTE zu Testzwecken mit einem kleinen Dataset zu verwenden, um die Funktionsweise zu testen. Im folgenden Beispiel wird das Blood Donation-Dataset (Blutspende-Dataset) verwendet, das in Azure Machine Learning-Designer verfügbar ist.

Wenn Sie das Dataset einer Pipeline hinzufügen und in der Ausgabe des Datasets die Option Visualisieren auswählen, können Sie sehen, dass von den 748 Zeilen oder Fällen, die im Dataset enthalten sind, 570 Fälle (76 Prozent) zur Klasse 0 und 178 Fälle (24 Prozent) zur Klasse 1 gehören. Obwohl dies kein Ergebnis mit übermäßiger Unausgeglichenheit ist, entspricht Klasse 1 den Personen, die Blut gespendet haben. Daher enthalten diese Zeilen den Merkmalsraum, den Sie modellieren möchten.

Um die Anzahl von Fällen zu erhöhen, können Sie den Wert von SMOTE percentage (SMOTE-Prozentsatz) wie folgt mit Vielfachen von 100 festlegen:

	Klasse 0	Klasse 1	total
Ursprüngliches Dataset (entspricht SMOTE percentage = 0)	570 76 %	178 24 %	748
SMOTE percentage = 100	570 62 %	356 38 %	926
SMOTE percentage = 200	570 52 %	534 48 %	1.104
SMOTE percentage = 300	570 44 %	712 56 %	1.282

Warnung

Das Erhöhen der Anzahl von Fällen über SMOTE garantiert nicht, dass genauere Modelle erzeugt werden. Versuchen Sie, die Pipelineverarbeitung mit unterschiedlichen Prozentsätzen, unterschiedlichen Merkmalssätzen und unterschiedlich vielen nächsten Nachbarn auszuprobieren, um zu ermitteln, wie sich das Hinzufügen von Fällen auf Ihr Modell auswirkt.

Konfigurieren von SMOTE

1. Fügen Sie der Pipeline die SMOTE-Komponente hinzu. Sie finden die Komponente unter Datentransformationskomponenten in der Kategorie Manipulation (Bearbeitung).

2. Stellen Sie eine Verbindung mit dem Dataset her, für das Sie eine Erhöhung vornehmen möchten. Wenn Sie den Merkmalsraum für das Erstellen der neuen Fälle angeben möchten – entweder indem nur bestimmte Spalten verwendet oder einige ausgeschlossen werden –, verwenden Sie die Komponente Select Columns in Dataset (Spalten im Datensatz auswählen). Anschließend können Sie die Spalten isolieren, die Sie vor der Nutzung von SMOTE verwenden möchten.

   Andernfalls erfolgt die Erstellung neuer Fälle über SMOTE basierend auf allen Spalten, die Sie als Eingaben bereitstellen. Mindestens eine Spalte der Merkmalsspalten (Featurespalten) ist numerisch.

3. Wählen Sie die Spalte aus, die die Bezeichnung oder Zielklasse enthält. Für SMOTE werden nur binäre Bezeichnungen akzeptiert.

4. Die SMOTE-Komponente erkennt automatisch die Minderheitsklasse in der Bezeichnungsspalte und ruft dann alle Fälle für die Minderheitsklasse ab. Nicht alle Spalten dürfen NaN-Werte enthalten.

5. Geben Sie für die Option SMOTE percentage (SMOTE-Prozentsatz) eine ganze Zahl ein, die den Zielprozentsatz der Minderheitsfälle im Ausgabedataset angibt. Beispiel:

   • Sie geben 0 ein. Die SMOTE-Komponente gibt genau das Dataset zurück, das Sie als Eingabe bereitgestellt haben. Es werden keine neuen Minderheitsfälle hinzugefügt. In diesem Dataset hat sich das Verhältnis der Klassen nicht geändert.

   • Sie geben 100 ein. Die SMOTE-Komponente generiert neue Minderheitsfälle. Es wird die gleiche Anzahl von Minderheitsfällen wie im ursprünglichen Dataset hinzugefügt. Weil SMOTE die Anzahl von Mehrheitsfällen nicht erhöht hat, hat sich das Verhältnis der Fälle jeder Klasse geändert.

   • Sie geben 200 ein. Die Komponente verdoppelt den Prozentsatz der Minderheitsfälle im Vergleich zum ursprünglichen Dataset. Dies führt nicht dazu, dass nun die doppelte Anzahl von Minderheitsfällen vorliegt. Stattdessen wird die Größe des Datasets so angehoben, dass die Anzahl von Mehrheitsfällen unverändert bleibt. Die Anzahl von Minderheitsfällen wird angehoben, bis der gewünschte Prozentwert erreicht ist.

   Hinweis

   Verwenden Sie für den SMOTE-Prozentsatz nur Vielfache von 100.

6. Verwenden Sie die Option Number of nearest neighbors (Anzahl der nächsten Nachbarn), um die Größe des Merkmalsraums zu bestimmen, den der SMOTE-Algorithmus für das Erstellen neuer Fälle verwenden soll. Ein nächster Nachbar ist eine Zeile mit Daten (ein Fall), die einem Zielfall ähnelt. Der Abstand zwischen zwei Fällen wird gemessen, indem die gewichteten Vektoren aller Merkmale (Features) kombiniert werden.

   • Durch Erhöhen der Anzahl der nächsten Nachbarn erhalten Sie Merkmale von mehr Fällen.
   • Belassen Sie es bei einer kleinen Anzahl der nächsten Nachbarn, verwenden Sie Merkmale, die eher denen in der ursprünglichen Stichprobe ähneln.

7. Geben Sie einen Wert in das Feld Random seed (Zufälliger Ausgangswert) ein, wenn Sie dieselben Ergebnisse über Ausführungen derselben Pipeline mit denselben Daten sicherstellen möchten. Andernfalls generiert die Komponente einen zufälligen Seed anhand von Prozessortaktwerten, wenn die Pipeline bereitgestellt wird. Dies kann zu geringfügig unterschiedlichen Ergebnissen zwischen Ausführungen führen.

8. Übermitteln Sie die Pipeline.

   Die Ausgabe der Komponente ist ein Dataset, das die ursprünglichen Zeilen sowie eine Reihe von hinzugefügten Zeilen mit Minderheitsfällen enthält.

Technische Hinweise

• Wenn Sie ein Modell veröffentlichen, in dem die SMOTE-Komponente verwendet wird, entfernen Sie SMOTE aus der prädiktiven Pipeline, bevor sie als Webdienst veröffentlicht wird. Der Grund dafür ist, dass SMOTE zum Verbessern eines Modells während des Trainings und nicht für Bewertungen vorgesehen ist. Möglicherweise erhalten Sie einen Fehler, wenn eine veröffentlichte prädiktive Pipeline die SMOTE-Komponente enthält.

• Sie können häufig bessere Ergebnisse erzielen, indem Sie die Bereinigung fehlender Werte oder andere Transformationen anwenden, um Daten vor dem Anwenden von SMOTE zu korrigieren.

• Einige Forscher haben untersucht, ob SMOTE für Daten mit vielen Dimensionen oder mit geringer Dichte geeignet ist, z. B. in Textklassifizierungs- oder Genomikdatasets verwendete Daten. Im folgenden Artikel finden Sie eine gute Zusammenfassung der Effekte und der theoretischen Gültigkeit bei der Anwendung von SMOTE: Blagus and Lusa: SMOTE for high-dimensional class-imbalanced data (Blagus und Lusa: SMOTE für hochdimensionierte Daten mit Unausgeglichenheit bei Klassen).

• Falls Sie mit SMOTE für Ihr Dataset keine gut Wirksamkeit erzielen, können Sie beispielsweise die folgenden anderen Ansätze in Erwägung ziehen:

  • Methoden zur Überquotierung von Minderheitsfällen oder zur Unterquotierung von Mehrheitsfällen
  • Kombinationstechniken, die dem Lernenden direkt helfen, indem Clustering, Bagging oder adaptives Boosting verwendet wird

Nächste Schritte

Hier finden Sie die für Azure Machine Learning verfügbaren Komponenten.