Entscheidungsbaum – Daten mit Ja/Nein-Fragen klassifizieren

InformatikDaten, KI und maschinelles LernenAlter 17–18

Mit meiner Klasse nutzen

Daten aus zwei Klassen in einer Ebene mit zwei Merkmalen (Wetter und Ausgehen, Apfel oder Zitrone, Test bestanden). Der Computer baut einen Entscheidungsbaum, indem er an jedem Knoten die Frage „Merkmal ≤ Schwellenwert?“ wählt, die die Gini-Unreinheit oder Entropie am stärksten senkt, oder die Lernenden schneiden Bereiche selbst und sehen die Abnahme der Unreinheit vorab. Die Ebene wird in Rechtecke geteilt, der Baum erscheint darunter; über die maximale Tiefe vergleichen Sie die Genauigkeit auf Trainings- und Testdaten und sehen Überanpassung deutlich. Unter Eigene Regeln schreiben die Lernenden bis zu drei Wenn-dann-Regeln, verfeinern ihre Schwellenwerte an einer Trainingsstichprobe, testen jede Version an einer neuen Stichprobe und halten ihre Genauigkeit fest.

Lektion: Maschinelles Lernen: Entscheidungsbäume, Gini-Unreinheit und Entropie, Trainings- und Testdaten, Überanpassung

Was sie zeigt

Ein Entscheidungsbaum klassifiziert ein Beispiel durch eine Kette von Ja/Nein-Fragen, die jeweils ein Merkmal mit einem Schwellenwert vergleichen; so wird die Merkmalsebene in Rechtecke geteilt. Die Daten entstehen aus einer verborgenen Regel mit zufällig vertauschten Labels (Rauschen). Der Computer wählt gierig den Schnitt, der die Gini-Unreinheit oder Entropie am stärksten senkt; tiefere Bäume passen besser zu den Trainingsdaten, können aber das Rauschen auswendig lernen. Unter Eigene Regeln schreiben Sie das Modell selbst: Wenn-dann-Regeln mit Grenzen, eingestellt an einer Trainingsstichprobe und getestet an neuen Stichproben, die die Regeln nie gesehen haben.

So funktioniert es

Stellen Sie unter Computer baut den Baum die Maximale Tiefe von 1 bis 8 ein und vergleichen Sie Trainings- und Testgenauigkeit. Wählen Sie unter Eigene Fragen stellen Senkrechter Schnitt oder Waagrechter Schnitt und klicken Sie in einen Bereich, um ihn zu teilen. Stellen Sie unter Eigene Regeln die Grenzen und die Klasse jeder Regel ein, beobachten Sie die Trainingsgenauigkeit und drücken Sie dann An neuer Stichprobe testen und speichern, um jede Version mit ihrer Genauigkeit festzuhalten.

Einstellbare Parameter

  • Datensatz Rausgehen? (Temperatur, Luftfeuchtigkeit), Apfel oder Zitrone? (Masse, Rötung der Schale), Test bestanden? (Lernstunden, Probetest)
  • Anzahl der Datenpunkte 40–200 Punkte
  • Rauschen (Anteil vertauschter Labels) 0–30 %
  • Maximale Baumtiefe 1–8
  • Teilungskriterium Gini-Unreinheit, Entropie (Informationsgewinn)
  • Testdaten anzeigen
  • Ansicht Entscheidungsbaum, Eigene Regeln

Fragen zum Erkunden

  1. Warum steigt die Trainingsgenauigkeit mit der Tiefe immer weiter, die Testgenauigkeit aber nicht?
  2. Warum braucht der Datensatz „Test bestanden?“ mit seiner schrägen Grenze so viele Fragen?
  3. Was verrät die erste Frage an der Wurzel über die Daten?