Klassifikation mit k-nächsten Nachbarn (k-NN): eine Idee des maschinellen Lernens
InformatikDaten, KI und maschinelles LernenAlter 17–18
Im Unterricht einsetzen: Ihre Schülerinnen und Schüler öffnen sie über einen Link oder QR-Code, ganz ohne Konto.
Als Nächstes in Daten, KI und maschinelles Lernen
Die Trainingsdaten sind zwei Klassen von Punkten in einer Ebene, die durch zwei Merkmale bestimmt ist. Die Lernenden ziehen einen neuen Punkt (den Stern) an eine beliebige Stelle: Der Computer findet seine k nächsten Nachbarn, zählt die Stimmen jeder Klasse und ordnet den neuen Punkt zu; der schattierte Hintergrund zeigt die Entscheidungsgrenze des Modells. Fügen Sie per Klick Trainingspunkte hinzu und ändern Sie k, um zu sehen, wie das Modell schärfer oder glatter wird.
Lektion: Einführung in das maschinelle Lernen: Klassifikationsprobleme, Trainingsdaten, der Algorithmus k-nächste Nachbarn
Was sie zeigt
Das Verfahren der k-nächsten Nachbarn ist einer der einfachsten Algorithmen des überwachten maschinellen Lernens. Beschriftete Trainingsbeispiele werden nach zwei Merkmalen eingetragen, etwa Masse und Süße von Orangen und Grapefruits. Um einen neuen Punkt einzuordnen, misst der Algorithmus den geradlinigen (euklidischen) Abstand zu jedem Trainingspunkt, nimmt die k nächsten und lässt sie abstimmen; bei Gleichstand entscheidet der nächste Nachbar. Ein kleines k ergibt eine zerklüftete Entscheidungsgrenze, die Ausreißern folgt, ein größeres k eine glattere. Überlappen sich die Klassen, sind einige Fehlklassifikationen unvermeidlich.
So funktioniert es
Wählen Sie eine Aufgabe und beginnen Sie mit k = 1 und aktivierter Option Entscheidungsbereich schattieren. Ziehen Sie den Stern in verschiedene Bereiche und lesen Sie die Stimmen ab. Erhöhen Sie die Anzahl der Nachbarn k und beobachten Sie, wie die Grenze glatter wird; erhöhen Sie dann die Streuung, bis sich die Klassen überlappen. Setzen Sie mit Punkt Klasse A oder Punkt Klasse B einen Ausreißer und vergleichen Sie seine Wirkung bei kleinem und großem k. Mit Neue Daten prüfen Sie, ob die Erkenntnisse halten.
Einstellbare Parameter
- Anzahl der Nachbarn k 1–15
- Trainingspunkte pro Klasse 5–40 Punkte
- Streuung (Überlappung der beiden Klassen) 1–5
- Entscheidungsbereich schattieren
- Aufgabe Orange oder Grapefruit (Masse, Süße), Zwei Blumenarten (Länge, Breite des Blütenblatts), Spam oder normale E-Mail (Anzahl Links, Länge)
Fragen zum Erkunden
- Warum wählt man bei zwei Klassen meist einen ungeraden Wert für k?
- Wie verlässlich ist die Vorhersage für einen neuen Punkt im Überlappungsbereich der beiden Klassen?
- Wie verändert ein falsch beschrifteter Trainingspunkt die Entscheidungsgrenze bei k = 1 und bei k = 7?
