Classification par k plus proches voisins (k-NN) : une idée de l’apprentissage automatique

InformatiqueDonnées, IA et apprentissage automatique17–18 ans

Utiliser avec ma classe

Les données d’entraînement forment deux classes de points dans un plan défini par deux caractéristiques. Les élèves font glisser un nouveau point (l’étoile) où ils veulent : l’ordinateur trouve ses k plus proches voisins, compte les voix de chaque classe et attribue une étiquette au nouveau point ; le fond coloré montre la frontière de décision du modèle. Ajoutez des points d’entraînement d’un clic et modifiez k pour voir le modèle devenir plus fin ou plus lisse.

Leçon : Introduction à l’apprentissage automatique : problèmes de classification, données d’entraînement, algorithme des k plus proches voisins

Ce qu’elle montre

Les k plus proches voisins forment l’un des algorithmes d’apprentissage supervisé les plus simples. Les exemples d’entraînement étiquetés sont placés selon deux caractéristiques, comme la masse et le taux de sucre d’oranges et de pamplemousses. Pour classer un nouveau point, l’algorithme mesure la distance en ligne droite (euclidienne) à chaque point d’entraînement, retient les k plus proches et les fait voter ; en cas d’égalité, le voisin le plus proche décide. Avec un petit k, la frontière de décision est irrégulière et suit les points aberrants ; avec un k plus grand, elle est plus lisse. Si les classes se chevauchent, certaines erreurs sont inévitables.

Mode d’emploi

Choisissez un Problème et commencez avec k = 1 et Colorer la région de décision activé. Faites glisser l’étoile dans différentes zones et lisez les votes. Augmentez le Nombre de voisins k pour voir la frontière se lisser, puis la Dispersion pour faire se chevaucher les classes. Avec Ajouter un point A ou Ajouter un point B, placez un point aberrant et observez son effet avec un petit et un grand k. Cliquez sur Nouvelles données pour vérifier que les conclusions tiennent.

Paramètres modifiables

  • Nombre de voisins k 1–15
  • Points d’entraînement par classe 5–40 points
  • Dispersion (chevauchement des deux classes) 1–5
  • Colorer la région de décision
  • Problème Orange ou pamplemousse (masse, taux de sucre), Deux espèces de fleurs (longueur, largeur des pétales), Spam ou e-mail normal (nombre de liens, longueur)

Questions à explorer

  1. Pourquoi choisit-on en général une valeur impaire de k lorsqu’il y a deux classes ?
  2. Quelle confiance accorder à la prédiction pour un nouveau point placé là où les deux classes se chevauchent ?
  3. Comment un point d’entraînement mal étiqueté modifie-t-il la frontière de décision avec k = 1 et avec k = 7 ?