Big data dan sistem rekomendasi – gelembung filter

InformatikaData, AI, dan pembelajaran mesinUsia 17–18

Gunakan di kelas saya

Bagian atas menampilkan alur big data: rekaman mentah dikumpulkan, lalu dibersihkan (membuang duplikat, kolom kosong, dan entri berformat salah) sebelum dianalisis; siswa menggeser jumlah rekaman dan tingkat pembersihan untuk melihat perubahan jumlah rekaman yang dapat dipakai dan keandalan hasilnya. Bagian bawah menjalankan sistem rekomendasi putaran demi putaran: sistem terus menyarankan topik yang paling sering Anda tonton, minat Anda pada topik itu bertambah, keragaman yang diukur dengan entropi terus turun, dan terbentuklah gelembung filter; menaikkan tingkat eksplorasi memecahkan gelembung itu.

Pelajaran: Big data dan kecerdasan artifisial: pengumpulan, pembersihan, analisis data, dan sistem rekomendasi

Yang ditunjukkan

Pengolahan big data mengikuti alur: mengumpulkan rekaman mentah, membersihkannya, menganalisisnya, lalu bertindak berdasarkan hasilnya. Data dari media sosial, sensor, penjualan, atau platform belajar mengandung duplikat, field kosong, dan kesalahan, sehingga tanpa pembersihan, kumpulan data yang sangat besar pun memberi hasil yang kurang andal. Bagian kedua memodelkan sistem rekomendasi yang terus menyarankan topik yang paling sering ditonton pengguna. Keragaman diukur dengan entropi ternormalisasi, H = −Σ pᵢ·log pᵢ ÷ log(jumlah topik), yang turun mendekati 0% saat satu topik mendominasi dan gelembung filter terbentuk. Tingkat eksplorasi sesekali menambahkan saran yang belum pernah dilihat.

Cara menggunakan

Pilih Sumber data dan geser penggeser Rekaman dan Pembersihan sambil membandingkan jumlah rekaman yang dapat dipakai dan perkiraan keandalannya. Lalu atur Eksplorasi ke 0%, tekan Jalankan rekomendasi atau gunakan Langkah untuk maju per putaran, dan amati kurva keragaman menurun. Tekan Atur ulang, naikkan tingkat eksplorasi, lalu jalankan lagi untuk membandingkan. Mengeklik batang topik membuat pengguna menonton topik itu dan memperlihatkan seberapa cepat sistem mengikutinya.

Parameter yang dapat diubah

  • Sumber data Unggahan media sosial, Sensor perangkat pintar, Transaksi penjualan, Log belajar daring
  • Jumlah rekaman mentah yang dikumpulkan 1–10000 ribu rekaman
  • Tingkat pembersihan data 0–100 %
  • Tingkat eksplorasi sistem rekomendasi 0–50 %
  • Jumlah putaran rekomendasi 5–50 putaran

Pertanyaan untuk dijelajahi

  1. Mengapa kumpulan data yang sangat besar tetapi belum dibersihkan tetap dapat memberi hasil yang tidak akurat?
  2. Apa arti entropi yang menurun bagi konten yang dilihat pengguna?
  3. Kira-kira tingkat eksplorasi berapa yang mencegah gelembung filter terbentuk dalam 20 putaran?