Kenapa feed terjebak pada item populer
Model rekomendasi belajar dari klik, dan pengguna hanya bisa mengeklik yang ditampilkan feed. Ini menutup lingkaran: item yang sudah disukai model ditampilkan, mengumpulkan klik, dan bertahan; item yang belum pernah ditampilkan tidak mengumpulkan apa pun, jadi model tidak pernah tahu apakah item itu bagus.
- Grafik ini adalah simulasi dengan seed tetap untuk 300 pengguna dan 1.000 item. Setiap ronde, tiap pengguna melihat 10 item dan mengeklik masing-masing sesuai probabilitas klik sebenarnya. Model mulai dari prediksi two-tower untuk setiap pasangan pengguna dan item, dan memperbarui perkiraan suatu pasangan hanya ketika item itu ditampilkan ke pengguna itu. Item yang tidak pernah ditampilkan tetap memakai perkiraan awalnya selamanya.
- Tanpa eksplorasi, feed menampilkan ke tiap pengguna 10 item dengan perkiraan tertinggi. Setelah 40 ronde, hanya 8% katalog yang pernah ditampilkan. Impression Gini, yang bernilai 0 ketika semua item ditampilkan sama banyak dan 1 ketika satu item mendapat semua impression, adalah 0,97. Click rate tetap naik ke 46,2%, jadi dashboard terlihat sehat, padahal log hanya mencakup sudut kecil katalog yang sebagian besar populer.
- Dengan eksplorasi 10%, setiap slot punya peluang 1 dari 10 untuk diberikan ke item acak. Semua item sudah ditampilkan pada ronde 22 dan Gini turun ke 0,89. Harganya juga terlihat: pada ronde 40, click rate 42,1%, lebih rendah 4,1 poin, karena item acak biasanya kurang relevan dibandingkan pilihan model.
Intinya
Eksplorasi adalah biaya yang sengaja dibayar untuk mendapatkan data. Model berikutnya dilatih dengan klik yang tercatat, dan ia hanya bisa belajar tentang item yang ditampilkan model lama. Eksplorasi yang lebih cerdas, seperti metode bandit yang mengutamakan item yang belum diyakini model, membayar lebih sedikit untuk cakupan yang sama. Studi kasus Merancang Feed Rekomendasi menjalankan simulasi ini dengan tingkat eksplorasi pilihanmu.
Data Drift dan Model Monitoring
Di langkah tentang data training dan data live, geser pergeseran rata-rata feature live dan lihat kedua data itu saling menjauh.
Buka penjelasan interaktif