Corong rekomendasi dalam 1 gambar

Feed rekomendasi punya waktu sekitar 100 ms untuk memilih beberapa item bagi satu pengguna dari jutaan item di katalog. Model yang paling baik menilai item terlalu lambat untuk dijalankan pada semuanya, jadi feed menyempitkan katalog secara bertahap, dan hanya tahap terakhir yang menangani item cukup sedikit untuk bisa menilai masing-masing dengan cermat.

1. 1
   Pita atas adalah seluruh katalog, 1 juta item. Retrieval memangkasnya menjadi 200 kandidat dalam sekitar 10 ms. Tahap ini memakai model two-tower: satu network mengubah pengguna menjadi vector, network lain mengubah tiap item menjadi vector, dan dot product keduanya memprediksi seberapa suka pengguna pada item itu. Vector item dihitung lebih dulu dan disimpan dalam indeks vector, yang menemukan 200 dot product terbesar tanpa memeriksa setiap item.
2. 2
   Pita tengah adalah ranking. Model yang lebih kaya, disebut ranker, menilai masing-masing dari 200 kandidat dengan feature yang terlalu mahal untuk retrieval, seperti aktivitas terbaru dan kebaruan item. Dengan 0,1 ms per item, biayanya 20 ms. Kalau dijalankan pada seluruh katalog, ranker yang sama memerlukan 1 juta × 0.1 ms = 100 s untuk satu request, seribu kali anggaran waktunya.
3. 3
   Pita bawah adalah feed. Re-ranker menyusun ulang bagian atas daftar hasil ranking supaya 10 slot tidak diisi item yang nyaris sama. Maximal marginal relevance (MMR) melakukannya dengan menimbang relevansi tiap item terhadap kemiripannya dengan item yang sudah terpilih. Biayanya sekitar 1 ms. Seluruh request memakan 31 ms, menyisakan ruang untuk panggilan jaringan dan pengambilan feature.