RAG vs fine-tuning: mencarinya atau mempelajarinya

Model bahasa menjawab dari weight-nya, angka yang dipelajarinya saat training. Ada dua cara umum untuk memberinya pengetahuan yang belum ia punya. Retrieval-augmented generation (RAG) mencari pengetahuan itu untuk setiap pertanyaan. Fine-tuning, training lanjutan pada contoh baru, memasukkannya ke dalam weight.

1. 1
   RAG bekerja saat pertanyaan datang. Deployment adalah saat sistem mulai dipakai. Sebelum itu, dokumen dipotong menjadi chunk, bagian teks pendek, dan disimpan dalam indeks, tempat penyimpanan yang bisa menemukan chunk yang maknanya paling dekat dengan pertanyaan. Saat pertanyaan datang, sistem mengambil chunk terdekat, secara bawaan 3 di penjelasan RAG, lalu menambahkannya ke prompt, teks yang dibaca model. Weight tidak pernah berubah. Mengubah dokumen akan mengubah jawaban berikutnya setelah dokumen itu diindeks ulang, dan setiap jawaban bisa menyebut chunk yang dipakainya.
2. 2
   Fine-tuning bekerja sebelum deployment. Ia melatih model lebih lanjut pada contoh perilaku yang kamu inginkan, seperti pertanyaan yang dipasangkan dengan jawaban ideal, dan training itu memperbarui weight. Saat pertanyaan datang, prompt hanya berisi pertanyaan, dan semua yang lain berasal dari weight. Mengubah yang sudah dipelajari model memerlukan training lagi, dan jawabannya tidak punya dokumen untuk dirujuk.
3. 3
   RAG cocok untuk fakta yang baru atau sering berubah, seperti harga, kebijakan, atau tiket dukungan minggu ini, dan jawaban yang harus menyebut sumber. Fine-tuning cocok untuk gaya, format, dan keahlian sempit: nada khas perusahaan, format output yang ketat, atau satu tugas khusus seperti mengelompokkan tiket menurut topik. Cara ini sering kurang efektif untuk menambah fakta. Gekhman et al. (2024) menemukan bahwa model mempelajari fakta baru dengan lambat melalui fine-tuning dan lebih sering mengarang jawaban setelah berhasil mempelajarinya.