Overfit Tailor
Pasang kurva pada titik-titik ber-noise, lalu lihat hasilnya pada titik yang belum pernah dilihat. Kurva yang pas sempurna biasanya jebakan.
- Training points
- Kurvamu
Geser pegangan untuk membentuk kurva melewati titik-titik, lalu uji pada titik yang tidak terlihat. Skormu berasal dari titik tersembunyi itu, bukan dari titik yang terlihat.
Training error hanya mengukur titik yang terlihat. Babak berikutnya menunjukkan kenapa angka ini tidak bisa dipercaya.
Cara bermain
Setiap babak menampilkan titik training yang ber-noise. Bentuk kurva, lalu uji pada titik tersembunyi yang berasal dari pola yang sama. Test error-mu harus mengalahkan target, dan kamu punya tiga percobaan per babak. Semua titik sudah tetap, jadi setiap pemain melihat data yang sama.
Yang diajarkan tiap babak
- Pas dengan tangan: model dinilai dari titik yang belum pernah dilihat, bukan dari titik yang dipakai untuk membentuknya. Sembilan pegangan tidak cukup lentur untuk menghafal banyak noise, jadi babak berikutnya memberi kurva lebih banyak kebebasan.
- Degree: training error selalu turun saat model makin lentur, sedangkan test error turun lalu naik.
- Sedikit titik: dengan data yang sedikit, regularization mengendalikan model yang lentur.
Untuk penjelasan lengkapnya, baca Overfitting.
Pertanyaan umum
Apa itu overfitting?
Model mengalami overfitting ketika mempelajari noise pada data training bersama pola yang sebenarnya. Training error terlihat bagus, tetapi hasilnya lebih buruk pada data yang belum pernah dilihat.
Kenapa training error tidak bisa memberi tahu kapan harus berhenti?
Model yang lebih lentur selalu bisa mengikuti titik training setidaknya sama baiknya, jadi training error terus turun. Hanya data yang belum pernah dilihat model yang menunjukkan kapan kelenturan tambahan tidak lagi membantu.
Apa itu underfitting?
Model mengalami underfitting ketika terlalu sederhana untuk mengikuti pola. Training error dan test error sama-sama tinggi, seperti garis lurus pada data yang melengkung.
Apa fungsi regularization?
Regularization menambahkan penalti untuk weight yang besar ke loss, sehingga model lebih memilih kurva yang tenang. Game ini memakai ridge regression, yang juga disebut L2 regularization. Terlalu sedikit membuat kurvanya tetap liar, dan terlalu banyak meratakan pola yang sebenarnya.