Tahap 4 · Jalur · 7 penjelasan
NLP I: Teks sebagai Angka
Tokenization, feature teks klasik, dan word embedding
- 1
Tokenization & BPE
Cara teks menjadi angka, dari karakter sampai subword token lewat byte-pair encoding
- 2
Bag of Words
Mengubah teks menjadi angka: hitung kemunculan kata untuk membuat representasi dokumen paling sederhana di NLP
- 3
TF-IDF
Menilai seberapa penting sebuah kata bagi satu dokumen dalam koleksi, dasar mesin pencari dan text retrieval
- 4
Word2Vec & Word Embedding
Mempelajari representasi dense vector, dengan kata yang mirip saling berdekatan di dalam ruang
- 5
CBOW (Continuous Bag of Words)
Memprediksi kata pusat dari konteksnya: arsitektur perata-rataan di balik Word2Vec
- 6
Skip-gram
Memprediksi kata konteks dari kata pusat: arsitektur Word2Vec yang dilatih dengan negative sampling
- 7
Embedding
Mengubah kata dan kategori menjadi vector