Tahap 4 · Jalur · 5 penjelasan
NLP II: Model Bahasa
Klasifikasi, seq2seq, NER, dan pemodelan bahasa dengan BERT
- 1
Text Classification & Sentiment
Latih model untuk memberi label pada teks, dari deteksi spam sampai sentiment analysis
- 2
Seq2Seq & Beam Search
Lakukan encode pada input sequence, lalu decode menjadi output: arsitektur di balik penerjemahan
- 3
Named Entity Recognition
Mengenali dan mengklasifikasikan named entity (orang, tempat, organisasi) dalam teks
- 4
Language Modeling
Memprediksi token berikutnya, tujuan yang menggerakkan GPT, BERT, dan NLP modern
- 5
BERT dan Masked Language Modeling
Sembunyikan satu kata, prediksi dari dua sisi: cara BERT mempelajari representasi bidirectional yang dalam