Yapay ZekâÇekirdekAIML-LM-004
The Language-Modeling Objective
Cross-entropy on text: the loss that trains next-token predictors, plus perplexity.
Bu konunun henüz Türkçe çevirisi yok, bu yüzden İngilizce gösteriliyor.
- Zorluk
- 2 / 5
- Önem
- 5 / 5
- Çalışma süresi
- 1–2 sa
- Çalışma türü
- Karma
Neden önemli
The learner can compute the LM loss for a tiny predicted sequence and read perplexity as average branching.