Yapay ZekâÖnerilenAIML-TRF-012
Mixture-of-Experts Layers
Routing each token to a few expert feed-forward networks: more parameters without more compute per token.
Bu konunun henüz Türkçe çevirisi yok, bu yüzden İngilizce gösteriliyor.
- Zorluk
- 4 / 5
- Önem
- 4 / 5
- Çalışma süresi
- 1–2 sa
- Çalışma türü
- Karma
Neden önemli
The learner can trace token routing through a top-k MoE layer and explain the load-balancing problem.