Yapay ZekâÇekirdekAIML-TRF-009

Positional Encoding Schemes and RoPE

Absolute, learned, relative, and rotary encodings: how position enters attention scores.

Bu konunun henüz Türkçe çevirisi yok, bu yüzden İngilizce gösteriliyor.

Zorluk
2 / 5
Önem
5 / 5
Çalışma süresi
1–2 sa
Çalışma türü
Karma

Neden önemli

The learner can explain how rotary embeddings make the query-key score depend only on relative offset.

Bu konuya giden rota

Rota AIML-TRF-009