15) All about Sinusoidal Positional Encodings What’s with the weird sin-cos formula1просмотрмесяц назад
14) Integer and Binary Positional Encodings Journey towards Rotary Positional Encodings (RoPE)3просмотрамесяц назад
12) Multi-Head Latent Attention From Scratch One of the major DeepSeek innovation6просмотровмесяц назад
11) Understand Grouped Query Attention (GQA) The final frontier before latent attention7просмотровмесяц назад
