transformer

3 wpisów pod tym tematem.

• 13 cze 2026

  Anatomia LLM: blok Transformera

  Jak z jednej warstwy uwagi powstaje cały model: trzy rodziny architektur i dlaczego dzisiejsze LLM-y to prawie zawsze „dekoder”, połączenia rezydualne i normalizacja, które pozwalają piętrzyć dziesiątki warstw, sieć FFN jako magazyn wiedzy, a na końcu - jak z wektora liczb wyłania się konkretne słowo, od softmaksu po temperaturę i nucleus sampling.

• 12 cze 2026

  Anatomia LLM: mechanizm uwagi

  Serce Transformera: jak każdy token „rozgląda się” po pozostałych i bierze od nich to, czego potrzebuje, by doprecyzować swoje znaczenie. Od wąskiego gardła w starych sieciach tłumaczących, przez słynny wzór skalowanej uwagi i wielogłowość, po KV-cache, FlashAttention i ostrożne pytanie - co właściwie robią głowy uwagi, skoro „uwaga to jeszcze nie wyjaśnienie”.

• 08 cze 2026

  Anatomia LLM: od pojedynczego neuronu do mechanizmu uwagi

  Jak naprawdę zbudowany jest model językowy? Przewodnik bez magii: neuron, wagi, tokeny, embeddingi, mechanizm uwagi, blok Transformera i LoRA - krok po kroku, z interaktywnymi diagramami do samodzielnego pobawienia się.