llm
8 wpisów pod tym tematem.
- 21 cze 2026
Anatomia LLM: LoRA i dotrenowywanie modeli
Jak wyspecjalizować gotowy model, nie ruszając miliardów jego wag: hipoteza niskiego rzędu i sztuczka LoRA, cała rodzina metod oszczędnego dotrenowywania (PEFT), kwantyzacja i QLoRA, a na końcu - po co w ogóle dotrenowywać, czyli jak z surowego modelu robi się asystent przez instruction tuning i RLHF.
- 13 cze 2026
Anatomia LLM: blok Transformera
Jak z jednej warstwy uwagi powstaje cały model: trzy rodziny architektur i dlaczego dzisiejsze LLM-y to prawie zawsze „dekoder”, połączenia rezydualne i normalizacja, które pozwalają piętrzyć dziesiątki warstw, sieć FFN jako magazyn wiedzy, a na końcu - jak z wektora liczb wyłania się konkretne słowo, od softmaksu po temperaturę i nucleus sampling.
- 12 cze 2026
Anatomia LLM: mechanizm uwagi
Serce Transformera: jak każdy token „rozgląda się” po pozostałych i bierze od nich to, czego potrzebuje, by doprecyzować swoje znaczenie. Od wąskiego gardła w starych sieciach tłumaczących, przez słynny wzór skalowanej uwagi i wielogłowość, po KV-cache, FlashAttention i ostrożne pytanie - co właściwie robią głowy uwagi, skoro „uwaga to jeszcze nie wyjaśnienie”.
- 11 cze 2026
Anatomia LLM: tokeny i embeddingi
Sieć nie widzi liter - widzi wektory. Jak tekst rozbija się na tokeny, dlaczego nie na słowa ani nie na znaki, jak algorytmy subword (BPE, WordPiece, Unigram) budują słownik, i jak rodzi się słynna geometria znaczeń, w której „król - mężczyzna + kobieta ≈ królowa” - razem z uczciwą krytyką tej analogii i z kodowaniem pozycji, o którym elementarze milczą.
- 10 cze 2026
Anatomia LLM: sieci, parametry i trening
Bierzemy garść neuronów i układamy je w sieć: dlaczego cały model sprowadza się do mnożenia macierzy, jak propagacja wsteczna zamienia losowy szum w rozumienie języka, skąd biorą się słynne miliardy parametrów i co naprawdę mówią prawa skalowania Kaplana i Chinchilli - z wzorami, genezą i konkretami.
- 09 cze 2026
Anatomia LLM: neuron i funkcje aktywacji
Najmniejsza cegiełka modelu językowego pod lupą: skąd wziął się sztuczny neuron, dlaczego bez funkcji aktywacji cała sieć byłaby bezużyteczna i czym naprawdę różnią się ReLU, GELU i SwiGLU - z wzorami, genezą i konkretami z GPT, LLaMA i Gemmy.
- 08 cze 2026
Anatomia LLM: od pojedynczego neuronu do mechanizmu uwagi
Jak naprawdę zbudowany jest model językowy? Przewodnik bez magii: neuron, wagi, tokeny, embeddingi, mechanizm uwagi, blok Transformera i LoRA - krok po kroku, z interaktywnymi diagramami do samodzielnego pobawienia się.
- 15 maj 2026
Łańcuchy Markowa: stuletni dowód, który napisał ChatGPT
Stuletni dowód matematyczny z 20 000 liter Puszkina, który dziś pozwala każdemu modelowi językowemu przewidzieć następne słowo. Historia, dowód krok po kroku i pomost do LLM.