No regret Just Lesson

본 게시글은 NLP in Korean의 The Illustrated Transformer 게시글을 정리한 것입니다. Transformer를 공부하시는 분들은 시각적인 자료로 쉽게 설명되어 있으니 한번 보시는 것을 추천드립니다. 목차 Introduction 개괄적인 수준의 설명 벡터들을 기준으로 그림 그려보기 이제 Encoding을 해봅시다! 크게 크게 살펴보는 Self-Attention Self-Attention 을 더 자세히 보겠습니다. Self-attention 의 행렬 계산 The Beast With Many Heads Positional Encoding 을 이용해서 시퀀스의 순서 나타내기 The Residuals The Decoder Side 마지막 Linear Layer과 Softmax Laye..