
07. Artificial Intelligence(AI)_Attention and Transformer
언어 모델링과 Chain Rule, 언어 모델 평가 지표 PPL과 BLEU의 계산과 한계, Seq2Seq의 정보 병목과 Attention의 등장, Query·Key·Value와 Attention 5단계(Score, Softmax, 가중합, 연결, 출력), Transformer의 Scaled Dot-product Attention, Multi-head ...



